اساسی‌ترین چالش هوش مصنوعی، مسئله سوگیری الگوریتمی است چند چالش اساسی در مورد سوگیری هوش‌مصنوعی وجود دارد که اغلب این چالش‌ها برگرفته از محتوای واقعی زندگی ماست و به الگوریتم هوش مصنوعی مربوط نمی‌شود، بلکه الگوریتم‌ها از محتوای زندگی ما الگو می‌گیرند و اساسی‌ترین چالشی که ممکن است هوش مصنوعی دچار آن شود، مسئله سوگیری الگوریتمی است. فرض کنید مجموعه داده‌هایی در دنیای واقعی وجود دارد که با تحلیل این داده‌ها هوش مصنوعی تصمیم می‌گیرد بیشترین امتیاز را به یک گروه خاص یا یک جامعه آماری خاص بدهد به‌عنوان مثال در تحلیل داده‌ها به این نتیجه رسیده است که جنسیت بر نحوه انجام یک کار خاص تاثیر دارد، الگوریتم ناخواسته در یک حفره سوگیری قرار گرفته است و این مسئله را جنسیتی می‌کند که لزوماً به معنی درست بودن نتایج برای تمام جوامع آماری نیست. در همین مثال جنسیتی، مشخص می‌شود که یادگیری مفاهیم مرتبط با هنر برای بانوان باکیفیت بالاتری همراه است و هوش مصنوعی این مورد را از دنیای واقعی الگوگیری کرده و در تحلیل‌ها از آن استفاده می‌کند. داده‌هایی که در تحلیل‌ها استفاده می‌شوند داده‌های انسانی و داده‌های سیستم‌های مختلف هستند که این داده‌ها به‌صورت مستقیم و غیر مستقیم با حریم خصوصی افراد سر و کار دارند پس نقض حریم خصوصی از دیگر چالش‌های اساسی در حوزه هوش مصنوعی محسوب می‌شود که چارچوب اخلاقی، آن را از نقض حریم خصوصی منع می‌کند. مورد بعدی بحث فقدان و نبودن شفافیت در نحوه عملکرد الگوریتم‌هاست. الگوریتم هوش مصنوعی داریم که برای منع ناظر انسانی جعبه سیاه دارد که این الگوریتم‌ توسط داده‌های دیگری آموزش دیده که ممکن است از قبل در آن داده‌ها سوگیری وجود داشته باشد و همان سوگیری به الگوریتم‌ها منتقل شود و این الگوریتم‌ها عملکرد توأم با سوگیری را انجام می‌دهند به عبارتی، ناظر انسانی نمی‌تواند عملکرد الگوریتم هوش مصنوعی را با دقت بررسی کند چون الگوریتم هوش مصنوعی الگوریتم‌های ایجاد شده هستند و این نبود شفافیت در نحوه عملکرد الگوریتم خودش به‌عنوان چالش بسیار اساسی است. #اخلاق‌هوش‌مصنوعی حکمرانی هوشمند @AIGovernance 🎙 ستاد راهبری فناوری‌های هوشمند 🆔 @itsetad_ir