اثر شبکه‌‌‌های عصبی بر سوگیری هوش مصنوعی (قسمت چهلم)

شنبه 1404/03/17 21:09 دسته بندی: مدیران کد خبر: 18599

به‌‌‌عنوان‌‌‌مثال، یک شبکه عصبی عمیق را در نظر بگیرید که با ده‌‌‌ها‌هزار تصویر مربوط به فعالیت‌‌‌های انسان تغذیه شده و قرار است از طریق بررسی ویژگی‌‌‌های مشابه موجود در این تصاویر به اطلاعاتی راجع به ماهیت این فعالیت‌‌‌ها و جنسیت کسانی که این کارها را انجام می‌‌‌دهند پی ببرد. اما مساله اینجاست که در اغلب موارد این تصاویر دارای سوگیری جنسیتی هستند، به‌‌‌طوری که برای نشان‌‌‌ دادن فعالیت‌‌‌های روزمره خارج از خانه، معمولا از مردانی که مثلا در حال رانندگی‌‌‌ یا تیراندازی هستند، استفاده می‌‌‌شود و برای نشان ‌‌‌دادن فعالیت‌‌‌هایی مانند آشپزی و خرید، از تصاویر زنانی که در حال انجام این کارها هستند استفاده می‌‌‌شود.

در این حالت اگر قرار باشد یک شبکه عصبی عمیق درک خود از مفهوم آشپزی را به‌‌‌صورت تصویری ارائه دهد در اغلب موارد از تصویر زنان در حال آشپزی استفاده می‌‌‌کند و اگر یک مرد در حال آشپزی‌‌‌کردن باشد شبکه عصبی عمیق به‌‌‌احتمال زیاد دچار سردرگمی شده و کاری که او در حال انجامش هست را آشپزی در نظر نمی‌‌‌گیرد. حال سوال اینجاست که چرا ما باید نگران رفتار تبعیض‌‌‌آمیز شبکه‌‌‌های عصبی عمیق باشیم و چرا سوگیری‌‌‌های این شبکه‌‌‌ها خطرناک است؟

پاسخ این سوال در این واقعیت نهفته است که ما از شبکه‌‌‌های عصبی انتظار داریم بدون اشتباه و صد‌درصد درست و دقیق همه چیز را تشخیص دهند. قضاوت ما در مورد این شبکه‌‌‌ها بر اساس پاسخ‌‌‌های درستی است که به سوالات می‌‌‌دهند و اگر قرار باشد یک شبکه عصبی مخصوص تشخیص‌‌‌ کارها و فعالیت‌‌‌ها نتواند آشپزی ‌‌‌کردن یک مرد را تشخیص دهد به هیچ دردی نخواهد خورد.

بنابراین، در پاسخ به این سوال که سوگیری شبکه‌‌‌های عصبی از کجا سرچشمه می‌‌‌گیرد، باید گفت که چنین سوگیری‌‌‌هایی در درون محتوا و تصاویری نهفته است که برای آموزش و تغذیه اطلاعاتی این شبکه‌‌‌ها مورد استفاده قرار می‌‌‌گیرند و باعث گول ‌‌‌خوردن و به بیراهه کشیده ‌‌‌شدن آنها می‌‌‌شوند. اگر بپرسید عامل اصلی این مساله، یعنی سوگیری جنسیتی محتوا و تصاویری که برای تغذیه شبکه‌‌‌های عصبی استفاده می‌‌‌شوند چیست، بخش دیگری از یک واقعیت تلخ برای شما هویدا می‌‌‌شود: اینکه سهم زنان در شرکت‌ها و سازمان‌هایی که تکنولوژی‌‌‌های آینده‌‌‌ساز را در اختیار دارند یا در همایش‌‌‌ها و گردهمایی‌‌‌های تخصصی مرتبط با تکنولوژی‌‌‌های دیجیتال از جمله هوش مصنوعی، به‌‌‌هیچ ‌‌‌عنوان با سهم مردان قابل ‌‌‌مقایسه نیست.

براساس جدیدترین آمار رسمی منتشر شده در این خصوص توسط مجله وایرد، تنها ۱۲‌درصد شرکت‌کنندگان در همایش‌‌‌های بین‌المللی برگزارشده در زمینه یادگیری ماشین در سال ۲۰۲۲ را زنان تشکیل می‌‌‌دادند یا فقط ۱۰‌درصد محققان حوزه یادگیری ماشین در شرکت گوگل زن هستند. تلخی شرایط کنونی زمانی برای ما بیشتر می‌‌‌شود که بدانیم در دهه ۱۹۸۰ بیش از ۴۰‌درصد فارغ‌التحصیلان رشته‌‌‌های کامپیوتر و داده در جهان را زنان تشکیل می‌‌‌دادند.

علاوه بر این باید دانست که سوگیری شبکه‌‌‌های عصبی فقط به سوگیری جنسیتی محدود نمی‌‌‌شود بلکه شامل سوگیری‌‌‌های نژادی و قومیتی نیز هست. این سوگیری نژادی شبکه‌‌‌های عصبی هم ریشه در وجود تبعیض و سوگیری‌‌‌هایی از این نوع در درون شرکت‌ها و سازمان‌های تکنولوژیک دارد. به عنوان مثال تنها ۱.۶‌درصد کارکنان گوگل در سال ۲۰۲۲ را زنان رنگین‌‌‌پوست تشکیل می‌‌‌دادند که وجود چنین تبعیض‌‌‌هایی در شرکت‌های تکنولوژیک به‌‌‌صورت سوگیری‌‌‌های شدیدتر در شبکه‌‌‌های عصبی عمیق متبلور می‌‌‌شود.

در جست‌‌‌وجوی شفافیت

تجربه نشان داده که تاکید پیشین دانشمندان و شرکت‌های تکنولوژیک بر طراحی و توسعه الگوریتم‌‌‌های پیچیده و قدرتمند و حرکت به سمت هوش مصنوعی پیچیده و الگوریتم‌‌‌های جعبه سیاه پیچیده راه به جایی نبرده و باید به دنبال جایگزین مطمئنی برای این نوع الگوریتم‌‌‌ها بود. در نتیجه آنچه اکنون موردنیاز است هوش مصنوعی ساده و شفافی است که با بیشترین دقت و درستی به وظایفی که به آن محول می‌‌‌شود عمل کند.

الگوریتم‌‌‌های شفاف این قابلیت را دارند تا با استفاده از اطلاعات و یافته‌‌‌های تجربی که هم‌‌‌زمان با ساده‌‌‌ بودن کاملا شفاف هستند دست به همان اقدامات و پیش‌بینی‌‌‌هایی بزنند که توسط الگوریتم‌‌‌های جعبه سیاه پیچیده انجام می‌‌‌پذیرد. با این تفاوت و برتری که آنها قادرند در شرایط ابهام و نامشخص نیز عملکرد بهینه‌‌‌ای داشته باشند. به‌‌‌عنوان‌‌‌ مثال، الگوریتم‌‌‌های شفاف می‌توانند به شرکت‌های خرده‌‌‌فروشی که هزاران ‌‌‌هزار مشتری دارند کمک کنند تا احتمال مراجعه مشتریانشان به فروشگاه را تا حد بسیار دقیقی پیش‌بینی کنند و از قبل برای این موضوع برنامه‌‌‌ریزی کنند.

در واقع یکی از نیازهای اساسی شرکت‌های خرده‌‌‌فروشی این است که پیش‌بینی درست و دقیقی از زمان مراجعه بعدی مشتریان ثابتشان داشته باشند و بدانند که این مشتریان حدودا چه زمانی به فروشگاه‌‌‌ها مراجعه خواهند کرد و چه چیزهایی را خواهند خرید. اگر هوش مصنوعی بتواند در این زمینه به آنها کمک کند خدمت بزرگی به آنها کرده و به میزان قابل‌‌‌توجهی از هزینه‌‌‌های آنها خواهد کاست، چرا که در حالت سنتی شرکت‌های خرده‌‌‌فروشی مجبورند به‌‌‌منظور جلب نظر تمام مشتریانشان به طور پیوسته برای آنها کاتالوگ بفرستند.

این احتمال هم وجود دارد که بسیاری از این مشتریان فعلا نیاز یا تمایلی به خرید از این شرکت‌ها نداشته باشند و خریدشان را به زمان مناسب‌‌‌تری موکول کنند. در این میان، اقدام کورکورانه و عجولانه شرکت‌های خرده‌‌‌فروشی برای ارسال کاتالوگ‌‌‌های تبلیغاتی برای تمام مشتریان کاری عبث و بیهوده بوده و دور ریختن پول محسوب می‌‌‌شود. هوش مصنوعی شفاف اما می‌تواند این مشکل را به‌‌‌راحتی حل کرده و ابهامات را از بین ببرد و به شرکت‌های خرده‌‌‌فروشی بگوید که کدام مشتریان در چه زمانی آمادگی و تمایل بیشتری برای خرید دارند و درست در همان زمان‌‌‌هاست که باید برای آنها کاتالوگ فرستاد یا تخفیفاتی را در نظر گرفت.

هوش مصنوعی شفاف در اینجا و در موارد مشابه از همان روش ساده اما کاربردی و موثری استفاده می‌‌‌کند که مدیران فروش و فروشندگان معمولا استفاده می‌‌‌کنند: یعنی رجوع به سوابق خرید مشتریان و فواصل بین هر خرید با خرید قبلی که البته این محاسبات بادقت و در ابعاد بزرگ انجام می‌‌‌شود. در اینجا این ماشین است که کار محاسبات و پیش‌بینی‌‌‌ها را به‌‌‌جای انسان انجام می‌‌‌دهد و به فروشندگان مجال پرداختن به کارهای دیگر را می‌‌‌دهد.