شرکت اوپن ای‌آی از اعمال محدودیت‌های گسترده‌تر برای کاربران کشورهای چین، روسیه و ایران خبر داد

دسترسی ایرانی‌ها به چت جی‌پی‌تی کاملا مسدود می‌شود؟

از ماه نوامبر سال ۲۰۲۲ که چت جی‌پی‌تی در جهان معرفی شد و پا به عرصه وجود گذاشت، کاربران ایرانی یک بار دیگر خاطرات تحریم‌ها و تحدیدها را با خودشان مرور کردند؛ چون باز هم در مواجهه با یک تکنولوژی جدید به سد محدودیت‌ها برخورد کردند و در جست‌وجوی راهی برای دسترسی به آنچه برای دیگران به سادگی قابل استفاده بود، به ناچار به دنیای فیلترشکن‌ها پناه بردند. البته در این مسیر به تدریج گزینه‌های دیگری مانند خرید شماره‌های مجازی برای ساخت حساب کاربری چت جی‌پی‌تی را هم به فهرست ابزارهای خود برای شکستن سد محدودیت‌ها اضافه کردند.

یک شنبه 1404/03/18 05:17 دسته بندی: بازار دیجیتال کد خبر: 8948

با این همه اما شرکت اوپن ای‌آی - سازنده چت‌بات چت جی‌پی‌تی- از دو هفته پیش اعلام کرده بود که از روز نهم ژوئیه، برابر با نوزدهم تیر ماه، محدودیت‌های دسترسی کاربران مستقر در کشورهای چین، روسیه و ایران به این چت‌بات و API یا رابط برنامه کاربردی این شرکت را گسترده‌تر می‌کند. هر چند جزئیاتی درباره دلایل چنین تصمیمی هنوز مشخص نشده است، اما همزمانی آن با اقدامات اخیر کاخ سفید برای جلوگیری از دسترسی کشورهای چین، روسیه و ایران به فناوری‌های پیشرفته هوش مصنوعی، نشان می‌دهد که احتمالا این تصمیم اوپن ای‌آی با برنامه‌های اخیر دولت ایالات متحده آمریکا بی‌ارتباط نیست.

تولید و انتشار اطلاعات نادرست

شرکت اوپن ای‌آی در آخرین روزهای ماه مه ‌امسال نخستین گزارش خود درباره نحوه استفاده از ابزارهای هوش مصنوعی این شرکت برای عملیات نفوذ مخفی را منتشر و در آن اعلام کرد که این شرکت کمپین‌ها و اقداماتی برای انتشار اطلاعات نادرست از سوی روسیه، چین، اسرائیل و ایران را مختل کرده است. بر اساس این گزارش، این کشورها از مدل‌های هوش مصنوعی تولیدی اوپن ای‌آی برای ایجاد و ارسال محتوای تبلیغاتی در پلتفرم‌های شبکه‌های اجتماعی و ترجمه محتوای خود به زبان‌های مختلف استفاده کرده‌اند. البته این گزارش تاکید کرده است که هیچ کدام از این کمپین‌ها چندان با اقبال عمومی مواجه نشده‌اند یا به مخاطبان زیادی دست نیافته‌اند. با این همه اما از آنجا‌ که هوش مصنوعی مولد به سرعت در حال تبدیل شدن به یک صنعت پررونق است، نگرانی‌های جدی و گسترده‌‌ای در میان محققان و قانون‌گذاران در مورد پتانسیل‌های آن برای افزایش کمی و کیفی اطلاعات نادرست در فضای مجازی وجود دارد. در واقع به همین دلیل هم بوده است که شرکت‌های فعال در حوزه هوش مصنوعی مانند اوپن ای‌آی که ابزارهایی نظیر چت جی‌پی‌تی را می‌سازند، تلاش کرده‌اند تا با اقداماتی متفاوت این نگرانی‌ها را کاهش دهند و مقررات محافظتی را برای استفاده از فناوری خود‌ اعمال کنند.

به این ترتیب گزارش ۳۹ صفحه‌ای شرکت اوپن ای‌آی که در اواخر ماه مه ‌منتشر شد، یکی از دقیق‌ترین گزارش‌های یک شرکت هوش مصنوعی در زمینه استفاده از نرم‌افزار آن با اهداف تبلیغاتی است.

اوپن ای‌آی در این گزارش مدعی شد که محققان این شرکت حساب‌های کاربری مرتبط با پنج عملیات نفوذ مخفی را در سه ماه گذشته پیدا کرده و فعالیت آنها را ممنوع کرده‌اند. طبق اعلام این شرکت، این حساب‌های کاربری متعلق به ترکیبی از بازیگران دولتی و خصوصی در این کشورها بودند. در روسیه دو عملیات تولید و انتشار محتوا در انتقاد از ایالات متحده، اوکراین و چندین کشور حوزه بالتیک انجام شد. در یکی از این عملیات‌ها از یک مدل هوش مصنوعی اوپن ای‌آی برای اشکال‌زدایی کد و ایجاد بات هوشمند که در تلگرام پست می‌شد، استفاده شده است. در جریان عملیات نفوذی چین هم متنی به زبان‌های انگلیسی، چینی، ژاپنی و کره‌ای تولید و سپس در توییتر و مدیوم‌(یک شبکه اجتماعی بدون محدودیت برای انتشار محتوا) پست شد.

به گزارش گاردین، در بخش دیگری از گزارش تحلیلی شرکت اوپن ای‌آی درباره نحوه استفاده از ابزارهای هوش مصنوعی این شرکت به منظور عملیات نفوذ مخفی، به اقدامات ایران هم پرداخته شده است. در این بخش ادعا شده است که ایران از ابزارهای هوش مصنوعی اوپن ای‌آی برای تهیه مقالاتی با هدف ضدیت با آمریکا و اسرائیل استفاده و آنها را به زبان‌های انگلیسی و فرانسوی ترجمه کرده‌ بود.

در ادامه این گزارش به سوءاستفاده اسرائیل از ابزارهای هوش مصنوعی اوپن ای‌آی هم پرداخته و اشاره شده است که یک شرکت سیاسی اسرائیلی به نام Stoic شبکه‌ای از حساب‌های شبکه‌های اجتماعی جعلی را راه‌اندازی کرد تا طیف وسیعی از محتوا را ایجاد کند که در میان آنها پست‌هایی هم وجود داشتند که اعتراضات دانشجویان آمریکایی علیه جنگ اسرائیل در غزه را متهم به یهودی‌ستیزی می‌کردند.

این گزارش همچنین نشان می‌دهد که چگونه هوش مصنوعی مولد در اقدامات و کمپین‌های تولید و انتشار اطلاعات نادرست به عنوان ابزاری برای ارتقای جنبه‌های خاصی از تولید محتوا، مانند ایجاد پست‌های متقاعدکننده‌تر به زبان خارجی، مورد استفاده قرار می‌گیرد و البته نه تنها به عنوان یک ابزار تبلیغاتی. در این گزارش آمده است: «همه این عملیات‌ها تا حدی از هوش مصنوعی استفاده می‌کردند، اما هیچ‌ کدام آنها صرفا به هوش مصنوعی وابسته نبودند.» در واقع مطالب تولید شده توسط هوش مصنوعی تنها یکی از انواع محتوایی بودند که توسط عواملی در این کشورها پست می‌شدند و در کنار قالب‌های سنتی‌تر، مانند متون دست‌نویس یا میم‌های کپی شده از سراسر اینترنت هم مورد استفاده قرار گرفتند. هر چند این کمپین‌ها تاثیرگذاری قابل توجهی نداشتند، اما نشان دادند که چگونه استفاده مخرب از هوش مصنوعی مولد امکان افزایش تولید تبلیغات را به آنها می‌دهد. نوشتن، ترجمه و ارسال محتوا حالا می‌تواند به سادگی و با استفاده از ابزارهای هوش مصنوعی به شکلی کارآمدتر انجام شود.

البته چندین نفر از انتشاردهندگان اطلاعات نادرست که اوپن ای‌آی آنها را از دسترسی به پلتفرم خود ممنوع کرده بود، پیش‌تر برای محققان و مقامات شناخته شده بودند. خزانه‌داری ایالات‌متحده آمریکا هم در ماه مارس امسال دو مرد روسی را تحریم کرد که ظاهرا پشت یکی از کمپین‌هایی بودند که اوپن ای‌آی شناسایی کرده بود. در همین حال، شرکت متا هم امسال شرکت اسرائیلی Stoic را به دلیل نقض سیاست‌های خود از دسترسی به پلتفرم خود محروم کرد.

تصمیمی هم‌راستا با سیاست‌های کاخ سفید

در یک سال گذشته سوءاستفاده از هوش مصنوعی مولد در کشورهای سراسر جهان برای تاثیرگذاری بر سیاست و افکار عمومی بارها و بارها انجام شده است. از جعل عمیق و تولید صوت و تصاویر تولید شده توسط هوش مصنوعی و کمپین‌های متنی برای ایجاد اختلال در کمپین‌های انتخاباتی استفاده شد که منجر به افزایش فشار بر شرکت‌هایی مانند اوپن ای‌آی در راستای محدود کردن استفاده از ابزارهایشان شده است.

با این همه شرکت اوپن ای‌آی اعلام کرده است که قصد دارد به‌طور دوره‌ای گزارش‌های مشابهی را در مورد عملیات نفوذ مخفی با استفاده از ابزارهای هوش مصنوعی این شرکت منتشر کند و همچنین حساب‌های کاربری را که مقررات و خط‌مشی این شرکت را نقض می‌کنند، حذف کند.

این شرکت در گذشته دسترسی کاربران این کشورها به چت جی‌پی‌تی و API خود را ممنوع کرده بود، اما به دنبال انتشار این گزارش تحلیلی درباره استفاده از ابزارهای هوش مصنوعی اوپن ای‌آی برای عملیات نفوذ مخفی و از دو هفته گذشته با ارسال ایمیل‌هایی اعلام کرده است که اجرای این محدودیت‌ها، گسترده خواهد شد.

هر چند اوپن ای‌آی هیچ جزئیاتی درباره دلایل این تصمیم را اعلام نکرده است، اما به نظر می‌رسد همزمانی آن با تلاش‌های کاخ سفید برای جلوگیری از دسترسی کشورهایی مانند چین، روسیه و ایران به فناوری‌های پیشرفته هوش مصنوعی آمریکا، بی‌ارتباط نبوده است.

این در حالی است که بر اساس بعضی گزارش‌ها، کاربران چینی توانسته‌اند با استفاده از پلتفرم رایانش ابری مایکروسافت آژور، همچنان از ابزارهای شرکت اوپن ای‌آی استفاده کنند. از آنجا که مایکروسافت و اوپن ای‌آی همکاری نزدیکی با یکدیگر دارند، مایکروسافت دسترسی خوبی به ابزارها و محصولات این شرکت دارد.

در واقع گزارش وب‌سایت The Information هم بر همین اساس ادعا می‌کند که با چندین مشتری چینی گفت‌وگو کرده است که می‌توانند از مدل‌های هوش مصنوعی مکالمه‌‌محور اوپن ای‌آی استفاده کنند. پلتفرم آژور مایکروسافت این امکان را به کاربران می‌دهد تا داده‌هایشان را یکپارچه کنند و با مدل‌های زبان و تصویر هوش مصنوعی شخصی‌سازی شده خود‌، پرسش ‌و پاسخ‌های اختصاصی انجام بدهند.

بعد از انتشار اخبار مربوط به اعمال محدودیت‌های گسترده‌تر از سوی اوپن ای‌آی برای کاربران کشورهای روسیه، ایران و چین، مایکروسافت تایید کرد که همچنان به ارائه خدمات ابری آژور به کاربران هنگ‌کنگ ادامه خواهد داد. حالا باید دید که ادامه جنگ ژئوپلیتیک‌ در زمین هوش مصنوعی به کجا ختم می‌شود.