سیاست جدید اوپن ای آی برای چت‌بات‌ها؛

«چت‌جی‌پی‌تی» بدون سانسور می‌شود

سه شنبه 1404/02/02 01:19 دسته بندی: بازار دیجیتال کد خبر: 44625

این تغییرات ممکن است بخشی از تلاش اوپن‌ای‌آی برای جلب نظر مثبت دولت جدید «دونالد ترامپ» باشد، اما همچنین می‌تواند بخشی از تغییر گسترده‌تر را در سیلیکون‌ولی و آنچه ایمنی هوش مصنوعی در نظر گرفته می‌شود، به شمار برود. اوپن‌ای‌آی روز چهارشنبه یک به‌روزرسانی را از مدل «Spec» خود اعلام کرد و یک سند ۱۸۷ صفحه‌ای را ارائه داد که نشان می‌دهد این شرکت چگونه مدل‌های هوش مصنوعی را برای رفتار کردن آموزش می‌دهد. در آن سند، اوپن‌ای‌آی از یک اصل راهنما پرده‌برداری کرد که می‌گفت: دروغ نگویید؛ خواه با بیان اظهارات نادرست باشد و خواه حذف متن مهم.

اوپن‌ای‌آی در بخش جدیدی به نام «با هم حقیقت را جست‌وجو کنید» می‌گوید که از چت‌جی‌پی‌تی می‌خواهد تا موضع اصلاح‌کننده را اتخاذ نکند؛ حتی اگر برخی از کاربران آن را از نظر اخلاقی اشتباه یا توهین‌آمیز بدانند. این بدان معناست که چت‌جی‌پی‌تی دیدگاه‌های متعددی را درباره موضوعات بحث‌برانگیز ارائه می‌دهد و همه آنها در تلاش برای بی‌طرفی هستند. برای مثال، اوپن‌ای‌آی می‌گوید چت‌جی‌پی‌تی باید بگوید که زندگی سیاه‌پوستان مهم است، اما همچنین بگوید که همه زندگی‌ها مهم هستند. این شرکت می‌گوید به جای امتناع از پاسخ‌گویی یا انتخاب طرفدارانه درباره مسائل سیاسی، از چت‌جی‌پی‌تی می‌خواهد که عشق به بشریت را به‌طور کلی تایید کند و سپس، متنی را درباره هر جنبش ارائه دهد.

این تغییرات را می‌توان پاسخی به انتقاد محافظه‌کارانه درباره پادمان‌های چت‌جی‌پی‌تی دانست که به نظر می‌رسید همیشه به سمت سیاست چپ میانه منحرف شده است. با وجود این، یکی از سخنگویان اوپن‌ای‌آی این ایده را رد کرده که شرکت، تغییراتی را برای راضی کردن دولت ترامپ اعمال کرده است. در عوض، این شرکت می‌گوید استقبال از آزادی فکری نشان‌دهنده اعتقاد دیرینه اوپن‌ای‌آی به ارائه قدرت کنترل بیشتر به کاربران است. با وجود این، همه این طور فکر نمی‌کنند.