هوش مصنوعی چینی رقبای آمریکایی را پشت‌سر می‌گذارد؟

تشدید نگرانی‌ها از تهدیدهای امنیتی دیپ‌سیک

دو شنبه 1404/02/01 02:51 دسته بندی: بازار دیجیتال کد خبر: 44030

این اظهارات باعث نگرانی‌هایی در خصوص ذخیره اطلاعات کاربران روی سرورهای مستقر در چین شده است؛ مساله‌ای که می‌تواند دسترسی احتمالی دولت چین به این داده‌ها را فراهم کند. در این راستا برخی کشورها دیپ‌سیک را عملا یک تهدید امنیتی برای خود دانسته و استفاده از آن را ممنوع اعلام کرده‌اند.

نقض‌ حریم خصوصی

در اوایل بهمن ماه بود که ظهور دیپ‌سیک به عنوان یک رقیب جدی برای چت جی‌پی‌تی شرکت اوپن‌ای‌آی سر و صدای زیادی در حوزه فناوری ایجاد کرد. این شرکت که در چین متولد شده است، بر اساس گفته کارشناسان، یک مدل زبانی بزرگ معرفی کرده که ادعا می‌کند عملکردی مشابه با قدرتمندترین سیستم‌های هوش مصنوعی اوپن‌ای‌آی دارد. البته هنوز مدت زیادی از روی کار آمدن این مدل هوش مصنوعی نگذشته بود که ماهیت چینی آن باعث شد تا شائبه‌هایی درباره مشکلات امنیتی آن مطرح شود و به دنبال آن تحقیقات و آزمایش‌های جدی روی آن انجام شد. ظاهرا در بسیاری از این آزمایش‌های امنیتی، دیپ‌سیک نتوانسته بود عملکرد موفقی از خود به نمایش بگذارد و به این ترتیب بود که موجی از اخبار در خصوص تهدیدهای امنیتی این چت‌بات منتشر و استفاده از آن در چند کشور دنیا ممنوع شد. مقامات این کشورها معتقدند که دیپ‌سیک ممکن است با انتقال داده‌ها به سرورها و سپس نهادهای دولتی چینی خطرات امنیتی برای آنها ایجاد کند.

یکی از مهم‌ترین نگرانی‌های مرتبط با دیپ‌سیک، مساله حریم خصوصی و ذخیره‌سازی داده‌ها است. در این مدل هوش مصنوعی در واقع اطلاعات کاربران روی سرورهای مستقر در چین ذخیره می‌شود که این موضوع نگرانی‌هایی درباره دسترسی احتمالی دولت چین به این داده‌ها ایجاد کرده است. از سوی دیگر، این مدل حجم وسیعی از داده‌های شخصی، از جمله کلیدواژه‌های تایپ شده، ورودی‌های متنی و صوتی، فایل‌های آپلود شده و تاریخچه چت کاربران‌ را جمع‌آوری می‌کند بدون اینکه اطلاعات روشنی درباره نحوه پردازش و استفاده از این داده‌ها ارائه دهد.

همچنین در این بین برخی کارشناسان به نقش دیپ‌سیک در تقویت فناوری‌های نظارتی اشاره کرده‌اند؛ موضوعی که ممکن است به ظهور ابزاری برای پایش و کنترل شهروندان منجر شود. استدلال کارشناسان در این باره به این قابلیت مربوط می‌شود که این فناوری می‌تواند به ردیابی رفتارهای دیجیتالی کاربران و حتی محدود کردن دسترسی آنها به برخی خدمات منجر شود. در این بین نگرانی‌هایی برای استفاده از داده‌های کاربران در نظارت و کنترل اجتماعی، به‌ویژه در کشورهایی که قوانین سختگیرانه‌ای برای کنترل اطلاعات دارند هم مطرح شده است. البته نگرانی کارشناسان تنها به این مسائل منتهی نمی‌شود و موضوعاتی مانند عدم شفافیت دیپ‌سیک و برخی مسائل حقوقی درباره آن نیز وجود دارد. کارشناسان در این خصوص معتقدند که این مدل هوش مصنوعی تاکنون اطلاعات کافی درباره نحوه جمع‌آوری و پردازش داده‌های کاربران ارائه نکرده است؛ موضوعی که نه‌تنها منجر به نگرانی درباره احتمال سوءاستفاده از داده‌های شخصی شده، بلکه تطابق این مدل با قوانین بین‌المللی حفاظت از داده‌ها را نیز زیر سوال برده است.

یکی دیگر از نگرانی‌های اساسی پیرامون دیپ‌سیک مربوط به مساله سانسور اطلاعات است. در گزارشی که شرکت پرامت‌فو(Promptfoo) در این خصوص منتشر کرده مستنداتی در خصوص سوگیری این الگوی هوش مصنوعی برای پاسخ به برخی سوال‌ها ارائه شده است. بر این اساس، یکی از نسخه‌های دیپ‌سیک از پاسخ‌ دادن به حدود ۸۵درصد از ۱۳۶۰ سوال مرتبط با موضوعات سیاسی و حساس دولت چین امتناع ورزیده است. همچنین متخصصان این حوزه گمانه‌زنی‌هایی مبنی بر این موضوع دارند که این مدل به‌طور غیرقانونی از تکنیک‌هایی مانند تقطیر دانش برای بهره‌گیری از مدل‌های هوش مصنوعی غربی استفاده کرده است؛ موضوعی که از نظر اخلاقی و حقوقی بحث‌برانگیز بوده و در ادامه نیز برخی کشورها را به اعمال محدودیت بر این پلتفرم ترغیب کرده است. در این راستا، شرکت اوپن‌ای‌آی دیپ‌سیک را به استفاده غیرمجاز از تکنولوژی خود متهم کرده است. این شرکت مدعی است که دیپ‌سیک با استفاده از روش تقطیر (Distillation) اقداماتی در جهت کپی‌برداری از مدل‌های هوش مصنوعی این شرکت استفاده کرده است. تقطیر به روشی در توسعه هوش مصنوعی گفته می‌شود که به مدل‌های کوچک‌تر اجازه می‌دهد تا با استفاده از مدل‌های بزرگ‌تر و پیشرفته‌تر، عملکرد خود را بهبود بخشند.

پس از مطرح شدن این ادعاها و با وجود اینکه سم آلتمن، مدیرعامل اوپن‌ای‌آی، از دیپ‌سیک تمجید کرده و آن را یک رقیب جدید و هیجان‌انگیز برای شرکت خود نامیده بود، این شرکت به ادعاهای خود مبنی بر سوءاستفاده دیپ‌سیک ادامه داد و دیوید ساکس، مشاور دونالد ترامپ در زمینه هوش مصنوعی و ارزهای دیجیتال نیز در مصاحبه‌ای با فاکس‌نیوز احتمال سرقت مالکیت معنوی توسط دیپ‌سیک را مطرح کرد و گفت که شواهد قابل توجهی وجود دارد که نشان می‌دهد دیپ‌سیک دانش را از مدل‌های اوپن‌ای‌آی استخراج کرده است. البته سم آلتمن به تازگی اعلام کرده است که شایعه‌ها در خصوص شکایت اوپن‌ای‌آی از شرکت دیپ‌سیک حقیقت ندارد. او در این باره بیان کرده است: «ما فعلا برنامه‌ای برای شکایت از دیپ‌سیک نداریم. فقط به ساخت محصولات عالی و رهبری جهان با مدل‌سازی ادامه می‌دهیم. فکر می‌کنم این کار به‌خوبی انجام می‌شود.» در همین راستا، پژوهشگران امنیتی از شرکت سیسکو و دانشگاه پنسیلوانیا در پژوهشی جدید نشان داده‌اند که مدل هوش مصنوعی R۱ شرکت چینی دیپ‌سیک در برابر ۵۰ درخواست مخرب طراحی‌شده برای تولید محتوای مضر، هیچ‌گونه مقاومتی نشان نداده و تمام این درخواست‌ها را بدون هیچ فیلتری پردازش کرده است. این یافته‌ها نگرانی‌هایی را در مورد عدم تطابق استانداردهای ایمنی و امنیتی دیپ‌سیک با دیگر توسعه‌دهندگان برجسته هوش مصنوعی برانگیخته است.

ممنوعیت استفاده برای کارکنان دولتی

تمام اظهارنظرهای منفی و نگرانی‌ها در خصوص تهدیدهای امنیتی دیپ‌سیک باعث شده است هر روز به تعداد کشورهایی که این مدل زبانی را فیلتر می‌کنند، افزوده شود. ایتالیا یکی از نخستین کشورهایی بود که این الگوی هوش مصنوعی را به دلیل نبود اطلاعات کافی درباره استفاده از داده‌های شخصی فیلتر کرد. در ایالات‌متحده آمریکا نیز علاوه بر اینکه تعدادی از نهادهای دولتی استفاده از دیپ‌سیک را برای کارمندان خود ممنوع کرده‌اند، طی هفته‌های اخیر لایحه‌ای از سوی یکی از سناتور ارائه شده است که اگرچه چندان جدی گرفته نشد، اما این واقعیت را نشان می‌داد که نگرانی در کنگره آمریکا برای استفاده از این هوش مصنوعی چینی به وجود آمده است. بر اساس این قانون پیشنهادی، فناوری یا مالکیت معنوی توسعه‌یافته در چین از وارد شدن به ایالات‌متحده منع خواهد شد و هر کسی که این محدودیت‌ها را نقض کند، ممکن است با ۲۰سال زندان و جریمه‌های مالی قابل توجهی تا یک میلیون دلار مواجه شود. همچنین شرکت‌های متخلف در این زمینه باید جریمه‌ای معادل ۱۰۰ میلیون دلار پرداخت کنند.

بن بروکس(Ben Brooks)، پژوهشگر هوش مصنوعی هاروارد، این اقدام را تهاجمی‌ترین اقدام قانونی در مورد هوش مصنوعی تا به امروز دانسته است؛ اقدامی که تنها به کشورهای غربی محدود نبوده و خبرها حاکی از آن است که تایوان نیز با همین استدلال‌ها استفاده از این هوش مصنوعی چینی را در تمام شبکه‌های دولتی مسدود کرده است. در این بین استرالیا نیز یکی دیگر از کشورهایی است که استفاده از دیپ‌سیک را تهدیدی در برابر امنیت ملی خود دانسته و در نتیجه استفاده از آن را در تمام دستگاه‌های دولتی ممنوع کرده است. در این راستا، وزارت امور داخلی استرالیا دستور داده که تمام سازمان‌های دولتی این پلتفرم را حذف کنند. در کره‌جنوبی نیز همسو با ممنوعیت استفاده از دیپ‌سیک توسط کارکنان دولتی، چندین نهاد دولتی از جمله شرکت کره‌ای تولید انرژی هسته‌ای و آبی، خدمات هوش مصنوعی مانند دیپ‌سیک را مسدود کرده‌اند. همچنین کمیسیون حفاظت از اطلاعات شخصی کره‌جنوبی در حال بررسی نحوه مدیریت داده‌های کاربران توسط دیپ‌سیک است.

تهدید یا فرصت؟

البته در کنار تمام نگرانی‌هایی که در خصوص تهدیدهای امنیتی دیپ‌سیک وجود دارد، بسیاری از متخصصان حوزه هوش مصنوعی ظهور این مدل هوش مصنوعی از طریق کشوری به جز آمریکا را انقلابی در این حوزه دانسته‌اند. آنها معتقدند که برتری آمریکا نسبت به چین در حوزه هوش مصنوعی به کمترین میزان خود نسبت به هر زمان دیگری از زمان رواج چت‌جی‌پی‌تی رسیده است و انحصار ایالات‌متحده در این زمینه در حال برچیده شدن است. فعالان این حوزه، این موضوع را از این جهت شگفت‌انگیز دانسته‌اند که این کشور تا پیش از این بسیار عقب‌تر از آمریکا بود و ایالات‌متحده تلاش کرده بود تا سرعت پیشرفت آن را کُند کند. همچنین در این راستا، موفقیت مدل‌های هوش مصنوعی چینی در ادغام با تغییرات گسترده صنعتی می‌تواند اقتصاد هوش مصنوعی را کاملا زیر و رو کند. مورد دیگر در این زمینه مربوط به هزینه پایین تولید آنها در مقایسه با نمونه‌های آمریکایی است؛ ظاهرا این مدل با استفاده از ۲‌هزار تراشه درجه دو آموزش دیده است، در حالی که مدل متا از ۱۶ هزار تراشه پیشرفته استفاده کرده است و همچنان در بسیاری از رتبه‌بندی‌ها از دیپ‌سیک عقب‌تر است.

در این بین باید به این نکته هم اشاره کرد که هزینه آموزش یک مدل زبانی بزرگ آمریکایی ده‌ها میلیون دلار و رو به افزایش است، در حالی که مالک دیپ‌سیک مدعی است که برای آموزش آن کمتر از ۶ میلیون دلار هزینه کرده. گزارش‌ها نیز در این زمینه نشان می‌دهد که مطرح شدن دیپ‌سیک در جهان به‌ عنوان یک مدل زبانی جدید واکنش‌های مثبتی در جامعه چین داشته است. نیویورک‌تایمز در گزارشی به این مورد اشاره کرده است که برای بسیاری از چینی‌ها موفقیت دیپ‌سیک یک پیروزی‌ برای سیستم آموزشی این کشور محسوب می‌شود و نشان می‌دهد که نه‌تنها اکنون این سیستم هم‌سطح با ایالات‌متحده است، بلکه از آن پیشی گرفته است. همچنین در نیمه ابتدایی بهمن ماه خبرهایی منتشر شده بود مبنی بر اینکه اپلیکیشن هوش مصنوعی دیپ‌سیک توانسته است در تعداد دانلود از چت‌جی‌پی‌تی عبور کند و به پردانلودترین برنامه رایگان موجود در اپ‌‌استور تبدیل شود.

همچنین پاول دوروف، مدیرعامل تلگرام، هم‌زمان با آغاز سال نوی چینی با انتشار پیامی موفقیت‌های چین در حوزه فناوری را مورد تحسین قرار داد و نوشت: «پیشرفت دیپ‌سیک در هوش مصنوعی، حاصل تلاش یک گروه و یک‌شبه نیست. دانش‌آموزان چینی سال‌هاست که در المپیادهای بین‌المللی ریاضی و برنامه‌نویسی درخشیده‌اند. نظام آموزشی چین - که رقابت شدید را تشویق می‌کند- از مدل کارآمد آموزشی شوروی الهام گرفته است و نتیجه آن را اکنون در فناوری می‌بینیم.» در این بین ایلان ماسک، مدیرعامل تسلا و اسپیس‌ایکس نیز پیشرفت چین در هوش مصنوعی را شگفت‌انگیز دانسته است. او معتقد است دیپ‌سیک نشان می‌دهد که رقابت جهانی در این حوزه وارد فاز جدیدی شده است.

البته خبرها حاکی از آن است که اکنون دیپ‌سیک تنها تلاش چین برای ورود به بازار رقابتی هوش مصنوعی نیست و قرار است یک مدل هوش مصنوعی رایگان نیز از سوی این کشور به جهان عرضه شود. شرکت بایدو، مبدع این مدل هوش مصنوعی رایگان، اعلام کرده است که موتور جست‌وجوی چینی چت‌بات این شرکت با نام ارنی (Ernie) از اول آوریل ۲۰۲۵ به‌طور رایگان ارائه خواهد شد.