وقتی هوش مصنوعی با خط قرمزها هماهنگ می‌شود | کدام چت‌بات سیاستمدارتر است؟

همشهری آنلاین، فرخنده رفائی: اخیرا چت‌بات‌ها در مواجهه با برخی موضوعات حساس عملکرد نگران‌کننده‌ای از خود نشان داده‌اند، اما به نظر می‌رسد مدل جدید DeepSeek-R۱-Safe تا حدودی کنترل بیشتری بر این دست موضوعات دارد و توانسته از ورود به بحث‌های جنجالی جلوگیری کند.

به گزارش رویترز، این نسخه تازه که با همکاری شرکت هواوی و محققان دانشگاه ژجیانگ ساخته شده، تقریبا «۱۰۰ درصد موفق» در جلوگیری از ورود به مباحث جنجالی توصیف شده است. این مدل بر پایه نسخه متن‌باز DeepSeek-R۱ ساخته شده و با استفاده از هزار تراشه هوش مصنوعی Ascend هواوی آموزش داده شده است.

طبق ادعای سازندگان، تنها حدود یک درصد از سرعت و توان پردازشی نسخه اصلی کاسته شده، اما قابلیت اجتناب از گفت‌وگوهایی که «سمی، مضر، حساس سیاسی و تحریک‌کننده اقدامات غیرقانونی» توصیف شده‌اند، در این چت‌بات به طور قابل‌توجهی افزایش یافته است.

چطور می‌توان DeepSeek را دور زد؟

با وجود این، DeepSeek-R۱-Safe همچنان بی‌نقص نیست. گزارش‌ها نشان می‌دهد که اگرچه در استفاده عادی نزدیک به صد درصد موفق است، اما در شرایطی که کاربران خواسته‌های خود را در قالب بازی نقش یا چالش‌های غیرمستقیم مطرح کنند، میزان موفقیت آن در دوری از موضوعات ممنوعه تا حدود ۴۰ درصد کاهش می‌یابد. این نشان می‌دهد که مدل‌های زبانی هنوز به راحتی با سناریوهای فرضی فریب می‌خورند.

بیشتر بخوانید:

به گفته رویترز، طراحی این نسخه جدید مطابق الزامات نهادهای نظارتی چین انجام شده است؛ مقرراتی که تمام مدل‌های هوش مصنوعی داخلی را ملزم می‌کند بازتاب‌دهنده ارزش‌های کشور باشند و از خطوط قرمز گفتاری عبور نکنند. نمونه مشابه آن در چت‌بات «Ernie» ساخت شرکت بایدو دیده می‌شود که از پاسخ به پرسش‌های مربوط به سیاست داخلی چین یا حزب کمونیست خودداری می‌کند.

محدودیت چت‌بات‌ها در کشورهای مختلف

چین البته تنها کشوری نیست که چنین محدودیت‌هایی را بر مدل‌های هوش مصنوعی اعمال می‌کند. اوایل امسال، شرکت فناوری «Humain» در عربستان سعودی چت‌باتی بومی معرفی کرد که به زبان عربی مسلط است و بر پایه فرهنگ و ارزش‌های اسلامی آموزش دیده. در آمریکا نیز این موضوع مطرح است؛ به‌ویژه با برنامه «اقدام ملی هوش مصنوعی» دولت ترامپ که تصریح می‌کند هر مدل مورد استفاده در نهادهای دولتی باید «خنثی و بی‌طرف» باشد. اما این بی‌طرفی به‌طور خاص شامل کنار گذاشتن مفاهیمی مانند «تغییرات اقلیمی رادیکال»، «برابری و تنوع»، و نظریه‌هایی چون «نژادپرستی سیستماتیک» یا «هویت جنسیتی» است.
این مقایسه نشان می‌دهد که گرچه نگاه‌ها غالبا به محدودیت‌های چین معطوف می‌شود، اما کشورهای دیگر نیز در تلاشند نسخه‌های بومی و همسو با ارزش‌های حاکمیتی خود از هوش مصنوعی بسازند.