افشای علت ممنوعیت مدل‌های آنتروپیک؛ هوش مصنوعی به سیستم‌های NSA نفوذ کرده بود

در چند وقت اخیر ممنوعیت مدل‌های جدید آنتروپیک بسیار خبرساز شد و اکنون به نظر می‌رسد علت واقعی واکنش شدید دولت آمریکا به این مدل‌ها مشخص شده است. هوش مصنوعی قدرتمند میتوس آنتروپیک ظاهراً توانسته در یک آزمون امنیتی، تقریباً تمام سیستم‌های طبقه‌بندی‌شده آژانس امنیت ملی آمریکا را در عرض چند ساعت هک کند.

به گزارش اکونومیست، مدل قدرتمند میتوس توانست در جریان یک ارزیابی امنیتی کنترل‌شده، در عرض چند ساعت به تقریباً تمام سیستم‌های طبقه‌بندی‌شده آژانس امنیت ملی آمریکا (NSA) نفوذ کند. این نهاد یکی از عالی‌رتبه‌ترین و قدرتمندترین سازمان‌های اطلاعاتی در دولت ایالات متحده آمریکا محسوب می‌شود.

سناتور «مارک وارنر»، نایب‌رئیس کمیته اطلاعات سنا، این ادعا را مطرح کرده و گفته که «جاشوا راد» (Joshua Rudd)، رئیس آژانس امنیت ملی و فرماندهی سایبری آمریکا، شخصاً او را در جریان قابلیت‌های ترسناک این مدل قرار داده است.

ژنرال راد به وارنر گفته است که این ابزار توانسته نه در عرض چند هفته، بلکه تنها در چند ساعت به بیشتر سیستم‌های طبقه‌بندی‌شده آن‌ها وارد شود. این نقل‌قول حدود یک هفته بعد در شبکه‌های اجتماعی وایرال شد و کاربران ادعا کردند که مدل آنتروپیک آژانس امنیت ملی را به‌طور کامل هک کرده است. با‌این‌حال، نویسنده گزارش اکنومیست با انتشار بیانیه‌ای تأکید کرده که روایت هک مستقل و خودمختار کاملاً نادرست است.

او توضیح داد که این نفوذ تنها در جریان یک آزمایش مجاز و داخلی موسوم به تیم قرمز رخ داده است که در آن مهندسان، مدل میتوس را با سایر ابزارهای دفاعی در شرایط شبیه‌سازی‌شده بسیار خاصی ترکیب کرده بودند.

علت ممنوعیت مدل میتوس آنتروپیک توسط دولت آمریکا

این ماجرای جنجالی دلیل اصلی دستور ممنوعیت دولت آمریکا را روشن می‌کند. مقامات آمریکایی در این تاریخ به بهانه نگرانی‌های امنیت ملی، دسترسی تمام اتباع خارجی از جمله کارمندان غیرآمریکایی خود شرکت آنتروپیک را به مدل‌های Fable 5 و Mythos 5 مسدود کردند.

آنتروپیک در واکنش به این دستور سخت‌گیرانه، این مدل‌ها را در سطح جهانی غیرفعال کرد. استدلال آن‌ها این بود که اعمال محدودیت‌های دسترسی براساس ملیت بدون قطع کامل سیستم‌ها برای همه کاربران امکان‌پذیر نیست.

دولت آمریکا در زمان صدور این دستور هیچ شواهد عمومی و دقیقی ارائه نکرد. این اقدام اولین باری بود که ایالات متحده کنترل‌های صادراتی را به جای سخت‌افزار، مستقیماً روی یک مدل هوش مصنوعی اعمال می‌کرد. آنتروپیک اعلام کرد که نامه دریافتی از دولت هیچ دلیل مشخصی را بیان نمی‌کرد و مقامات تنها شواهد شفاهی از یک جیلبریک محدود و غیرفراگیر را ارائه داده بودند که نشان می‌داد فیبل ۵ می‌تواند آسیب‌پذیری‌های نرم‌افزاری را به‌راحتی شناسایی کند.

گفته‌های ژنرال راد اکنون تمام قطعات گم‌شده این پازل را تکمیل می‌کند. مقامات آمریکایی این ارزیابی را در روز ۱۱ ژوئن، یعنی یک روز پیش از صدور دستور ممنوعیت انجام داده بودند. البته آنتروپیک با وجود تمام این اختلافات و اعمال محدودیت‌های گسترده، همچنان در قالب یک توافق ویژه تحت برنامه Project Glasswing همکاری بسیار نزدیکی با آژانس امنیت ملی دارد و حدود شش مهندس آنتروپیک به عنوان نیروهای مستقر، در داخل این آژانس فعالیت می‌کنند.