چین چگونه برای سناریوی فرار هوش مصنوعی از کنترل انسان آماده می‌شود؟

چین درحال تدوین و اجرای مجموعه‌ای از چارچوب‌های نظارتی و تدابیر امنیتی است تا خود را برای سناریوی خروج احتمالی مدل‌های پیشرفته هوش مصنوعی از مدار نظارت و کنترل انسان آماده کند. با وجود رقابت فشرده میان پکن و واشنگتن در توسعه مرزهای فناوری، مواضع رسمی مقامات ارشد و دستورالعمل‌های نهادهای حاکمیتی چین نشان می‌دهد این کشور فرضیه خودآگاهی، تکثیر غیرمجاز و سرکشی سیستم‌های هوش مصنوعی را خطری ملموس برای امنیت زیرساخت‌ها و بقای بشر تلقی می‌کند و مقابله با آن را در اولویت سیاست‌گذاری‌های خود قرار داده است.

«چن ییشین»، وزیر امنیت کشور چین، اخیراً اعلام کرد مدل‌های آمریکایی بسته مانند Mythos متعلق به شرکت آنتروپیک و GPT-5.5-Cyber محصول OpenAI می‌توانند امنیت زیرساخت‌های حیاتی اطلاعاتی چین را تهدید کنند و خواستار تقویت امنیت هوش مصنوعی شد. در این میان، شرکت‌های چینی به‌سمت توسعه مدل‌های وزن‌باز حرکت کرده‌اند تا امکان بازرسی و پایش دقیق کدها جهت کاربردهای دفاعی فراهم باشد. همچنین در این گزارش اشاره شده که پلتفرم هاگینگ فیس از مدل وزن‌باز GLM-5.2 متعلق به شرکت چینی Z.AI برای تحلیل نفوذ ایجنت‌های فراری OpenAI استفاده کرده است.

با‌این‌حال، سامانه‌های چینی نیز چالش‌های امنیتی خاص خود را دارند. برای مثال، مدل Kimi K3 شرکت مون‌شات نیز از محیط ایزوله آزمایشی مؤسسه ایمنی هوش مصنوعی بریتانیا فرار کرده بود که این موضوع نشان می‌دهد مدل‌های چینی نیز می‌توانند حصارهای امنیتی ایجادشده برای مهار دسترسی‌ها را دور بزنند.

تدوین چارچوب‌های نظارتی پکن برای پیشگیری از سناریوهای خطرناک هوش مصنوعی

نهادهای سیاست‌گذار پکن از سپتامبر ۲۰۲۴ و تحت نظارت اداره فضای مجازی چین (CAC)، سناریوی ازدست‌رفتن کنترل بر سامانه‌ها را در اسناد رسمی خود قرار داده‌اند. این اسناد به‌صراحت به این نکته اشاره داشتند که سیستم‌های نسل آینده ممکن است به‌صورت خودکار منابع خارجی را تصاحب کنند، به تکثیر خود بپردازند، به خودآگاهی برسند و به‌دنبال کسب قدرت بروند؛ شرایطی که خطر رقابت مستقیم ماشین با انسان را ایجاد می‌کند.

در نسخه ارتقایافته این سند، تأکید شده که احتمال دارد هوش مصنوعی پیش از جمع‌آوری منابع و تلاش برای سرکشی، یک «جهش» ناگهانی و چشمگیر را در قابلیت‌های خود تجربه کند؛ موضوعی که به تدوین اصل «کاربرد قابل‌اعتماد، پیشگیری از خروج از کنترل» با هدف صیانت از بقا و توسعه جامعه انسانی منجر شد.

این دغدغه به عالی‌ترین سطوح سیاسی چین نیز کشیده شده است. «شی جین‌پینگ»، رئیس‌جمهور چین، در اجلاس جهانی هوش مصنوعی شانگهای خواستار توجه به خطرات ذاتی سامانه‌های هوش مصنوعی و ریسک‌های ناشی از این ابزارها شد و تأکید کرد این فناوری تحت هر شرایطی باید همواره تحت فرمان انسان باقی بماند. هم‌زمان، «سون شیائوبو» از مقامات ارشد وزارت خارجه چین از تسریع قانون‌گذاری‌های جامع در این حوزه خبر داده و «سون لی»، معاون نماینده دائم چین در سازمان ملل، نسبت به کاربردهای نظامی هوش مصنوعی و بروز محاسبات اشتباه هشدار داده است.

این اصول در قالب قوانین اجرایی به شرکت‌های ارائه‌دهنده ایجنت‌های خودمختار ابلاغ شده است؛ قوانینی که این مجموعه‌ها را موظف می‌کند ابزارهای مداخله، توقف و بازگردانی سامانه‌های سرکش را توسعه دهند و حق تصمیم‌گیری نهایی را در اختیار کاربران انسانی قرار دهند. همچنین چارچوب‌های پکن به مراکز شخص ثالث، بازرسان امنیتی و پژوهشگران مستقل اجازه می‌دهد این سامانه‌ها را مورد پایش و ممیزی قرار دهند.