مدیرعامل آنتروپیک: دولت باید بتواند مانع از انتشار ابزارهای هوش مصنوعی خطرناک شود

«داریو آمودی»، مدیرعامل شرکت آنتروپیک، در یادداشتی استدلال کرده که دولت باید به‌لحاظ قانونی توانایی جلوگیری از انتشار سیستم‌های خطرناک هوش مصنوعی را داشته باشد و بازار AI را مانند حوزه هوانوردی مدیریت کند.

آمودی در یادداشت جدید و چارچوب پیشنهادی‌ خود برای هوش مصنوعی پیشرفته، استدلال می‌کند که سیاست‌گذاری‌ها سریعاً باید متناسب با توسعه هوش مصنوعی تغییر کنند. او می‌نویسد که فرمان اجرایی «دونالد ترامپ» در زمینه هوش مصنوعی باید فراتر برود و انجام آزمایش‌های اجباری برای ارزیابی خطرات مرتبط با امنیت سایبری، سلاح‌های بیولوژیکی، از دست رفتن کنترل یا تحقیق و توسعه خودکار را الزامی کند.

نیاز به قوانین سخت‌گیرانه برای حوزه هوش مصنوعی

او معتقد است در صورتی که سیستم‌های هوش مصنوعی در آینده به تهدید بزرگ‌تری تبدیل شوند، حتی ممکن است به مقررات تهاجمی‌تری نیاز باشد. آمودی در بخشی از این یادداشت نوشته است:

«هوش مصنوعی با سرعت برق درحال پیشرفت است. در مقابل، سیاست‌گذاری‌ها و به‌ویژه قانون‌گذاری‌ها بسیار کند حرکت می‌کنند.»

او پس از انتشار مدل قدرتمند آنتروپیک Mythos، اشاره کرده بود که خطرات بیولوژیکی و خطرات جدی در زمینه استقلال عمل هوش مصنوعی ممکن است به‌زودی پدیدار شوند. آمودی در ادامه می‌گوید:

«ما اکنون به‌صورت جهانی و جمعی باید یک دستگاه سیاست‌گذاری داشته باشیم تا با خطرات و فرصت‌هایی که از این به بعد با سرعتی غافلگیرکننده پدیدار می‌شوند، مقابله کنیم.»

مدیرعامل آنتروپیک قوانین موجود را کافی نمی‌داند و خواهان مقررات جدی‌تر و الزام‌آور برای هوش مصنوعی است. او می‌نویسد که مقررات هوش مصنوعی باید مانند خودروها، هواپیماها یا داروها، مدل‌های پیشگام را ملزم به عبور از آزمایش‌ها و ممیزی‌های سخت‌گیرانه کند:

«اگر این مدل‌ها استانداردهای ایمنی را رعایت نکنند، عرضه آنها باید به‌عنوان تهدیدی برای امنیت عمومی مسدود یا لغو شود.»

در بخش اقتصاد، آمودی می‌گوید این منطقی است که فکر کنیم هوش مصنوعی می‌تواند اختلالات بسیار بزرگ‌تر و بالقوه پایدارتری در بازار کار نسبت به فناوری‌های گذشته ایجاد کند. او خواستار داده‌های بهتر درباره از دست دادن مشاغل مرتبط با هوش مصنوعی، بیمه دستمزد، مشوق‌های مالیاتی جهت حفظ نیروی کار و احتمالاً درآمد پایه همگانی یا حساب‌های سرمایه همگانی شده است.

این دیدگاه همچنین می‌تواند اتهامات جدیدی را علیه آنتروپیک برانگیزد؛ ازجمله اینکه این شرکت با پیشنهاد قوانین سخت‌گیرانه به‌دنبال تثبیت سلطه خود در بازار است یا از سناریوهای ترسناک آینده به‌عنوان یک ترفند بازاریابی استفاده می‌کند.

آمودی همچنین اشاره کرده که سیستم‌های نظارتی فعلی برای سرعت بالای پیشرفت‌های جدید هوش مصنوعی آماده نیستند. او اصلاحاتی را در آژانس‌هایی مانند سازمان غذا و دارو (FDA) پیشنهاد کرده تا فرایند تأیید داروهای جدید کشف‌شده توسط هوش مصنوعی سرعت بگیرد. مدیرعامل آنتروپیک علاوه‌براین، ممنوعیت استفاده داخلی از سلاح‌های کاملاً خودکار را پیشنهاد داده و بر ادامه رهبری و هماهنگی کشورهای دموکراتیک در حوزه هوش مصنوعی تأکید می‌کند.

روز گذشته، شرکت OpenAI نیز خواستار تشکیل یک سازمان بین‌المللی برای نظارت بر توسعه هوش مصنوعی و در صورت لزوم، کاهش سرعت پیشرفت آن شده بود.