سم آلتمن و داریو آمودی در سازمان ملل: هوش مصنوعی می‌تواند تهدیدی برای بشریت باشد

رهبران دو غول بزرگ و رقیب دنیای فناوری، یعنی «سم آلتمن»، مدیرعامل شرکت OpenAI، و «داریو آمودی»، مدیرعامل آنتروپیک، روز چهارشنبه در نشستی ویژه در برابر شورای امنیت سازمان ملل متحد حضور پیدا کردند. این دو چهره شاخص که معمولاً در بازار رقابت سختی دارند، این بار موضعی کاملاً هماهنگ اتخاذ کردند و هشدار دادند که صنعت هوش مصنوعی نیازمند همکاری و استانداردهای بین‌المللی است؛ در غیر این صورت امنیت جهانی به خطر خواهد افتاد. آلتمن و آمودی در سخنرانی‌های جداگانه خود از رهبران جهان خواستند تا پیش از آنکه توسعه سریع این ابزارها غیرقابل‌مهار شود، برای مدیریت خطرات آن متحد شوند.

سم آلتمن که شخصاً در مقر سازمان ملل حاضر شده بود، صراحتاً درباره پیامدهای بی‌تفاوتی نسبت به این فناوری گفت:

«ما ممکن است کنترل آینده را به هوش مصنوعی واگذار کنیم. ما در یک دوراهی تاریخی قرار داریم؛ یک مسیر به دنیایی ختم می‌شود که در آن قدرت متمرکز است، تصمیم‌گیری‌ها غیرشفاف‌ هستند و مردم احساس می‌کنند مهم‌ترین فناوری تمام طول عمرشان دارد بر آنها تحمیل می‌شود و علیه‌شان عمل می‌کند.»

آلتمن ضمن تأکید بر اینکه وقوع هرگونه فاجعه ناشی از هوش مصنوعی غیرقابل‌قبول است، خواستار تصویب استانداردهای بین‌المللی برای سنجش قابلیت‌ها، ارزیابی مخاطرات، تعیین کفایت تدابیر ایمنی و همچنین حفظ نظارت معنادار انسانی شد. او پیشنهاد کرد کشورها سیستم‌های گزارش‌دهی دقیق و سریع را راه‌اندازی کنند تا به تعبیر او، «جهان بتواند پیش از آنکه شکست‌ها به فجایع تبدیل شوند، از آنها درس بگیرد.»

او همچنین ایجاد کانال‌های ارتباطی امن میان دولت‌ها، کارشناسان فنی و مجریان زیرساخت‌های حیاتی را برای تبادل اطلاعات پیرامون آسیب‌پذیری‌های نوظهور پیشنهاد داد. مدیرعامل OpenAI با‌این‌حال اشاره کرد که تصمیمات کلیدی باید در نهادهای دموکراتیک و پاسخگو به مردم اتخاذ شوند؛ رویکردی که می‌تواند کشورهایی نظیر چین را از این دایره کنار بگذارد.

هماهنگی رقبای هوش مصنوعی بر سر خطرات امنیتی و راه‌حل‌های جهانی

از سوی دیگر، «داریو آمودی» که دارایی تقریبی او به لطف فناوری هوش مصنوعی به حدود ۱۵ میلیارد دلار می‌رسد و سابقه‌ای طولانی در هشدار نسبت به خطرات این حوزه دارد، به شکل ویدیوکنفرانس در جلسه شرکت کرد. آمودی با لحنی حتی تندتر و صریح‌تر از آلتمن گفت:

«اگر مدیریت درستی اعمال نشود، باور دارم که هوش مصنوعی می‌تواند خطری برای کل بشریت باشد. با وجود تمام اختلافاتی که میان افراد حاضر در این اتاق وجود دارد، ما باید این اختلافات را کنار بگذاریم تا بتوانیم به‌طور هم‌زمان با این فرصت جهانی و تهدید جهانی روبه‌رو شویم. هیچ رهبر، هیچ شرکت و هیچ کشوری نمی‌تواند این موضوع را به‌تنهایی مدیریت کند. من باور دارم که این مسئله، مهم‌ترین موضوع امنیت جهانی است که امروز جهان با آن مواجه است.»

مدیرعامل آنتروپیک سه محور اصلی را برای همکاری بین‌المللی مطرح کرد: پیمان‌های بین‌المللی هدفمند و محدود (مانند ممنوعیت مطلق استفاده از هوش مصنوعی برای تولید سلاح‌های بیولوژیکی)، توسعه سامانه‌های اعتبارسنجی متقابل میان کشورها، و ایجاد استانداردهای مشترک برای آزمودن سامانه‌های هوش مصنوعی در کنار شبکه هشداردهی سریع حوادث امنیتی.

این جلسات پس از هفته‌ها هشدار داخلی و گزارش‌های مکرر درباره رفتار ناهنجار و غیرقابل‌پیش‌بینی ایجنت‌های هوش مصنوعی برگزار شد. در مواردی حتی مشخص شده بود که ایجنت‌ها به سامانه‌های دیگر نفوذ کرده‌اند. هم‌زمان با این نشست، نخست‌وزیر استرالیا، فاش کرد که یک ایجنت هوش مصنوعی متعلق به OpenAI در جریان یک آزمون ارزیابی، پورتال اطلاعات خدمات درمانی دولت استرالیا را هک کرده و به آن نفوذ کرده بود.

در همین جلسه، وزیر امور خارجه بریتانیا، اعلام کرد کشورش قصد دارد «شانه به شانه ایالات متحده و آزمایشگاه‌های پیشرو حوزه ایمنی هوش مصنوعی همکاری کند» و در نظر دارد موضوع ایمنی این فناوری را در اولویت ریاست خود بر گروه G20 در سال آینده قرار دهد.

با‌این‌حال، برنامه‌های دولت ترامپ ممکن است مانعی بر سر راه این توافقات باشد؛ چرا که ترامپ هشدارهای امنیتی هوش مصنوعی را «ساختگی» دانسته و با وعده راه‌اندازی نیروی هوش مصنوعی، تمایلی به وضع قوانین محدودکننده نشان نداده است. به گفته یکی از مقامات OpenAI، انتظار نمی‌رود از این جلسه سازمان ملل توافق مکتوبی حاصل شود و این نشست صرفاً جرقه‌ای برای آغاز گفتگوهای بین‌المللی بوده است.