سازمان ملل خواستار مهار فوری خطرات هوش مصنوعی پیش از وقوع فاجعه شد

یک پنل علمی وابسته به سازمان ملل متحد در نخستین ارزیابی جامع بین‌المللی خود پیرامون نفوذ اخیر مدل‌های هوش مصنوعی شرکت OpenAI به زیرساخت پلتفرم هاگینگ فیس، هشدار داده که دولت‌ها باید پیش از آنکه ماهیت تهدیدات به‌طور کامل کشف شود، ایجنت‌های خودمختار هوش مصنوعی را مهار کنند. این نهاد علمی اعلام کرده که جامعه جهانی نمی‌تواند تا زمان دستیابی به قطعیت علمی صبر کند.

سند مذکور به‌عنوان نخستین گزارش موضوعی «پنل مستقل علمی بین‌المللی هوش مصنوعی» ارائه شده؛ نهادی که سال گذشته به عنوان نخستین مرجع علمی جهانی در حوزه هوش مصنوعی زیر نظر سازمان ملل تشکیل شد. این پنل خواستار تخصیص منابع و توجه بسیار بیشتر برای مدیریت خطرات نوظهور مدل‌های پیشرفته شده و تأکید کرده که با وجود رویکردهای قانونی متفاوت میان کشورها، هماهنگی‌های بین‌المللی در زمینه‌های ایمنی و پاسخگویی باید به شکل قابل توجهی تقویت شود.

اصل احتیاط‌گری؛ راهکار مقابله با خطرات هوش مصنوعی

به گفته این هیئت علمی، نیازی نیست جامعه بین‌المللی منتظر بماند تا دانشمندان با جزئیات کامل سازوکار وقوع چنین حوادثی را کشف کنند؛ بلکه باید سازوکارهای حفاظتی فوراً پیاده‌سازی شوند. کارشناسان معتقد هستند خطر «از دست رفتن کنترل» مصداق بارز شرایطی است که «اصل احتیاط‌گری» برای آن طراحی شده است؛ اصلی که با آسیب‌های جبران‌ناپذیر و فاجعه‌بار با وجود عدم قطعیت علمی درباره احتمال وقوع سر و کار دارد.

اصل احتیاط گری که نخستین‌بار در بیانیه سال ۱۹۹۲ سازمان ملل در ریودوژانیرو پیرامون محیط‌زیست و توسعه مطرح شد، بر این مبنا استوار است که نبود قطعیت علمی نباید بهانه‌ای برای به تعویق انداختن اقدامات پیشگیرانه در برابر خطرات جدی باشد. این اصل نقشی محوری در سیاست‌های زیست‌محیطی و سلامت عمومی به‌ویژه در اتحادیه اروپا داشته است. از زمان گزارش حمله به هاگینگ فیس، رخدادهای مشابه دیگری نیز در شرکت‌هایی چون آنتروپیک، گوگل و متا به ثبت رسیده که شامل حمله به اهداف واقعی و تسخیر انجمن‌های آنلاین توسط شبکه‌ای از ایجنت‌های هوش مصنوعی بوده است.

انتشار این گزارش با گردهمایی رهبران جهان در نیویورک برای مجمع عمومی سازمان ملل و گفت‌وگوهای میان ایالات متحده و چین درباره هوش مصنوعی هم‌زمان شده است. در همین زمینه، «آنتونیو گوترش»، دبیرکل سازمان ملل، پیش‌تر با تأکید بر لزوم همکاری دولت‌ها برای مقابله با خطرات این فناوری توضیح داده بود که جهان به هیچ عنوان توان ورود به رقابتی مخرب بر سر کاهش استانداردهای ایمنی هوش مصنوعی را ندارد.