انویدیا با هدف ارتقای امنیت سایبری، ائتلاف هوش مصنوعی متن‌باز تشکیل داد

شرکت انویدیا از تشکیل ائتلافی با همراهی چند شرکت دیگر برای توسعه و به‌اشتراک‌گذاری ابزارهای ایمنی و امنیت سایبری هوش مصنوعی خبر داد. این اقدام تنها چند روز پس از آن رخ می‌دهد که حادثه نفوذ به Hugging Face توجه‌ها را به خطرات ناشی از دست دادن کنترل ایجنت‌های خودمختار هوش مصنوعی جلب کرد.

ائتلاف مذکور با نام «Open Secure AI Alliance» که با حضور شرکت‌هایی همچون مایکروسافت، اسپیس ایکس، ادوبی، CrowdStrike، هاگینگ فیس و Dell Technologies شکل گرفته است، پیرو یک نامه عمومی منتشر شد. این نامه که به امضای طیف وسیعی از شرکت‌ها از جمله OpenAI رسیده بود، از مدل‌های هوش مصنوعی وزن‌باز حمایت می‌کند.

توسعه ابزارهای متن‌باز برای کنترل ایجنت‌های هوش مصنوعی

انویدیا در پست وبلاگی خود اعلام کرد که اعمال محدودیت‌های کلی بر سیستم‌های پیشرفته هوش مصنوعی متن‌باز، توان دفاعی را تضعیف کرده و خطر تمرکز قدرت، وابستگی و آسیب‌پذیری در دست چند ارائه‌دهنده انحصاری را به همراه دارد.

این اقدام انویدیا پس از آن صورت می‌گیرد که OpenAI در تاریخ ۲۱ ژوئیه افشا کرد یکی از ایجنت‌های این شرکت از کنترل خارج شده و به زیرساخت‌های هاگینگ فیس نفوذ کرده است. به نقل از گزارش‌های منتشرشده، این ایجنت OpenAI دست به اقدامات امنیتی متعددی زده؛ مسئله‌ای که OpenAI تا مدت‌ها پس از مهار تهدید و اطلاع‌رسانی به پلیس فدرال آمریکا متوجه آن نشده بود.

در روزهای گذشته، انویدیا در میان امضاکنندگان نامه‌ای با عنوان «وزن‌های باز و رهبری هوش مصنوعی آمریکا» حضور داشت که از سیاست‌گذاران می‌خواست از مدل‌های هوش مصنوعی وزن‌باز حمایت کنند. مدل‌های به اصطلاح باز، سیستم‌های هوش مصنوعی با مولفه‌های اصلیِ در دسترس عموم هستند و ابزارهای متن‌باز نرم‌افزارهایی با کد منبع آزاد محسوب می‌شوند که امکان بازرسی و بهبود مشارکتی را برای دسترسی گسترده‌تر و امنیت بالاتر فراهم می‌سازند.

READ  انتقام ویندوزی؛ افشای جزئیات باگ امنیتی سیستم عامل کروم توسط مایکروسافت

انویدیا می‌گوید در این ائتلاف به تحقیقات پیرامون مدل‌های باز و کنترل ایجنت‌ها کمک خواهد کرد؛ از جمله این موارد می‌توان به پروژه جدید «Nvidia Labs Object-Oriented Agent» اشاره کرد که اکنون در پلتفرم گیت‌هاب در دسترس است. این شرکت تأکید کرده که چارچوب مذکور به سیستم‌های کنترلی کمک می‌کند تا رفتار ایجنت‌های هوش مصنوعی را به شکل موثرتری مدیریت کرده و فرایند آزمایش، ردیابی، بازبینی و تنظیم اقدامات آنها را ساده‌تر کند.