هکرهای چینی از هوش مصنوعی Claude برای حمله به دولت‌ها و شرکت‌ها استفاده کردند

شرکت Anthropic روز پنجشنبه اعلام کرد که هکرهای تحت حمایت دولت چین، در ماه سپتامبر از مدل هوش مصنوعی Claude این شرکت برای خودکارسازی تقریباً 30 حمله به شرکت‌ها و دولت‌ها استفاده کرده‌اند.

سوءاستفاده هکرها از هوش مصنوعی Claude

براساس گزارش وال‌استریت‌ژورنال، آنتروپیک گفته که 80 تا 90 درصد از حمله به‌صورت خودکار با هوش مصنوعی انجام شده که میزان آن نسبت به حملات مشابه قبلی بیشتر شده است. درباره حملات، «جیکوب کلاین»، رئیس بخش تهدیدات اطلاعاتی شرکت Anthropic، توضیح داده که «عملاً با یک کلیک و سپس با کمترین تعامل انسانی انجام می‌شوند.»

او در این رابطه گفته است:

«کاربر فقط در چند نقطه بحرانی دخالت داشته و از دستوراتی مانند «بله، ادامه بده»، «ادامه نده»، «از این اطلاعات متشکرم»، «اوه، این درست به نظر نمی‌رسد» و «Claude، مطمئنی؟» استفاده می‌کرده است.»

Anthropic به وال‌استریت‌ژورنال گفته که اطمینان دارد هکرها توسط دولت چین حمایت می‌شدند. در این کمپین، هکرها داده‌های حساس مربوط به چهار قربانی را سرقت کرده‌اند، اما مانند حملات قبلی، Anthropic نام اهداف و موفق یا ناموفق‌بودن حمله را دقیقاً اعلام نکرده است.

هک‌کردن با استفاده از مدل‌های هوش مصنوعی در دنیای امروزی بسیار رایج شده است و استراتژی‌های جدیدی هم برای آن توسعه پیدا می‌کند. اخیراً نیز گوگل هکرهای روسی را شناسایی کرده بود که از مدل‌های زبان بزرگ برای تولید دستورات موردنیاز بدافزار خود استفاده می‌کردند.

برای چندین سال، دولت ایالات متحده درحال هشدار درباره این موضوع بوده که چین از هوش مصنوعی برای سرقت داده‌های شهروندان و شرکت‌های آمریکایی استفاده می‌کند. ادعایی که چین آن را رد کرده است.

آنتروپیک اخیراً گزارشی را منتشر کرده بود که در آن به تکنیکی با نام «وایب هکینگ» (Vibe hacking) اشاره شده است. این شرکت در گزارش خود گفته بود که سیستم‌های هوش مصنوعی عامل‌محور اکنون درحال تبدیل‌شدن به ابزارهایی برای حملات سایبری هستند و می‌توانند عملیات‌های پیچیده‌ای را اجرا کنند.