ابزار تشخیص هوش مصنوعی متا حتی با یک برش ساده در تصویر فریب می‌خورد

متا همزمان با معرفی مدل تولید تصویر Muse Image از فناوری جدیدی به‌نام «Content Seal» رونمایی کرده است؛ واترمارکی نامرئی که این شرکت مدعی بود حتی بعد از کراپ، فشرده‌سازی، تغییر اندازه یا ثبت اسکرین‌شات از تصاویر هم در عکس‌ها باقی می‌ماند. اما حالا گزارش جدید رویترز نشان می‌دهد این ادعا در عمل چندان دقیق نیست.

ابزار جدید متا در تشخیص هوش مصنوعی شکننده عمل می‌کند

خبرنگاران رویترز در آزمایشی ۴۰ تصویر تولیدشده با Muse Image را بررسی کردند. ابزار تشخیص متا در مرحله اول موفق شد تمام تصاویر را به‌درستی به‌عنوان محتوای تولیدشده با هوش مصنوعی شناسایی کند؛ اما پس از اینکه تصاویر تا نصف یا حتی یک‌سوم اندازه اصلی کراپ شدند، نرخ موفقیت ابزار به حدود ۵۵ درصد کاهش یافت. یعنی تقریباً نیمی از تصاویر دیگر به‌درستی شناسایی نشدند.

متا هنگام معرفی Content Seal گفته بود این واترمارک نامرئی در برابر تغییرات رایج روی تصویر مقاوم است و حتی پس از برش یا تغییر اندازه نیز قابل تشخیص خواهد بود. بااین‌حال، نتایج آزمایش‌ها نشان می‌دهند عملکرد ابزار تشخیص هوش مصنوعی متا فعلاً با این ادعا فاصله دارد.

البته این چالش فقط به متا محدود نمی‌شود. همزمان با افزایش کیفیت تصاویر تولیدشده توسط هوش مصنوعی و رشد دیپ‌فیک‌ها، تشخیص محتوای AI سخت‌تر از همیشه شده است. براساس گزارش شرکت امنیت سایبری DeepStrike، حجم دیپ‌فیک‌های آنلاین بین سال‌های ۲۰۲۳ تا ۲۰۲۵ حدود ۹۰۰ درصد رشد سالانه داشته؛ درحالی‌که ابزارهای تشخیص هنوز نتوانسته‌اند هم‌پای این پیشرفت حرکت کنند.

از سوی دیگر، معرفی Muse Image با حاشیه‌های دیگری هم همراه بود. برخی کاربران اینستاگرام متوجه شدند مدل جدید متا می‌تواند از تصاویر پروفایل‌های عمومی برای آموزش یا تولید محتوا استفاده کند؛ قابلیتی که با انتقاد کاربران روبه‌رو شد و متا در نهایت آن را حذف کرد. این شرکت اکنون درحال آماده‌سازی مدل ویدیوساز Muse Video است؛ اما به‌نظر می‌رسد پیش از عرضه آن، این شرکت باید هم دقت ابزارهای تشخیص محتوای AI را افزایش دهد و هم نگرانی‌های کاربران درباره حریم خصوصی را جدی‌تر از گذشته برطرف کند.