چت‌بات‌های هوش مصنوعی به اشتباه در پاسخ‌های خود شماره شخصی افراد را ارائه می‌کنند

گزارش‌های متعددی منتشر شده است که نشان می‌دهد هوش مصنوعی گوگل و سایر مدل‌های مشابه، اطلاعات تماس شخصی افراد را در پاسخ به پرسش‌های معمولی فاش می‌کنند. این وضعیت باعث شده است که برخی افراد با سیل تماس‌های مزاحم از سوی غریبه‌ها مواجه شوند، بدون اینکه راهکار مشخصی برای حذف اطلاعات خود از حافظه این هوش مصنوعی‌ها داشته باشند.

یکی از کاربران شبکه اجتماعی ردیت با ابراز درماندگی اعلام کرده است که به دلیل اشتباه هوش مصنوعی مولد گوگل، روزانه با تماس‌های متعددی از سوی افرادی روبه‌رو می‌شود که به دنبال خدماتی مانند وکیل یا قفل‌ساز هستند.

مشابه این اتفاق نیز برای یک توسعه‌دهنده نرم‌افزار رخ داده است. جمینای به اشتباه شماره شخصی او را به عنوان شماره خدمات مشتریان اپلیکیشن PayBox معرفی کرده، درحالی‌که او هیچ ارتباطی با این شرکت ندارد. جالب اینجاست که بررسی‌های این فرد نشان داد شماره او تنها یکبار در سال ۲۰۱۵ در یک وب‌سایت محلی منتشر شده بود، اما هوش مصنوعی پس از گذشت یک دهه، آن را از اعماق وب استخراج و بازتولید کرده است.

افشای شماره تلفن افراد در چت‌بات‌های هوش مصنوعی

کارشناسان حریم خصوصی و محققان هوش مصنوعی معتقدند که این مشکل به دلیل استفاده از اطلاعات قابل شناسایی شخصی در داده‌های آموزشی مدل‌های زبانی بزرگ رخ می‌دهد. شرکت DeleteMe که در زمینه حذف اطلاعات شخصی از وب فعالیت می‌کند، گزارش داده است که درخواست‌های مرتبط با حریم خصوصی در حوزه هوش مصنوعی در هفت ماه گذشته ۴۰۰ درصد افزایش یافته است.

طبق آمار این شرکت، بیشترین نگرانی‌ها مربوط به ChatGPT با ۵۵ درصد و سپس جمینای با ۲۰ درصد است. مدیرعامل دلیت‌می توضیح می‌دهد که چت‌بات‌ها گاهی اطلاعات دقیق و گاهی اطلاعات اشتباه اما باورپذیری را ارائه می‌دهند که در هر دو صورت منجر به مزاحمت برای افراد می‌شود.

در آزمایش دیگری، دانشجویان دکترای دانشگاه واشینگتن دریافتند که جمینای می‌تواند به راحتی شماره تلفن‌های شخصی را که در نتایج عادی گوگل به سختی پیدا می‌شوند، استخراج کند. آن‌ها همچنین متوجه شدند که ChatGPT به‌رغم داشتن نرده‌های حفاظتی، با کمی اصرار و استفاده از روش‌های جستجوی کارآگاهی، اطلاعات حساسی مانند آدرس منزل و نام همسر یک استاد دانشگاه را از سوابق عمومی او استخراج کرده و ارائه داده است. حتی چت‌بات Grok نیز با دریافت نام افراد، آدرس دقیق محل سکونت و شماره تماس آن‌ها را فاش کرده است.

درحال‌حاضر هیچ راه‌حل قطعی برای حذف این داده‌ها وجود ندارد. «جنیفر کینگ» از دانشگاه استنفورد اشاره می‌کند که قوانین فعلی مانند مقررات عمومی حفاظت از داده‌های اروپا (GDPR) لزوماً داده‌های عمومی استخراج شده از وب را پوشش نمی‌دهند. اگرچه شرکت‌هایی مانند OpenAI و گوگل مسیرهایی را برای اعتراض یا درخواست حذف داده‌ها ایجاد کرده‌اند، اما این فرایندها طولانی هستند و همیشه به نتیجه نمی‌رسند.