متا مخفیانه برای تماس‌های تلفنی Muse از اپراتورهای انسانی استفاده می‌کرد

متا درحال آزمایش قابلیتی با عنوان «پیشکار انسانی» (Human Concierge) برای دستیار هوش مصنوعی جدید خود، یعنی Muse است؛ قابلیتی که طبق آن، پیمانکاران انسانی مخفیانه بخشی از تماس‌های تلفنی این دستیار دیجیتال را انجام می‌دهند. این موضوع هفته گذشته و مدت کوتاهی پس از انتشار عمومی ویژگی تماس تلفنی، به کارمندان شرکت اطلاع داده شد.

دستیار هوش مصنوعی Muse که در دو هفته نخست عرضه به صدر جدول دانلودهای آمریکا رسید، برای انجام وظایف خودکاری مثل ارسال ایمیل، خرید آنلاین و رزرو سفر طراحی شده است. کاربران با قابلیت تماس صوتی می‌توانند از این دستیار بخواهند برای اموری مثل گرفتن وقت آرایشگاه، موجودی کالا یا استعلام قیمت، با کسب‌وکارهای آمریکایی تماس بگیرد و گفتگو کند.

بااین‌حال، پس از آغاز آزمایش تماس‌ها، برخی کاربران متوجه شدند کسب‌وکارها و شرکت‌ها به محض اینکه متوجه صدای هوش مصنوعی می‌شوند، تماس را قطع می‌کنند. متا برای حل این مشکل، قابلیت «تماس توسط اپراتور انسانی» را برای نیمی از کارمندان خود فعال کرد تا در صورت نیاز، درخواست‌ها به کارمندان آموزش‌دیده‌ای سپرده شود که خودشان تماس را برقرار کنند و کار را پیش ببرند؛ طرحی که کارمندان می‌توانستند از آن انصراف دهند اما خیلی زود دردسرساز شد.

چالش حریم خصوصی در دستیار هوش مصنوعی Muse

سپردن تماس‌ها به نیروی انسانی با انتقاد شدید کارمندان متا روبه‌رو شد. آنها هشدار دادند که این روش می‌تواند اطلاعات حساس کاربران را ناخواسته در اختیار اپراتورهای مراکز تماس بگذارد. متا پیش‌تر در زمان معرفی ابزار اعلام کرده بود هر کاربر یک «ماشین مجازی» کاملاً اختصاصی و امن در فضای ابری دارد تا داده‌هایی مثل رمزهای عبور در امان بمانند، اما کارمندان معتقدند شنیده شدن تماس‌ها توسط انسان، این مزیت امنیتی مهم را بی‌اثر می‌کند. در این میان، یکی از کارمندان که از دستیار خواسته بود برای تخفیف هزینه اینترنت تماس بگیرد، متوجه شد اپراتور انسانی حین مکالمه جمله‌ای نژادپرستانه به کار برده است.

در واکنش به این انتقادات، یکی از معاونان بخش ابرهوش مصنوعی متا اعلام کرد آغاز این تست بدون اطلاع‌رسانی شفاف یک اشتباه بود و شرکت فعلاً این ویژگی را متوقف کرده است. او با عذرخواهی از کارمند شاکی و تأکید بر اینکه اپراتور خاطی دیگر با متا همکاری نخواهد کرد، توضیح داد که استفاده از انسان‌ها موفقیت تماس‌ها را به ۹۵ تا ۹۸ درصد می‌رساند، در‌حالی‌که این رقم با تماس‌های مستقیم هوش مصنوعی کمتر است. با‌این‌حال «دنیل رابرتز»، سخنگوی متا، مدعی شده بازخورد کارمندان مثبت بوده و این قابلیت پس از ارزیابی‌های امنیتی و با شفاف‌سازی کامل عرضه خواهد شد.

اتکای پشت‌صحنه به نیروی انسانی برای تحقق وعده‌های هوش مصنوعی خودمختار، یادآور پروژه یک دهه پیش فیس‌بوک به نام «M» در مسنجر است که بعداً مشخص شد نزدیک به ۷۰ درصد کارهای آن توسط انسان‌ها انجام می‌شد. علی‌رغم این حواشی، طبق داده‌های Sensor Tower، دستیار دیجیتال Muse تاکنون بیش از ۲.۵ میلیون بار دانلود شده و ارزش سهام متا نیز از زمان معرفی آن با جهش ۲۰ درصدی، بیش از ۲۰۰ میلیارد دلار به ارزش بازار این شرکت اضافه کرده است.