چین می‌خواهد استفاده از همدم‌های هوش مصنوعی را برای افراد زیر ۱۸ سال ممنوع کند

چین با تدوین مجموعه‌ای از مقررات پیشنهادی در تلاش است پلتفرم‌ها را از ارائه خدمات صمیمیت و همدمی مجازی با افراد زیر ۱۸ سال منع کند. این پیشنهاد می‌تواند به پیش‌زمینه قانونی جهانی برای تعیین مرزهای روابط انسان و هوش مصنوعی از سوی دولت‌ها تبدیل شود.

براساس این مقررات، سازمان فضای مجازی چین (نهاد اصلی نظارت بر اینترنت و سانسور در چین) ارائه سرویس‌های مبتنی‌بر «همدم‌های مجازی» را برای افراد نابالغ ممنوع اعلام خواهد کرد. این نهاد همچنین خدمات مشوق وابستگی روانی یا مواردی را که سلامت روان و جسم کودکان را به‌طور جدی تهدید می‌کنند، ممنوع می‌کند. علاوه‌براین، شبکه‌سازی و تعامل اجتماعی با افراد غریبه نیز برای نوجوانان قدغن خواهد شد، مگر برای کاربران بالای ۱۶ سال که از طریق دستمزد و درآمد شخصی خود امرار معاش می‌کنند.

همچنین بازی‌ها، شبکه‌های اجتماعی و سامانه‌های هوش مصنوعی که ممکن است بر توانایی‌های شناختی کاربران زیر ۱۶ سال تأثیر منفی بگذارند، باید به حالت اختصاصی کودکان مجهز شوند. از سوی دیگر، پلتفرم‌ها موظف خواهند بود سازوکارهای دقیق‌تری برای شناسایی افراد نابالغ طراحی کنند و الگوریتم‌های آنها نباید کاربران را به‌سمت وابستگی عاطفی، اعتیاد روانی یا خریدهای بی‌رویه هدایت کند. در صورت تخلف، سرویس‌های هوش مصنوعی ممکن است با جریمه‌هایی تا ۱۰ برابر درآمد حاصل از پلتفرم (در شرایطی که بیش از ۱ میلیون یوان معادل تقریباً ۱۴۹ هزار دلار باشد) روبه‌رو شوند و مراجع نظارتی اختیار ضبط اموال ناشی از تخلف را خواهند داشت.

پیامدهای ممنوعیت استفاده از همدم‌های هوش مصنوعی برای نوجوانان

در پایان سال ۲۰۲۵، کاربران گروه سنی ۶ تا ۱۹ سال حدود ۱۸ درصد از کل کاربران اینترنت چین را شامل می‌شدند که جمعیتی معادل ۱۱۲.۵ میلیون نفر است. نهادهای ناظر چینی تمرکز خود را بر این نکته معطوف کرده‌اند که آیا سرویس‌های هوش مصنوعی از طریق طراحی شخصیت و هدایت احساسات، روابط خانوادگی یا عاطفی را شبیه‌سازی می‌کنند یا خیر. فعلاً گفتگوهای روزمره و متداول هوش مصنوعی و همچنین سناریوهای نقش‌آفرینی از دامنه این ممنوعیت خارج می‌مانند، اما سرویس‌هایی که بستر شکل‌گیری وابستگی عاطفی را فراهم می‌کنند، مورد بازرسی دقیق قرار خواهند گرفت.

چالش اصلی پلتفرم‌ها تعیین دقیق محتوایی است که کودکان یا نوجوان می‌توانند به آن دسترسی داشته باشند؛ موضوعی که ممکن است هزینه‌های مربوط به توسعه محصول، زیرساخت و انطباق با قوانین را به‌شدت افزایش دهد. این پیشنهاد دو ماه پس از اجرایی شدن نخستین مقررات ویژه هوش مصنوعی انسان‌نما در چین مطرح می‌شود؛ قوانینی که سیستم‌های مشوق وابستگی و مخرب روابط واقعی انسانی را هدف قرار داده بودند.

پیش‌نویس مقررات چین وابستگی عاطفی به هوش مصنوعی را به چشم یک مسئله امنیتی در سلامت جوانان می‌بیند و در صورت تصویب نهایی، به معیاری مهم برای نحوه قانون‌گذاری دولت‌های جهان در حوزه همدم‌های مجازی هوش مصنوعی تبدیل خواهد شد.