چت با هوش مصنوعی Character.AI برای کاربران زیر ۱۸ سال ممنوع می‌شود

Character.AI به‌تازگی اعلام کرد که دسترسی کاربران زیر ۱۸ سال به چت‌بات‌های خود را قطع می‌کند. به گفته این شرکت، از امروز کاربران نوجوان به ۲ ساعت چت در روز محدود می‌شوند و این دسترسی تا تاریخ ۲۵ نوامبر (۴ آذر) به‌طور کامل ممنوع خواهد شد.

به گزارش ورج، Character.AI از یک مدل تضمین سن داخلی جدید رونمایی کرد که سن کاربر را براساس نوع شخصیت‌هایی که برای گفتگو انتخاب می‌کند، در ترکیب با سایر داده‌های موجود، طبقه‌بندی می‌کند. تمام کاربران (جدید و قدیمی) توسط این مدل ارزیابی می‌شوند. کاربرانی که زیر ۱۸ سال تشخیص داده شوند، به‌طور خودکار به نسخه «ایمن برای نوجوانان» هدایت می‌شوند (تا زمان ممنوعیت کامل در نوامبر). بزرگسالانی نیز که به اشتباه زیر سن قانونی تشخیص داده شوند، می‌توانند از طریق سرویس شخص ثالث Persona و با ارائه مدارک هویتی دولتی سن خود را اثبات کنند.

ممنوعیت دسترسی نوجوانان به چت‌بات‌های Character.AI

پس از ممنوعیت کامل چت، نوجوانان همچنان می‌توانند برای دسترسی به چت‌های قدیمی خود و استفاده از قابلیت‌های غیر-گفتگو (مانند ساخت شخصیت، ویدیو و داستان) وارد حساب خود شوند.

بااین‌حال، «کاراندیپ آناند» (Karandeep Anand)، مدیرعامل Character.AI، تأیید کرد که کاربران «درصد بسیار کمتری» از زمان خود را صرف این قابلیت‌ها می‌کنند. او این اقدام (ممنوع‌کردن چت‌بات‌ها) را یک «حرکت بسیار بسیار جسورانه» برای این شرکت توصیف کرد.

این اقدام در پی شکایت‌هایی صورت می‌گیرد که علیه Character.AI تنظیم شده است. والدینی با طرح شکایت‌هایی مبنی‌بر «مرگ ناخواسته» و «سهل‌انگاری» این شرکت را متهم کرده‌اند که فرزندانشان را به روابط نامناسب یا مضر با چت‌بات‌ها کشانده است.

همزمان، فشار قانونی بر این صنعت در حال افزایش است. لایحه‌ای در کالیفرنیا توسعه‌دهندگان را ملزم می‌کند که هوش مصنوعی‌بودن چت‌بات‌ها را به وضوح اعلام کنند. همچنین، یک قانون فدرال پیشنهادی، ارائه «همراهان هوش مصنوعی» به افراد زیر سن قانونی را به‌طور کامل ممنوع خواهد کرد.