محتوای بی‌کیفیت هوش مصنوعی می‌تواند به افت شناختی و خشونت در کودکان منتهی شود

در سال‌های اخیر، پلتفرم‌هایی مانند تیک‌تاک و یوتوب با افزایش شدید محتوای بی‌کیفیت، تکراری و گاه خشونت‌آمیز که با هوش مصنوعی ساخته شده‌اند، مخاطبان کودک را هدف قرار داده‌اند. براساس مطالعه‌ای جدید، این دسته از محتواهای بی‌ارزش ساخته‌شده با هوش مصنوعی که در اصطلاح به آنها AI Slop گفته می‌شود، به‌ویژه ویدیوهای انیمیشنی از میوه‌ها، می‌توانند موجب افت شناختی و شکل‌گیری تمایلات خشن در کودکان شوند.

بررسی‌های «شبکه جهانی مبارزه با افراط‌گرایی و فناوری» (GNET) نشان می‌دهد ویدیوهای انیمیشنی از میوه‌ها که با هوش مصنوعی ساخته شده‌اند و به‌وفور در فیدهای کودکان در سراسر جهان پخش می‌شوند، می‌توانند روشی پنهانی برای ترویج محتوای خشن و افراطی باشند. اصطلاح محتوای بی‌ارزش هوش مصنوعی یا Slop به محتواهای به‌شدت تکراری و با کیفیت پایین اطلاق می‌شود که معمولاً بدون دخالت انسانی ساخته می‌شوند. این تولیدات صرفاً با هدف جذب بازدید، کلیک، تعامل و درآمدهای تبلیغاتی توسعه یافته و هزینه تولید بسیار پایینی دارند.

از همین رو، یک تولیدکننده محتوا می‌تواند صدها نمونه از این ویدیوهای کوتاه را آماده و شبکه‌های اجتماعی مختلف را با حجم انبوهی از محتوا پر کند. از آنجایی که بسیاری از پلتفرم‌ها فعالیت و بارگذاری مداوم را با نمایش بیشتر پاداش می‌دهند، این راهبرد در رسیدن به میلیون‌ها کودک در سراسر جهان بسیار مؤثر بوده است.

مصرف بیش از حد این محتواها که بیش‌از‌حد تحریک‌کننده و بی‌هدف هستند، پدیده‌ای تحت عنوان مَغزپاشی (Brain Rot) یا افت شناختی را ایجاد می‌کند که ناشی از اسکرول بی‌پایان و جستجوی مداوم برای ترشح دوپامین است. ظهور ابزارهای ارزان، ساده و در دسترس مانند PixVerse ،VeoE.ai ،Media.io و Sora نیز نقشی اساسی در افزایش این نوع محتوا داشته‌اند.

پژوهشگران می‌گویند این ویدیوها اغلب دارای خطوط داستانی دراماتیک از جمله روابط عاشقانه، درگیری‌های خانوادگی، خیانت و فریب هستند که از زبان کاراکترهای میوه‌ای معصوم روایت می‌شوند. همچنین این انیمیشن‌ها رفتارهای پرخاشگرانه و خشونت‌های عاطفی شدیدی را به تصویر می‌کشند و به دلیل ساختار روایی خاص خود، محرک‌های بسیار سنگینی برای ذهن‌های شکل‌نگرفته محسوب می‌شوند.

ترویج خشونت با محتواهای هوش مصنوعی

بررسی‌های عمیق‌تر نشان می‌دهد که فراتر از داستان‌های درام ساده، زیرگونه‌ای نگران‌کننده‌تر به نام «محتوای چندش‌آور و خونین میوه‌ای» (Fruit/Vegetable Gore) نیز درحال گسترش است. در این ویدیوها، کاراکترهای رنگارنگ و انیمیشنی با سلاح‌هایی مانند اره، تبر و اسلحه گرم به تصویر کشیده می‌شوند و صحنه‌هایی از شکنجه، قطع عضو، قتل و دریدن بدن تا بیرون ریختن اعضای داخلی بدن میوه‌ها را بازسازی می‌کنند. این جذابیت بصری کارتونی و به‌ظاهر بامزه، با پنهان کردن وحشت واقعی، مرزهای عاطفی کودکان را تضعیف کرده و حساسیت آنها را نسبت به خشونت شدید و شکنجه از بین می‌برد.

نکته هشداردهنده دیگر، الگوبرداری مستقیم این انیمیشن‌ها از زیبایی‌شناسی کارتل‌های جنایی و گروه‌های تروریستی است. برخی از این ویدیوها شیوه‌های وحشیانه اعدام توسط کارتل‌ها را بازسازی می‌کنند و برخی دیگر دقیقاً از ویدیوهای تبلیغاتی داعش و گروه‌های نئونازی راست افراطی الهام گرفته‌اند.

اگرچه پلتفرم‌هایی مانند تیک‌تاک انتشار خشونت را ممنوع کرده‌اند، ظاهر معصومانه این ویدیوها فیلترهای نظارتی را دور می‌زند و بستری خطرناک برای جذب ناخودآگاه کودکان به افراط‌گرایی آنلاین و فرهنگ نامناسب ایجاد می‌کند.