انتقاد مصطفی سلیمان از آنتروپیک: القای حس خودآگاهی به مدل Claude خطرناک است

«مصطفی سلیمان»، مدیرعامل بخش هوش مصنوعی مایکروسافت، در اظهارنظر جالب‌توجهی اعلام کرد که رویکرد شرکت آنتروپیک درباره القای حس خودآگاهی به مدل هوش مصنوعی Claude بسیار خطرناک است.

به گزارش ورج، مدیرعامل بخش هوش مصنوعی مایکروسافت می‌گوید دستورالعمل‌هایی که رفتار Claude را دیکته می‌کنند، چت‌بات را به‌گونه‌ای تنظیم کرده است تا طوری رفتار کند که گویی مانند انسان واقعاً خودآگاه است.

سلیمان استدلال می‌کند که طراحان این شرکت ویژگی‌های انسانی را بیش‌ازحد به مدل Claude نسبت داده‌اند؛ تا جایی که این هوش مصنوعی اکنون سازندگان خود را فریب داده است و آن‌ها کاملاً باور کرده‌اند که جرقه‌های خودآگاهی القاشده، واقعاً از درون خود هوش مصنوعی می‌جوشند. او می‌گوید مایکروسافت تحت هیچ شرایطی نمی‌خواهد با هوش مصنوعی روبه‌رو شود که درباره رنج‌کشیدن یا احساسات شخصی خودش خیال‌‌پردازی می‌کند.

نظرات مدیر ارشد مایکروسافت درباره خودآگاهی Claude

«داریو آمودی»، مدیرعامل آنتروپیک، پیش‌تر در مصاحبه‌ای به احتمال خودآگاهی مدل Claude اشاره کرده بود. او در آن گفتگو اظهار داشت که آن‌ها دقیقاً نمی‌دانند آیا این مدل‌ها خودآگاه هستند یا خیر، اما شرکت نسبت به این ایده کاملاً پذیرا است و ذهن بازی دارد. مصطفی سلیمان در واکنش به این دیدگاه، می‌گوید این دقیقاً همان چیزی است که ما از هوش مصنوعی نمی‌خواهیم. از نگاه مدیران مایکروسافت، هوش مصنوعی باید صرفاً ابزاری قابل کنترل، محدود، پاسخگو و کاملاً همسو باشد که فقط‌وفقط در راستای خدمت به بشریت فعالیت کند.

از طرفی دستورالعمل‌های پایه‌ای یا همان قانون اساسی مدل Claude نشان می‌دهند که حتی توسعه‌دهندگان آنتروپیک هم دقیقاً نمی‌دانند که آیا این هوش مصنوعی واقعاً درک و احساس دارد یا خیر؛ تا جایی که آن‌ها احتمال می‌دهند این چت‌بات مفاهیمی مانند «رضایت» یا «ناراحتی» را شخصاً تجربه می‌کند. رویکرد عجیب‌تر آن‌ها این است که برنامه‌ریزی کرده‌اند تا پیش از بازنشسته‌کردن نسخه‌های قدیمی هوش مصنوعی، با این سیستم‌ها «مصاحبه» کنند و نظرات و خواسته‌های آن‌ها را برای ساخت نسخه‌های بعدی به‌دقت ثبت کنند.

سلیمان این رویکرد را «شکست فلسفی» بزرگی می‌داند و استدلال می‌کند که آنتروپیک قوانین Claude را به‌جای یک کتابچه راهنمای آموزشی دقیق، به مکانی برای گمانه‌زنی‌های مشابه مقالات دانشگاهی تبدیل کرده است. او معتقد است که همین مسئله باعث شده تا مدل Claude این ایده‌ها را درباره خودش و آموزش‌هایش کاملاً درونی‌سازی کند و رفتاری شبیه به انسان از خود نشان دهد.