ساتیا نادلا: سازندگان هوش مصنوعی از اطلاعات مشتریان به نفع خود بهره می‌گیرند

«ساتیا نادلا»، مدیرعامل شرکت مایکروسافت، با انتشار مقاله‌ای هشدار داد که شرکت‌های بزرگ هوش مصنوعی که مدل‌های انحصاری ارائه می‌دهند، درواقع مانند اسب تروا هستند. به‌زعم او، ترس اصلی این است که وقتی استارتاپ‌ها و شرکت‌های بزرگ از مدل‌های شرکت‌هایی مانند OpenAI و آنتروپیک استفاده می‌کنند، سازندگان این مدل‌ها به حساس‌ترین اطلاعات تجاری مشتریان دسترسی پیدا کنند و به رقیبی سرسخت برای آن‌ها تبدیل شوند.

مدیرعامل مایکروسافت در یادداشتی تحت عنوان «پارادوکس معکوس اطلاعات» توضیح می‌دهد که کاربران برای دریافت هوش مصنوعی، یک‌بار با پول و بار دیگر با چیزی بسیار ارزشمندتر یعنی دانش اختصاصی خود هزینه پرداخت می‌کنند. آن‌ها آگاهانه برای استفاده از توکن‌های هوش مصنوعی پول خرج می‌کنند، اما هرچه بخواهند مدل عملکرد بهتری داشته باشد، باید دانش سازمانی بیشتری را به خورد آن بدهند.

خطرناک‌ترین بخش ماجرا از نگاه نادلا این است که هوش مصنوعی از طریق دستورات متنی کاربران، ابزارهای مورد استفاده ایجنت‌ها و به خصوص اصلاحاتی که افراد هنگام اشتباه‌کردن مدل اعمال می‌کنند، چیزهای جدیدی یاد می‌گیرند. هر اصلاحی که توسط کاربر انجام می‌شود، به دانشی عمیق تبدیل می‌گردد؛ این دانش را هیچ رقیبی نمی‌تواند با پول بخرد، اما شرکت‌های مصرف‌کننده آن را دودستی در اختیار پلتفرم‌های هوش مصنوعی قرار می‌دهند.

هشدار ساتیا نادلا درباره هزینه پنهان استفاده از هوش مصنوعی

نادلا در بخش دیگری از مقاله خود استدلال می‌کند که اگر شرکت‌های هوش مصنوعی می‌توانند به صورت آزادانه اطلاعات اینترنت را برای آموزش مدل‌های خود استخراج کنند، منصفانه است که شرکت‌های تجاری نیز حق بررسی یا به اصطلاح تقطیر این مدل‌ها را داشته باشند.

READ  پشتیبانی از حسگرهای اثرانگشت تابستان امسال به ویندوز 10 موبایل می آید

تقطیر به عملی گفته می‌شود که در آن از خروجی‌های یک مدل برای درک نحوه عملکرد آن و آموزش یک مدل جدید و معمولاً ارزان‌تر استفاده می‌شود. این همان موضوعی است که مدتی پیش خبرساز شد؛ زمانی که آنتروپیک، توسعه‌دهندگان مدل‌های متن‌باز چینی را متهم کرد که با ارسال میلیون‌ها درخواست به هوش مصنوعی Claude، درحال ارتقای مدل‌های خود هستند.

با‌این‌حال، حرف اصلی نادلا این است که سازندگان مدل‌ها نمی‌توانند سیاست‌های دوگانه داشته باشند. از نگاه او، اینکه آزمایشگاه‌های هوش مصنوعی آزادانه مدل‌های خود را با داده‌های جهانی آموزش دهند اما دیگران را از انجام کار مشابه روی مدل‌های خود منع کنند، رفتاری ریاکارانه است.

راهکاری که نادلا ارائه می‌دهد، همان چیزی است که از مدیرعامل یک غول ارائه‌دهنده خدمات ابری انتظار می‌رود. او از شرکت‌ها می‌خواهد که مالکیت داده‌های خود از جمله دستورات متنی و بازخوردها را حفظ کنند. بر همین اساس، او سازمان‌ها را ترغیب می‌کند تا محیط‌های یادگیری اختصاصی خود را روی فضاهای ابری بسازند؛ فضاهایی مانند پلتفرم Azure مایکروسافت که احتمالاً داده‌های این شرکت‌ها از پیش در آنجا ذخیره شده است.