اولین بنچمارک‌های Jalapeño منتشر شد؛ برتری تراشه OpenAI در سرعت استنتاج و بهره‌وری انرژی

OpenAI در جریان کنفرانس Hot Chips نگاه دقیق‌تر و کامل‌تری به تراشه اختصاصی خود موسوم به Jalapeño ارائه کرد و اولین نتایج آزمون‌های بنچمارک آن را به اشتراک گذاشت. نتایج به‌دست‌آمده از بنچمارک InferenceX مؤسسه SemiAnalysis نشان می‌دهد که تراشه OpenAI هم در سرعت پاسخ‌دهی به هر کاربر و هم در مصرف بهینه برق نسبت به توان خروجی، عملکردی فراتر از پردازنده‌های استنتاجی پرچمدار و پیشرفته فعلی بازار ثبت کرده است.

«ریچارد هو»، مدیر بخش سخت‌افزار OpenAI، در این کنفرانس اعلام کرد که نتایج نهایی نشان‌دهنده یک جهش عملکردی بسیار چشمگیر در مقایسه با پیشرفته‌ترین سخت‌افزارهای امروزی است. به گفته او، تراشه Jalapeño می‌تواند به ازای هر واحد مصرف انرژی، حجم بیشتری از داده‌های هوش مصنوعی را پردازش کند و هم‌زمان پاسخ‌ها را با سرعت بالاتری ارائه کند. این ویژگی علاوه‌بر افزایش راندمان برای پاسخ‌گویی به تعداد زیادی از کاربران، تأخیر زمانی پاسخ‌دهی را نیز به شکل قابل‌توجهی پایین می‌آورد.

معماری تراشه هوش مصنوعی Jalapeño و برنامه زمانی عرضه

نکته قابل توجه اینکه مقایسه‌های فنی انجام‌شده، در برابر سیستم Blackwell انویدیا ثبت شده‌اند؛ هرچند تا زمان استقرار و بهره‌برداری کامل از Jalapeño، رقبای بازار نیز ممکن است پیشرفت‌های فنی گسترده‌ای داشته باشند. براساس برآوردها، استقرار این پردازنده در اواخر سال ۲۰۲۶ میلادی در مقیاسی بسیار محدود آغاز خواهد شد و استفاده گسترده‌تر از آن به سال ۲۰۲۷ موکول می‌شود.

تراشه OpenAI که برای اولین‌بار در ماه اکتبر سال گذشته رونمایی شده بود، حاصل همکاری نزدیک این شرکت و Broadcom است و حتی مدل‌های هوش مصنوعی اختصاصی خود OpenAI نیز در فرایند طراحی و توسعه آن مشارکت داشته‌اند. این شرکت در نظر دارد Jalapeño را به یک پلتفرم چندنسلی تبدیل کند تا محصولات، مدل‌ها، پردازنده‌ها و حافظه‌ها به‌طور هم‌زمان و یکپارچه با یکدیگر توسعه پیدا کنند.

به دلیل استفاده از رویکردی کاملاً یکپارچه، OpenAI توانسته گره‌های پردازشی خاصی را که معمولاً در حین فرایند استنتاج هوش مصنوعی ایجاد اصطکاک و کندی می‌کنند، برطرف کند. تراشه Jalapeño به‌طور اختصاصی برای به حداقل رساندن تأخیرها در مراحل پیش‌بارگذاری داده‌ها طراحی شده که اغلب به عنوان گلوگاه‌های پردازشی شناخته می‌شوند.