در ماه ژوئن، زمانی که OpenAI برای نخستین‌بار از سری GPT-5.6 رونمایی کرد، این شرکت اعلام کرده بود که مدل Sol در ماه ژوئیه روی پلتفرم Cerebras نیز عرضه خواهد شد و برای برخی مشتریان منتخب، سرعتی تا 750 توکن در ثانیه ارائه خواهد کرد. بااین‌حال، OpenAI در ماه ژوئیه جزئیاتی درباره اجرای استنتاج Sol روی پلتفرم Cerebras منتشر نکرد. بعدها کارکنان OpenAI در شبکه اجتماعی X تأیید کردند که این شرکت به‌صورت خصوصی در حال آزمایش این حالت پرسرعت با برخی مشتریان منتخب بوده است.
OpenAI امروز به‌طور رسمی حالت جدید Ultrafast را برای GPT-5.6 Sol معرفی کرد. این حالت می‌تواند مدل پیشرفته را با سرعتی تا 750 توکن خروجی در ثانیه اجرا کند. این سرعت، بدون نیاز به تغییر مدل به نسخه‌ای کوچک‌تر یا کم‌توان‌تر، تا 14 برابر بیشتر از حالت پردازش استاندارد است. حالت جدید Ultrafast با بهره‌گیری از معماری Wafer-Scale Engine شرکت Cerebras کار می‌کند. این معماری از 44 گیگابایت حافظه SRAM روی تراشه استفاده می‌کند و به این ترتیب، گلوگاه‌های انتقال داده را که معمولاً سرعت استنتاج را در سامانه‌های مبتنی بر پردازنده‌های گرافیکی (GPU) محدود می‌کنند، کاهش می‌دهد.
بر اساس سرعت‌های خروجی گزارش‌شده از سوی Artificial Analysis، شرکت Cerebras اعلام کرده که GPT-5.6 Sol Ultrafast در مقایسه با Fable 5 حدود 11 برابر و در مقایسه با Opus 4.8 در حالت Fast حدود پنج برابر سریع‌تر است. در آزمون Humanity’s Last Exam، مدل Sol Ultrafast توانست هر 2500 پرسش را در 11 ساعت و 11 دقیقه پردازش کند؛ این زمان برای Fable 5 برابر با 78 ساعت و 27 دقیقه بود. در عین حال، دقت دو مدل در سطحی قابل‌مقایسه قرار داشت.
OpenAI در مطلب منتشرشده در وبلاگ خود اعلام کرده که حالت جدید Ultrafast برای کاربردهایی از جمله واکنش به رخدادها، پژوهش‌های مالی، پشتیبانی بلادرنگ از مشتریان و کاربردهای صوتی، تجارت الکترونیکی، برنامه‌نویسی و فرایندهای پژوهشی مناسب است. توسعه‌دهندگان OpenAI نیز در داخل این شرکت از این قابلیت برای تحلیل گزارش‌ها و ردپاهای سیستمی (traces) هنگام وقوع رخدادها و همچنین تسریع چرخه‌های پژوهشی استفاده می‌کنند.
با توجه به محدود بودن ظرفیت Cerebras در اختیار OpenAI، این شرکت برای اعطای دسترسی به حالت Ultrafast، مشتریان را بر اساس تناسب بار کاری و ظرفیت موجود ارزیابی خواهد کرد. مشتریان علاقه‌مند می‌توانند فرم مربوطه را تکمیل کنند تا هنگام عرضه گسترده این قابلیت، از در دسترس قرار گرفتن آن مطلع شوند.
نظرات کاربران