Cerebras Systems گفت استنتاج تفکیک شده را در تولید قرار داده است، و حجم کاری استنتاج هوش مصنوعی را بین GPUهای معمولی و پردازندههای مقیاس ویفر خود تقسیم کرده است، در پیکربندی که شرکت ادعا میکند پنج برابر توکنهای بیشتری در هر مگاوات بدون کاهش سرعت تولید ارائه میکند.
این اطلاعیه که در وبلاگ این شرکت در 17 نوامبر 2026 منتشر شد، تغییر قابل توجهی را برای شرکتی نشان میدهد که سالها وقت صرف کرده است تا موتور مقیاس ویفر خود را جایگزینی برای استنتاج مبتنی بر GPU باشد نه مکمل آن. اکنون Cerebras می گوید که GPU ها مرحله پردازش سریع را انجام می دهند در حالی که سیستم های خودش مرحله تولید توکن را انجام می دهد. For more context on this story, see our ongoing breaking AI news.
چرا استنباط را به دو تقسیم کنیم؟
استنباط در دو مرحله اتفاق می افتد. Prefill دستور کاربر را پردازش می کند و یک حالت مدل میانی تولید می کند. سپس رمزگشایی از آن حالت برای تولید نشانه های خروجی، یک به یک، در یک حلقه اتورگرسیو که برای هر کلمه از پاسخ تکرار می شود، استفاده می کند.
دو مرحله دارای مشخصات محاسباتی بسیار متفاوتی هستند. Prefill محاسباتی سنگین و موازی است، جایی که پردازندههای گرافیکی برتر هستند. رمزگشایی محدود به پهنای باند حافظه و متوالی است، جایی که Cerebras استدلال میکند که معماری در مقیاس ویفر آن مزیت را دارد، زیرا کل مدل میتواند بدون ارتباط بین تراشهای که خوشههای GPU را در طول تولید کند میکند، روی یک تکه سیلیکون قرار گیرد.
این شرکت با روشهای دیگری برای تقسیم بار کاری آزمایش کرده بود. در پست وبلاگ خود، Cerebras طرحهای پیشنویس-هدف را فهرست میکند، که در آن یک مدل کوچک توکنها را پیشنهاد میکند و یک مدل بزرگتر آنها را تأیید میکند، و جدایی توجه-FFN در بین گزینههایی که در نظر گرفته است. اما استدلال میکند که جداسازی پیشپر از رمزگشایی به طور منحصربهفردی برای برنامههای بسیار تعاملی مناسب است، زیرا مرحله رمزگشایی سرعت تولید فوق سریع امضای Cerebras را دست نخورده نگه میدارد.
اعداد پشت ادعا
طبق این اعلامیه، پیکربندی تفکیکشده اکنون در Cerebras Inference Cloud فعال است و پنج برابر توکنهای بیشتری در هر مگاوات با همان سرعت تولیدی که شرکت قبلاً ارائه میکرد، ارائه میدهد. سربراس میگوید شرکای زیرساخت میتوانند همان معماری تقسیمبندی را در مراکز داده خود مستقر کنند.
منطق اقتصادی ساده است. ارائه دهندگان استنتاج به ازای هر توکن درآمد کسب می کنند و قدرت محدودیت الزام آور ظرفیت است. اگر همان مگاوات پنج برابر توکنها بازدهی داشته باشد، همان تسهیلات پتانسیل درآمد بیشتری ایجاد میکند، که این شرکت با جدولی نشان میدهد که پیکربندیهای سرویس انبوه و تفکیک شده را مقایسه میکند.
این اعلامیه همچنین بر پیشبینیهای تقاضا تکیه دارد تا استدلال کند که صنعت به هر افزایش بهرهوری نیاز دارد. سربراس با استناد به تحقیقات گلدمن ساکس می گوید پیش بینی می شود تقاضای استنتاج هوش مصنوعی تا سال 2030 تقریباً 24 برابر از سطح سال 2026 رشد کند، در حالی که ظرفیت مرکز داده در مدت مشابه فقط حدود 2.2 برابر رشد می کند. اگر هر دو پیشبینی وجود داشته باشند، شکاف بین آنچه کاربران میخواهند اجرا کنند و امکاناتی که میتوانند قدرت را تامین کنند، به محدودیت تعیینکننده ساخت هوش مصنوعی اواخر دهه 2020 تبدیل میشود.
برنامه های کاربردی عامل باعث ایجاد بحران می شود
این شرکت افزایش تقاضا را به افزایش سریع برنامههای کاربردی در سال 2026 نسبت میدهد و از Muse، Copilot و Codex به عنوان نمونههایی از محصولاتی نام میبرد که نیاز به استنتاج بسیار تعاملی برای درگیر نگه داشتن کاربران دارند. عاملهای مکالمهای که پاسخها را به صورت توکن جریان میدهند، دقیقاً همان حجم کاری هستند که سرعت تولید بهجای یک متریک پشتیبان، یک ویژگی مورد نظر کاربر است.
Cerebras پرتاب را در یک فشار ظرفیت گسترده تر قرار می دهد. این شرکت به سیستم CS-4 خود که اخیراً معرفی شده، مقیاس چشمگیر خروجی تولید و ظرفیت مرکز داده برنامه ریزی شده تقریباً 700 مگاوات به عنوان قطعاتی اشاره می کند که به آن و شرکای آن اجازه می دهد تا ترافیک بیشتری را در سال 2027 و پس از آن ارائه دهند.
چرخش عملی برای مقیاس ویفر
از نظر استراتژیک، این اعلامیه به عنوان یک تطبیق عملی برای تسلط GPU خوانده می شود. سربراس به جای اینکه از مشتریان بخواهد کل خطوط لوله استنتاج را روی سیلیکون عجیب و غریب منتقل کنند، تقسیم کار را پیشنهاد می کند: اجازه دهید GPU ها کاری را که برای آن بهینه شده اند انجام دهند و اجازه دهید سخت افزار در مقیاس ویفر بهترین کار را انجام دهد. برای ارائهدهندگان استنباط که بین تقاضای فزاینده و محدودیتهای توان فشرده میشوند، ظرفیتی است که میتوانند بدون انتظار برای سختافزار نسل جدید اضافه کنند.
این که آیا ادعای کارآیی پنج برابری در معماریهای مدلهای متنوع و ترکیبهای ترافیکی دنیای واقعی برقرار است یا خیر، تنها زمانی مشخص میشود که شرکا پیکربندی را در مقیاس اجرا کنند. اما جهت سفر در سراسر صنعت مشخص است. از آنجایی که استنتاج جایگزین آموزش به عنوان حجم کار محاسباتی غالب می شود، هر فروشنده بزرگ سخت افزار در حال بررسی مجدد نحوه تقسیم، توان و قیمت گذاری دو مرحله تولید است.
چگونه با رویکردهای GPU-Native مقایسه می شود
ارائه دهندگان عمده استنتاج فرامقیاس استراتژی های تفکیک خود را دنبال کرده اند و معمولاً هر دو مرحله را در خانواده های GPU برای هر هدف تنظیم می کنند. نوع Cerebras در عبور از خطوط فروشنده متمایز است: این شرکت تأیید کرد که پردازندههای گرافیکی AMD مرحله prefill را در پیکربندی تولید خود انجام میدهند و سیستمهای Cerebras مسئول رمزگشایی هستند. این ناهمگونی برای اپراتورها مهم است، زیرا از پیش پر کردن و رمزگشایی به عنوان کالاهای قابل خرید جداگانه استفاده می کند تا یک پشته یکپارچه.
نتایج منتشر شده این شرکت تاکید می کند که تقسیم سرعت تولید را حفظ می کند تا اینکه آن را برای کارایی معامله کند. این تمایز به انتقاد طولانی مدت از سرویسهای تفکیکشده پاسخ میدهد: پیشپر کردن دستهای به طور جداگانه میتواند تأخیر را به اولین توکن اضافه کند، و هر پیکربندی که حلقه رمزگشایی را کند کند، احساس تعاملی را که خدمات استنتاج برتر میفروشند، تضعیف میکند. Cerebras ادعا می کند که ترتیب آن از هر دو مجازات جلوگیری می کند، اگرچه معیارهای مستقل در طول های مختلف و الگوهای ترافیکی آزمایش واقعی خواهد بود.
برای خوانندگان AI Buzz Wire که مسابقه زیرساخت ها را دنبال می کنند، پیام Cerebras این است که دوران استنتاج یک تراشه جای خود را به خطوط لوله ساخته شده می دهد - و این شرکت قصد دارد نیمی از آنها را رمزگشایی کند.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →