Cerebras Systems a declarat că a introdus inferențe dezagregate în producție, împărțind sarcinile de lucru de inferență AI între GPU-urile convenționale și procesoarele sale la scară wafer într-o configurație despre care compania susține că furnizează de cinci ori mai multe jetoane per megawatt, fără a sacrifica viteza de generare.
Anunțul, publicat pe blogul companiei pe 17 noiembrie 2026, marchează o schimbare notabilă pentru o companie care și-a petrecut ani de zile poziționând Wafer Scale Engine ca o alternativă la inferența bazată pe GPU, mai degrabă decât o completare a acestuia. Acum, Cerebras spune că GPU-urile se ocupă de etapa de procesare promptă, în timp ce propriile sisteme se ocupă de etapa de generare a simbolurilor. For more context on this story, see our ongoing latest AI developments.
De ce împărțiți inferența în două?
Inferența are loc în două etape. Precompletarea procesează solicitarea utilizatorului și produce o stare intermediară a modelului. Decodarea folosește apoi acea stare pentru a genera jetoane de ieșire, pe rând, într-o buclă autoregresivă care se repetă pentru fiecare cuvânt al răspunsului.
Cele două etape au profiluri de calcul foarte diferite. Precompletarea este grea de calcul și paralelă, ceea ce este locul în care GPU-urile excelează. Decodarea este legată de lățimea de bandă a memoriei și secvențială, ceea ce Cerebras susține că arhitectura sa la scară wafer deține avantajul, deoarece întregul model poate sta pe o singură bucată de siliciu fără comunicarea între cip care încetinește clusterele GPU în timpul generării.
Compania a experimentat și alte modalități de împărțire a sarcinilor de lucru. În postarea sa de blog, Cerebras enumeră scheme de proiect-țintă, în care un model mic propune jetoane și unul mai mare le verifică, și separarea atenție-FFN între alternativele pe care le-a luat în considerare. Dar susține că separarea pre-completare de decodare este potrivită în mod unic pentru aplicațiile extrem de interactive, deoarece etapa de decodare păstrează intacte vitezele de generare ultrarapide semnăturii Cerebras.
Cifrele din spatele revendicării
Potrivit anunțului, configurația dezagregată este acum live în Cerebras Inference Cloud și oferă de cinci ori mai multe jetoane per megawatt la aceleași viteze de generație pe care compania le deservește deja. Cerebras spune că partenerii de infrastructură pot implementa, de asemenea, aceeași arhitectură divizată în propriile centre de date.
Logica economică este simplă. Furnizorii de inferențe câștigă venituri pe token, iar puterea este constrângerea obligatorie a capacității. Dacă același megawat produce de cinci ori mai mult decât jetoanele, aceeași facilitate generează proporțional mai mult potențial de venituri, pe care compania îl ilustrează printr-un tabel care compară configurațiile de servire agregate și dezagregate.
Anunțul se bazează și pe prognozele cererii pentru a argumenta că industria are nevoie de fiecare câștig de eficiență pe care îl poate obține. Citând Goldman Sachs Research, Cerebras spune că se estimează că cererea de inferență AI va crește de aproximativ 24 de ori față de nivelurile din 2026 până în 2030, în timp ce capacitatea centrului de date crește doar de aproximativ 2,2 ori în aceeași perioadă. Dacă ambele previziuni se mențin, decalajul dintre ceea ce doresc utilizatorii să ruleze și ce facilități pot alimenta devine constrângerea definitorie a dezvoltării AI de la sfârșitul anilor 2020.
Aplicațiile agentice conduc la criză
Compania atribuie creșterea cererii aplicațiilor agentice care se extind rapid în 2026, numind Muse, Copilot și Codex drept exemple de produse care necesită inferențe extrem de interactive pentru a menține utilizatorii implicați. Agenții conversaționali care transmit răspunsuri token cu token sunt tocmai sarcinile de lucru în care viteza de generare este o caracteristică adresată utilizatorului, mai degrabă decât o măsurătoare back-end.
Cerebras situează lansarea într-o capacitate mai largă. Compania subliniază sistemul CS-4 anunțat recent, o scalare dramatică a producției sale și capacitatea planificată a centrului de date de aproximativ 700 de megawați ca elemente care îi vor permite acestuia și partenerilor săi să deservească mult mai mult trafic în 2027 și mai departe.
O viraj pragmatică pentru Wafer-Scale
Strategic, anunțul se citește ca o adaptare pragmatică a dominației GPU. În loc să le ceară clienților să mute conducte de inferență întregi pe siliciu exotic, Cerebras propune o diviziune a muncii: lăsați GPU-urile să facă ceea ce sunt optimizate și lăsați hardware-ul la scară wafer să facă ceea ce face cel mai bine. Pentru furnizorii de inferențe care se află între cererea în creștere și constrângerile de putere, pitch-ul este capacitatea pe care o pot adăuga fără să aștepte hardware de nouă generație.
Dacă afirmația de cinci ori eficiență se menține în diferite arhitecturi de model și în combinațiile de trafic din lumea reală, va deveni clar doar pe măsură ce partenerii implementează configurația la scară. Dar direcția de deplasare este clară în întreaga industrie. Pe măsură ce inferența înlocuiește antrenamentul ca sarcină de lucru de calcul dominantă, fiecare furnizor important de hardware reexaminează modul în care cele două etape de generare ar trebui să fie împărțite, alimentate și evaluate.
Cum se compară cu abordările GPU-native
Principalii furnizori de inferențe la scară largă și-au urmărit propriile strategii de dezagregare, menținând de obicei ambele etape ale familiilor de GPU reglate pentru fiecare scop. Varianta lui Cerebras este distinctă în trecerea liniilor de furnizor: compania a confirmat că GPU-urile AMD se ocupă de etapa de pre-umplere în configurația sa de producție, sistemele Cerebras fiind responsabile de decodare. Acea eterogenitate contează pentru operatori, deoarece tratează pre-completarea și decodificarea ca mărfuri procurabile separat, mai degrabă decât o singură stivă integrată.
Rezultatele publicate de companie subliniază faptul că împărțirea păstrează viteza de generare, mai degrabă decât o tranzacționează pentru eficiență. Această distincție abordează o critică de lungă durată a difuzării dezagregate: completarea în lot separat poate adăuga latență la primul simbol, iar orice configurație care încetinește bucla de decodificare subminează senzația interactivă pe care serviciile de inferență premium o vând. Cerebras susține că aranjamentul său evită ambele sancțiuni, deși criteriile de referință independente pe lungimi variate și tipare de trafic vor fi adevăratul test.
Pentru cititorii AI Buzz Wire care urmăresc cursa infrastructurii, mesajul de la Cerebras este că epoca inferenței cu un singur cip pentru toate cedează loc conductelor construite special - și că compania intenționează să dețină jumătate din ele decodificate.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →