Cerebras Systems ha affermato di aver messo in produzione l'inferenza disaggregata, suddividendo i carichi di lavoro di inferenza AI tra GPU convenzionali e processori su scala wafer in una configurazione che secondo l'azienda fornisce cinque volte più token per megawatt senza sacrificare la velocità di generazione.

L'annuncio, pubblicato sul blog dell'azienda il 17 novembre 2026, segna un cambiamento notevole per un'azienda che ha trascorso anni a posizionare il suo Wafer Scale Engine come alternativa all'inferenza basata su GPU piuttosto che come complemento ad essa. Ora, Cerebras afferma che le GPU gestiscono la fase di elaborazione dei prompt mentre i suoi sistemi gestiscono la fase di generazione dei token. Per maggiori informazioni su questa storia, consulta la nostra notizie sull'IA.

Perché dividere l'inferenza in due?

L'inferenza avviene in due fasi. La precompilazione elabora la richiesta dell'utente e produce uno stato del modello intermedio. La decodifica utilizza quindi quello stato per generare token di output, uno alla volta, in un ciclo autoregressivo che si ripete per ogni parola della risposta.

Le due fasi hanno profili computazionali molto diversi. La precompilazione è un'operazione di calcolo pesante e parallela, ed è qui che le GPU eccellono. La decodifica è legata alla larghezza di banda della memoria e sequenziale, ed è qui che Cerebras sostiene che la sua architettura su scala wafer detiene il vantaggio, poiché l'intero modello può risiedere su un singolo pezzo di silicio senza la comunicazione tra chip che rallenta i cluster GPU durante la generazione.

L'azienda aveva sperimentato altri modi per suddividere i carichi di lavoro. Nel suo post sul blog, Cerebras elenca gli schemi draft-target, in cui un modello piccolo propone i token e uno più grande li verifica, e la separazione attenzione-FFN tra le alternative considerate. Ma sostiene che separare la precompilazione dalla decodifica è particolarmente adatto ad applicazioni altamente interattive, perché la fase di decodifica mantiene intatte le velocità di generazione ultraveloce tipiche di Cerebras.

I numeri dietro questa affermazione

Secondo l'annuncio, la configurazione disaggregata è ora attiva in Cerebras Inference Cloud e fornisce cinque volte più token per megawatt alla stessa velocità di generazione che l'azienda stava già servendo. Cerebras afferma che i partner infrastrutturali possono anche implementare la stessa architettura divisa nei propri data center.

La logica economica è semplice. I fornitori di inferenza guadagnano entrate per token e la potenza è il vincolo vincolante sulla capacità. Se lo stesso megawatt produce cinque volte i token, la stessa struttura genera proporzionalmente più potenziale di guadagno, come illustra l’azienda con una tabella che confronta le configurazioni di servizio aggregate e disaggregate.

L’annuncio si basa anche sulle previsioni della domanda per sostenere che l’industria ha bisogno di ogni aumento di efficienza possibile. Citando Goldman Sachs Research, Cerebras afferma che si prevede che la domanda di inferenza dell’intelligenza artificiale crescerà di circa 24 volte rispetto ai livelli del 2026 entro il 2030, mentre la capacità dei data center crescerà solo di circa 2,2 volte nello stesso periodo. Se entrambe le proiezioni sono valide, il divario tra ciò che gli utenti vogliono eseguire e quali strutture possono alimentare diventa il vincolo determinante dello sviluppo dell’intelligenza artificiale alla fine degli anni ’20.

Le applicazioni agenti guidano il crunch

L’azienda attribuisce l’aumento della domanda alle applicazioni agentiche che si espanderanno rapidamente nel 2026, citando Muse, Copilot e Codex come esempi di prodotti che richiedono un’inferenza altamente interattiva per mantenere gli utenti coinvolti. Gli agenti conversazionali che trasmettono risposte token per token sono esattamente i carichi di lavoro in cui la velocità di generazione è una caratteristica rivolta all'utente piuttosto che una metrica di back-end.

Cerebras colloca il lancio all'interno di una spinta di capacità più ampia. L’azienda indica il sistema CS-4 recentemente annunciato, un drammatico ridimensionamento della sua produzione e una capacità pianificata del data center di circa 700 megawatt come gli elementi che consentiranno a lei e ai suoi partner di servire sostanzialmente più traffico nel 2027 e oltre.

Una svolta pragmatica per la scala wafer

Strategicamente, l’annuncio si legge come un pragmatico accomodamento al dominio della GPU. Invece di chiedere ai clienti di spostare intere pipeline di inferenza su silicio esotico, Cerebras propone una divisione del lavoro: lasciare che le GPU facciano ciò per cui sono ottimizzate e che l’hardware su scala wafer faccia ciò che sa fare meglio. Per i fornitori di inferenza schiacciati tra l’aumento della domanda e i vincoli di potenza, il problema è la capacità che possono aggiungere senza aspettare l’hardware di nuova generazione.

Se la richiesta di efficienza quintuplicata regge su diverse architetture di modelli e mix di traffico nel mondo reale diventerà chiaro solo quando i partner implementeranno la configurazione su larga scala. Ma la direzione del viaggio è chiara in tutto il settore. Poiché l'inferenza sostituisce la formazione come carico di lavoro di elaborazione dominante, tutti i principali fornitori di hardware stanno riesaminando il modo in cui le due fasi di generazione dovrebbero essere suddivise, alimentate e valutate.

Confronto con gli approcci nativi GPU

I principali fornitori di inferenza su iperscala hanno perseguito le proprie strategie di disaggregazione, in genere mantenendo entrambe le fasi sulle famiglie di GPU ottimizzate per ciascuno scopo. La variante di Cerebras si distingue per aver attraversato le linee dei fornitori: la società ha confermato che le GPU AMD gestiscono la fase di preriempimento nella sua configurazione di produzione, con i sistemi Cerebras responsabili della decodifica. Questa eterogeneità è importante per gli operatori, perché tratta la precompilazione e la decodifica come beni acquistabili separatamente piuttosto che come un unico stack integrato.

I risultati pubblicati dall’azienda sottolineano che la divisione preserva la velocità di generazione anziché barattarla con l’efficienza. Questa distinzione affronta una critica di vecchia data alla distribuzione disaggregata: il batching precompilato separatamente può aggiungere latenza al primo token e qualsiasi configurazione che rallenti il ​​ciclo di decodifica mina la sensazione interattiva venduta dai servizi di inferenza premium. Cerebras sostiene che il suo accordo evita entrambe le sanzioni, anche se i parametri di riferimento indipendenti su diverse durate e modelli di traffico saranno il vero test.

Per i lettori di AI Buzz Wire che seguono la corsa alle infrastrutture, il messaggio di Cerebras è che l’era dell’inferenza “one-chip-fits-all” sta lasciando il posto a pipeline appositamente costruite – e che la società intende possedere la metà di decodifica di esse.

---

Rimani Aggiornato sull'IA

Le ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.

Leggi altre notizie sull'IA →