Cerebras CS-4 viene lanciato con WSE-3 Turbo: inferenza AI su scala rack con velocità GPU 30x

Cerebras ha svelato il CS-4, un sistema di inferenza AI su scala rack costruito attorno al suo nuovo processore WSE-3 Turbo su scala wafer, sostenendo che la macchina offre un'inferenza fino a 30 volte più veloce rispetto ai sistemi basati su GPU poiché l'azienda si posiziona come l'alternativa veloce all'impero dei data center di Nvidia.

Il lancio, annunciato martedì e dettagliato nelle pagine dei prodotti dell'azienda e in un'ondata di copertura da parte di Reuters, Bloomberg e The Register, segna il più significativo aggiornamento dell'hardware di Cerebras da quando è stata quotata in borsa - e un momento cruciale per una società le cui azioni hanno avuto difficoltà sin dalla sua IPO. Gli investitori sembrano prestare attenzione: le azioni di Cerebras (CBRS) sono aumentate alla notizia, e l'Investor's Business Daily ha citato il commento del CEO secondo cui il mercato dell'inferenza dell'intelligenza artificiale sta "crescendo così velocemente".

Per i lettori che seguono la corsa accelerata per far sì che i modelli di intelligenza artificiale rispondano più velocemente, il lancio di CS-4 è una delle storie hardware più importanti del trimestre e si colloca nel mezzo di cambiamenti più ampi nella copertura del settore dell’intelligenza artificiale che continuano a rimodellare il panorama informatico.

Cosa c'è dentro il CS-4

Il componente principale è il WSE-3 Turbo, una versione aggiornata del Wafer Scale Engine di Cerebras, grande quanto un piatto da portata. Secondo l'approfondimento tecnico di The Register, il WSE-3T non è un nuovo silicio: mantiene lo stesso processo TSMC a 5 nm, 46.225 millimetri quadrati di area del die, 4 trilioni di transistor, 900.000 core e 44 GB di SRAM su wafer del WSE-3 di due anni fa.

Invece, Cerebras è riuscita a raddoppiare le prestazioni spingendo molto di più sul chip esistente. Il WSE-3T raddoppia il calcolo sparso FP16 a 250 petaFLOPS, raddoppia le prestazioni FP16 dense a circa 25 petaFLOPS, raddoppia la larghezza di banda della memoria a 43,2 petabyte al secondo e raddoppia la larghezza di banda I/O a 2,4 terabit al secondo. Il Register stima che l'azienda stia ora registrando il clock del silicio a circa 2,8 GHz, rispetto a circa 1,4 GHz della generazione precedente.

Il trucco, secondo Cerebras, è un sistema di erogazione di potenza riprogettato che si trova a soli 0,5 millimetri dal processore, circa 100 volte più vicino dei circa 50 millimetri tipici delle schede GPU convenzionali. Questa vicinanza elimina quasi la perdita di potenza a livello di scheda e consente al doppio della potenza di raggiungere il wafer, consentendo frequenze operative più elevate dietro una generazione di token più rapida.

L'architettura rack Nexus

Oltre al chip stesso, il CS-4 introduce quella che Cerebras chiama Nexus Platform Architecture, il suo primo vero design su scala rack e una risposta diretta ai sistemi rack NVL72 di Nvidia e Helios di AMD. Ogni CS-4 può trasportare fino a tre processori WSE-3T alloggiati in "Zaini Wafer-Scale" autonomi: pacchetti 3D che piegano il wafer, conversione di potenza, raffreddamento a liquido diretto, I/O ad alta velocità ed elettronica di controllo in un unico assieme con il 50% di componenti in meno.

Il design modulare separa il livello stabile di alimentazione, raffreddamento e rete dal calcolo. Un Cerebras PowerRack può essere installato e qualificato per la struttura prima che arrivi qualsiasi computer, e gli zaini poi scivolano in posizione, riducendo i tempi di implementazione da giorni a ore, secondo l'azienda.

Il consumo energetico è notevole. Il Registro stima circa 46 kW per zaino e un consumo totale del sistema compreso tra 120 e 140 kW: numeri accattivanti che tuttavia sembrano conservativi rispetto ai sistemi rack da 240-250 kW che AMD e Nvidia dovrebbero spedire entro la fine dell'anno.

Eliminare l'interruttore

Forse la scelta tecnicamente più interessante è l'interconnessione. Invece di instradare il traffico wafer-to-wafer attraverso gli switch – l’approccio adottato da AWS per i suoi acceleratori Trainium3 – Cerebras collega i suoi chip in una topologia toroidale 2D in cui i wafer vicini comunicano direttamente tra loro. Il progetto riduce la latenza wafer-to-wafer da cinque microsecondi a soli due, e Cerebras afferma che la mesh può supportare modelli fino a 50 trilioni di parametri, ben oltre qualsiasi cosa attualmente esistente.

I risultati in termini di velocità sono sorprendenti. Su un singolo sistema CS-4, la società di benchmarking Artificial Analysis ha misurato fino a 4.400 token al secondo per utente su gpt-oss-120b: circa 12 volte i ~350 token al secondo dei servizi di inferenza basati su GPU più veloci oggi disponibili. Cerebras afferma inoltre che il sistema sostiene più di 1.000 token al secondo su modelli che superano i 10 trilioni di parametri.

Una strategia di partenariato disaggregata

In particolare, Cerebras non sta più tentando di eseguire l’intera pipeline di inferenza sul proprio silicio. L'azienda ha collaborato con AWS e AMD per scaricare la fase di inferenza di elaborazione rapida ad alta intensità di calcolo rispettivamente su Trainium XPU e GPU Instinct, lasciando che i suoi motori su scala wafer gestiscano la fase di decodifica sensibile alla latenza in cui brillano le loro enormi riserve SRAM.

Il lancio del CS-4 estende anche la collaborazione di Cerebras con OpenAI. Yahoo Finance ha riportato la presentazione insieme alle nuove partnership OpenAI e AMD volte ad accelerare l'inferenza dell'intelligenza artificiale, basandosi sulla modalità Ultrafast introdotta dalle società all'inizio di agosto, che ha portato GPT-5.6 Sol agli utenti fino a 750 token al secondo.

Avvertenze dietro i numeri dei titoli

Gli analisti del settore invitano alla cautela sui dati di marketing. Il Register rileva che il titolo di Cerebras di 250 petaFLOPS si basa sulla scarsità, che generalmente non avvantaggia l'inferenza del modello linguistico di grandi dimensioni, e che le cifre di picco della larghezza di banda della memoria sono in gran parte teoriche poiché al WSE-3 mancava il calcolo per saturare la propria SRAM. La pubblicazione si chiedeva anche perché Cerebras abbia raddoppiato le prestazioni anziché aumentare la capacità della SRAM, che non è cresciuta in modo significativo dal lancio del WSE-2 cinque anni fa: una scelta curiosa in un'era di inferenza disaggregata in cui gli acceleratori di decodifica traggono maggiori benefici dalla memoria.

Tuttavia, l’opportunità di mercato è reale. Poiché i chatbot e gli agenti IA richiedono tempi di risposta sempre più rapidi, la velocità di inferenza è diventata un vero e proprio elemento di differenziazione competitiva e Cerebras ha ora dimostrato di poter iterare la sua tecnologia non convenzionale su scala wafer con cadenza commerciale.

Le prime spedizioni del CS-4 inizieranno questo trimestre, con i primi sistemi attesi online entro la fine di settembre. Resta da vedere se ciò basterà a intaccare il dominio di Nvidia, ma per la prima volta da molto tempo, l'inferenza AI più veloce del settore ha un nuovo indirizzo.

Stai al passo con l'intelligenza artificiale

I lanci di hardware come il CS-4 muovono i mercati e ridefiniscono ciò che i sistemi di intelligenza artificiale possono fare. Leggi altre notizie sull'AI per tenere il passo con ogni sviluppo.

Esplora l'ultima copertura sull'intelligenza artificiale →