Cerebras CS-4 est lancé avec WSE-3 Turbo : inférence IA à l'échelle du rack à une vitesse GPU 30x

Cerebras a dévoilé le CS-4, un système d'inférence d'IA à l'échelle du rack construit autour de son nouveau processeur à l'échelle d'une tranche WSE-3 Turbo, affirmant que la machine offre une inférence jusqu'à 30 fois plus rapide que les systèmes basés sur GPU, alors que l'entreprise se positionne comme l'alternative de vitesse à l'empire des centres de données de Nvidia.

Le lancement, annoncé mardi et détaillé sur les pages produits de la société et dans une vague de couverture médiatique de la part de Reuters, Bloomberg et The Register, marque le rafraîchissement matériel le plus important de Cerebras depuis son introduction en bourse – et un moment charnière pour une société dont les actions ont connu des difficultés depuis son introduction en bourse. Les investisseurs semblent y prêter attention : les actions de Cerebras (CBRS) ont bondi suite à cette nouvelle, et l'Investor's Business Daily a cité le commentaire du PDG selon lequel le marché de l'inférence de l'IA « croît si rapidement ».

Pour les lecteurs qui suivent la course accélérée pour que les modèles d'IA réagissent plus rapidement, le lancement du CS-4 est l'une des histoires matérielles les plus importantes du trimestre, et il se situe au milieu de changements plus larges dans la couverture de l'industrie de l'IA qui continuent de remodeler le paysage informatique.

Qu'y a-t-il à l'intérieur du CS-4

Le composant phare est le WSE-3 Turbo, une version améliorée du moteur Wafer Scale Engine de la taille d'une assiette de Cerebras. Selon l'analyse technique approfondie de The Register, le WSE-3T n'est pas un nouveau silicium : il conserve le même processus TSMC 5 nm, une surface de puce de 46 225 millimètres carrés, 4 000 milliards de transistors, 900 000 cœurs et 44 Go de SRAM sur plaquette que le WSE-3, vieux de deux ans.

Au lieu de cela, Cerebras a doublé ses performances en poussant beaucoup plus fort la puce existante. Le WSE-3T double le calcul FP16 clairsemé à 250 pétaFLOPS, double les performances denses du FP16 à environ 25 pétaFLOPS, double la bande passante mémoire à 43,2 pétaoctets par seconde et double la bande passante d'E/S à 2,4 térabits par seconde. Le Register estime que la société synchronise désormais le silicium à environ 2,8 GHz, contre environ 1,4 GHz dans la génération précédente.

L'astuce, selon Cerebras, est un système de distribution d'énergie repensé qui se trouve à seulement 0,5 millimètre du processeur, soit environ 100 fois plus près que les ~ 50 millimètres typiques des cartes GPU conventionnelles. Cette proximité élimine presque toute perte de puissance au niveau de la carte et permet à deux fois plus de puissance d'atteindre la tranche, permettant ainsi des fréquences de fonctionnement plus élevées et une génération de jetons plus rapide.

L'architecture du rack Nexus

Au-delà de la puce elle-même, le CS-4 introduit ce que Cerebras appelle l'architecture de plate-forme Nexus, sa première véritable conception à l'échelle du rack et une réponse directe aux systèmes de rack NVL72 de Nvidia et Helios d'AMD. Chaque CS-4 peut transporter jusqu'à trois processeurs WSE-3T hébergés dans des « sacs à dos à l'échelle d'une plaquette » autonomes : des packages 3D qui plient la plaquette, la conversion de puissance, le refroidissement liquide direct, les E/S à grande vitesse et l'électronique de contrôle en un seul assemblage avec 50 % de composants en moins.

La conception modulaire sépare la couche stable d’alimentation, de refroidissement et de réseau du calcul. Un Cerebras PowerRack peut être installé et qualifié avant l'arrivée de tout ordinateur, et les sacs à dos se mettent ensuite en place, réduisant ainsi le temps de déploiement de quelques jours à quelques heures, selon l'entreprise.

La consommation électrique est importante. Le Register estime environ 46 kW par sac à dos et une consommation totale du système de 120 à 140 kW – des chiffres accrocheurs qui semblent néanmoins conservateurs à côté des systèmes rack de 240 à 250 kW qu'AMD et Nvidia devraient livrer plus tard cette année.

Tuer le commutateur

Le choix techniquement le plus intéressant est peut-être l’interconnexion. Plutôt que d’acheminer le trafic de tranche à tranche via des commutateurs – l’approche adoptée par AWS pour ses accélérateurs Trainium3 – Cerebras câble ses puces dans une topologie de tore 2D où les tranches voisines communiquent directement entre elles. La conception réduit la latence d'une tranche à l'autre de cinq microsecondes à seulement deux, et Cerebras affirme que le maillage peut prendre en charge des modèles allant jusqu'à 50 000 milliards de paramètres, bien au-delà de tout ce qui existe actuellement.

Les résultats de vitesse sont frappants. Sur un seul système CS-4, la société d'analyse comparative Artificial Analysis a mesuré jusqu'à 4 400 jetons par seconde par utilisateur sur gpt-oss-120b, soit environ 12 fois les ~ 350 jetons par seconde des services d'inférence basés sur GPU les plus rapides disponibles aujourd'hui. Cerebras affirme également que le système prend en charge plus de 1 000 jetons par seconde sur des modèles dépassant 10 000 milliards de paramètres.

Une stratégie de partenariat désagrégée

Notamment, Cerebras n’essaie plus d’exécuter l’intégralité du pipeline d’inférence sur son propre silicium. La société s'est associée à AWS et AMD pour décharger l'étape d'inférence de traitement rapide et intensive en calcul sur les GPU Trainium XPU et Instinct respectivement, laissant ses moteurs à l'échelle de la tranche gérer la phase de décodage sensible à la latence où brillent leurs énormes réserves de SRAM.

Le lancement du CS-4 étend également la collaboration de Cerebras avec OpenAI. Yahoo Finance a annoncé le dévoilement de nouveaux partenariats OpenAI et AMD visant à accélérer l'inférence de l'IA – en s'appuyant sur le mode Ultrafast que les sociétés ont introduit plus tôt en août, qui a apporté GPT-5.6 Sol aux utilisateurs jusqu'à 750 jetons par seconde.

Mises en garde derrière les gros titres

Les analystes du secteur appellent à la prudence quant aux chiffres marketing. Le Register note que le titre 250 pétaFLOPS de Cerebras repose sur la parcimonie, qui ne profite généralement pas à l'inférence de modèles de langage à grande échelle, et que les chiffres de bande passante mémoire maximale sont en grande partie théoriques puisque le WSE-3 ne disposait pas du calcul nécessaire pour saturer sa propre SRAM. La publication se demande également pourquoi Cerebras a doublé ses performances plutôt que d'augmenter la capacité de la SRAM, qui n'a pas augmenté de manière significative depuis le lancement du WSE-2 il y a cinq ans – un choix curieux à l'ère de l'inférence désagrégée où les accélérateurs de décodage bénéficient le plus de la mémoire.

Pourtant, l’opportunité de marché est réelle. Alors que les chatbots et les agents IA exigent des temps de réponse de plus en plus rapides, la vitesse d'inférence est devenue un véritable différenciateur concurrentiel, et Cerebras a maintenant démontré qu'elle peut itérer sa technologie non conventionnelle à l'échelle d'une tranche à un rythme commercial.

Les premières expéditions de CS-4 commencent ce trimestre, les premiers systèmes étant attendus en ligne avant la fin septembre. Reste à savoir si cela suffira à ébranler la domination de Nvidia – mais pour la première fois depuis longtemps, l'inférence d'IA la plus rapide du secteur a une nouvelle adresse.

Gardez une longueur d'avance sur l'IA

Les lancements de matériel comme le CS-4 déplacent les marchés et redéfinissent ce que les systèmes d'IA peuvent faire. Lire plus d'actualités sur l'IA pour suivre chaque développement.

Explorez la dernière couverture de l'IA →