Cerebras Systems a déclaré avoir mis l'inférence désagrégée en production, en répartissant les charges de travail d'inférence d'IA entre les GPU conventionnels et ses processeurs à l'échelle d'une tranche dans une configuration qui, selon la société, fournit cinq fois plus de jetons par mégawatt sans sacrifier la vitesse de génération.

L'annonce, publiée sur le blog de l'entreprise le 17 novembre 2026, marque un changement notable pour une entreprise qui a passé des années à positionner son Wafer Scale Engine comme une alternative à l'inférence basée sur GPU plutôt que comme un complément à celle-ci. Cerebras affirme désormais que les GPU gèrent l'étape de traitement rapide tandis que ses propres systèmes gèrent l'étape de génération de jetons. Pour plus de contexte sur cette histoire, consultez notre tendances IA.

Pourquoi diviser l'inférence en deux ?

L'inférence se déroule en deux étapes. Prefill traite l'invite de l'utilisateur et produit un état de modèle intermédiaire. Decode utilise ensuite cet état pour générer des jetons de sortie, un à la fois, dans une boucle autorégressive qui se répète pour chaque mot de la réponse.

Les deux étapes ont des profils informatiques très différents. Le pré-remplissage est gourmand en calcul et parallèle, c'est là que les GPU excellent. Le décodage est limité à la bande passante mémoire et séquentiel, et c'est là que Cerebras affirme que son architecture à l'échelle de la tranche présente l'avantage, puisque le modèle entier peut reposer sur un seul morceau de silicium sans la communication entre puces qui ralentit les clusters GPU pendant la génération.

L’entreprise avait expérimenté d’autres moyens de répartir les charges de travail. Dans son article de blog, Cerebras répertorie les schémas de projet-cible, dans lesquels un petit modèle propose des jetons et un plus grand les vérifie, ainsi qu'une séparation attention-FFN parmi les alternatives envisagées. Mais il fait valoir que la séparation du pré-remplissage et du décodage est particulièrement adaptée aux applications hautement interactives, car l'étape de décodage conserve intactes les vitesses de génération ultrarapides caractéristiques de Cerebras.

Les chiffres derrière la réclamation

Selon l'annonce, la configuration désagrégée est désormais disponible dans Cerebras Inference Cloud et fournit cinq fois plus de jetons par mégawatt aux mêmes vitesses de génération que celles que l'entreprise servait déjà. Cerebras affirme que les partenaires d'infrastructure peuvent également déployer la même architecture divisée dans leurs propres centres de données.

La logique économique est simple. Les fournisseurs d'inférence gagnent des revenus par jeton, et la puissance est la contrainte majeure en matière de capacité. Si le même mégawatt produit cinq fois plus de jetons, la même installation génère proportionnellement plus de revenus potentiels, ce que la société illustre avec un tableau comparant les configurations de service agrégées et désagrégées.

L’annonce s’appuie également sur les prévisions de la demande pour affirmer que l’industrie a besoin de tous les gains d’efficacité possibles. Citant Goldman Sachs Research, Cerebras affirme que la demande d'inférence d'IA devrait être multipliée par 24 environ par rapport aux niveaux de 2026 d'ici 2030, tandis que la capacité des centres de données n'augmentera que d'environ 2,2 fois au cours de la même période. Si les deux projections se vérifient, l’écart entre ce que les utilisateurs veulent faire fonctionner et ce que les installations peuvent alimenter devient la contrainte déterminante du développement de l’IA à la fin des années 2020.

Les applications agentiques sont à l'origine du problème

La société attribue l’augmentation de la demande aux applications agentiques qui évolueront rapidement en 2026, citant Muse, Copilot et Codex comme exemples de produits nécessitant une inférence hautement interactive pour maintenir l’engagement des utilisateurs. Les agents conversationnels qui diffusent les réponses jeton par jeton sont précisément les charges de travail pour lesquelles la vitesse de génération est une fonctionnalité destinée à l'utilisateur plutôt qu'une métrique back-end.

Cerebras situe le lancement dans un effort de capacité plus large. La société souligne son système CS-4 récemment annoncé, une augmentation spectaculaire de sa production manufacturière et une capacité de centre de données prévue d'environ 700 mégawatts comme éléments qui lui permettront, ainsi qu'à ses partenaires, de desservir un trafic beaucoup plus important en 2027 et au-delà.

Un tournant pragmatique pour l'échelle des plaquettes

Stratégiquement, l’annonce se lit comme un accommodement pragmatique de la domination du GPU. Plutôt que de demander aux clients de déplacer des pipelines d'inférence entiers sur du silicium exotique, Cerebras propose une division du travail : laisser les GPU faire ce pour quoi ils sont optimisés et laisser le matériel à l'échelle d'une tranche faire ce qu'il fait le mieux. Pour les fournisseurs d’inférence coincés entre une demande croissante et des contraintes de puissance, l’argument est la capacité qu’ils peuvent ajouter sans attendre le matériel de nouvelle génération.

La question de savoir si l'exigence d'efficacité quintuple est valable dans diverses architectures de modèles et dans les combinaisons de trafic réelles ne deviendra claire qu'à mesure que les partenaires déploieront la configuration à grande échelle. Mais la direction à suivre est claire dans l’ensemble du secteur. Alors que l'inférence remplace la formation en tant que charge de travail de calcul dominante, tous les principaux fournisseurs de matériel réexaminent la manière dont les deux étapes de génération doivent être divisées, alimentées et tarifées.

Comment cela se compare-t-il aux approches GPU natives

Les principaux fournisseurs d'inférences hyperscale ont poursuivi leurs propres stratégies de désagrégation, en gardant généralement les deux étapes des familles de GPU adaptées à chaque objectif. La variante de Cerebras se distingue par le fait qu'elle croise les lignes des fournisseurs : la société a confirmé que les GPU AMD gèrent l'étape de pré-remplissage dans sa configuration de production, les systèmes Cerebras étant responsables du décodage. Cette hétérogénéité est importante pour les opérateurs, car elle traite le pré-remplissage et le décodage comme des produits pouvant être achetés séparément plutôt que comme une seule pile intégrée.

Les résultats publiés par l'entreprise soulignent que la scission préserve la vitesse de production plutôt que de l'échanger contre de l'efficacité. Cette distinction répond à une critique de longue date concernant le service désagrégé : le pré-remplissage par lots séparément peut ajouter de la latence au premier jeton, et toute configuration qui ralentit la boucle de décodage compromet la sensation interactive que vendent les services d'inférence premium. Cerebras affirme que son arrangement évite les deux pénalités, bien que des références indépendantes sur diverses longueurs d'invite et modèles de trafic constitueront le véritable test.

Pour les lecteurs d’IA Buzz Wire qui suivent la course aux infrastructures, le message de Cerebras est que l’ère de l’inférence à puce unique cède la place à des pipelines spécialement conçus – et que la société a l’intention d’en posséder la moitié de décodage.

---

Restez à la Pointe de l'IA

Les dernières actualités, analyses et percées en IA — au même endroit.

Lire plus d'actualités IA →