Cerebras Systems sagte, es habe disaggregierte Inferenz in die Produktion eingeführt und die KI-Inferenz-Workloads zwischen herkömmlichen GPUs und seinen Wafer-Scale-Prozessoren in einer Konfiguration aufgeteilt, die nach Angaben des Unternehmens fünfmal mehr Token pro Megawatt liefert, ohne die Generierungsgeschwindigkeit zu beeinträchtigen.

Die Ankündigung, die am 17. November 2026 im Blog des Unternehmens veröffentlicht wurde, markiert einen bemerkenswerten Wandel für ein Unternehmen, das seine Wafer Scale Engine jahrelang als Alternative zur GPU-basierten Inferenz und nicht als Ergänzung dazu positioniert hat. Laut Cerebras übernehmen GPUs nun die Phase der Eingabeaufforderungsverarbeitung, während die eigenen Systeme die Phase der Token-Generierung übernehmen. Weitere Informationen zu dieser Geschichte finden Sie in unserer aktuelle KI-Trends.

Warum Inferenz in zwei Teile teilen?

Die Schlussfolgerung erfolgt in zwei Schritten. Prefill verarbeitet die Eingabeaufforderung des Benutzers und erzeugt einen Zwischenzustand des Modells. Decode verwendet dann diesen Zustand, um in einer autoregressiven Schleife, die für jedes Wort der Antwort wiederholt wird, nacheinander Ausgabetoken zu generieren.

Die beiden Stufen haben sehr unterschiedliche Rechenprofile. Prefill ist rechenintensiv und parallel, was GPUs auszeichnet. Die Dekodierung erfolgt speicherbandbreitengebunden und sequentiell, weshalb Cerebras argumentiert, dass die Wafer-Scale-Architektur den Vorteil bietet, da das gesamte Modell auf einem einzigen Stück Silizium sitzen kann, ohne die Kommunikation zwischen den Chips, die GPU-Cluster während der Generierung verlangsamt.

Das Unternehmen hatte mit anderen Möglichkeiten der Arbeitsaufteilung experimentiert. In seinem Blogbeitrag listet Cerebras Entwurfszielschemata auf, bei denen ein kleines Modell Token vorschlägt und ein größeres diese überprüft, sowie die Aufmerksamkeits-FFN-Trennung zwischen den in Betracht gezogenen Alternativen. Es wird jedoch argumentiert, dass die Trennung von Vorfüllung und Dekodierung besonders für hochgradig interaktive Anwendungen geeignet ist, da die Dekodierungsstufe die für Cerebras typischen ultraschnellen Generierungsgeschwindigkeiten beibehält.

Die Zahlen hinter der Behauptung

Der Ankündigung zufolge ist die disaggregierte Konfiguration jetzt in der Cerebras Inference Cloud live und liefert fünfmal mehr Token pro Megawatt bei den gleichen Generationsgeschwindigkeiten, die das Unternehmen bereits bereitgestellt hat. Laut Cerebras können Infrastrukturpartner dieselbe Split-Architektur auch in ihren eigenen Rechenzentren bereitstellen.

Die ökonomische Logik ist einfach. Inferenzanbieter erzielen Einnahmen pro Token, und Macht ist die verbindliche Beschränkung der Kapazität. Wenn das gleiche Megawatt das Fünffache der Token erbringt, generiert die gleiche Anlage proportional mehr Umsatzpotenzial, was das Unternehmen anhand einer Tabelle verdeutlicht, in der aggregierte und disaggregierte Bereitstellungskonfigurationen verglichen werden.

Die Ankündigung stützt sich auch auf Nachfrageprognosen, um zu argumentieren, dass die Branche jeden möglichen Effizienzgewinn braucht. Unter Berufung auf Goldman Sachs Research geht Cerebras davon aus, dass die Nachfrage nach KI-Inferenz bis 2030 gegenüber dem Niveau von 2026 etwa um das 24-Fache steigen wird, während die Rechenzentrumskapazität im gleichen Zeitraum nur etwa um das 2,2-Fache wächst. Wenn beide Prognosen zutreffen, wird die Kluft zwischen dem, was Benutzer nutzen möchten, und dem, was Einrichtungen mit Strom versorgen können, wird zum bestimmenden Hindernis für den KI-Ausbau Ende der 2020er Jahre.

Agentische Anwendungen bestimmen die Krise

Das Unternehmen führt den Nachfrageanstieg auf die schnelle Skalierung von Agentenanwendungen im Jahr 2026 zurück und nennt Muse, Copilot und Codex als Beispiele für Produkte, die eine hochgradig interaktive Inferenz erfordern, um die Benutzer zu beschäftigen. Konversationsagenten, die Antworten Token für Token streamen, sind genau die Workloads, bei denen die Generierungsgeschwindigkeit eine benutzerorientierte Funktion und keine Back-End-Metrik ist.

Cerebras ordnet die Markteinführung in eine umfassendere Kapazitätsoffensive ein. Das Unternehmen verweist auf sein kürzlich angekündigtes CS-4-System, eine dramatische Skalierung seiner Produktionsleistung und die geplante Rechenzentrumskapazität von etwa 700 Megawatt als die Komponenten, die es ihm und seinen Partnern ermöglichen werden, im Jahr 2027 und darüber hinaus deutlich mehr Datenverkehr zu bedienen.

Eine pragmatische Wende für Wafer-Scale

Strategisch gesehen liest sich die Ankündigung als pragmatische Anpassung an die GPU-Dominanz. Anstatt Kunden zu bitten, ganze Inferenzpipelines auf exotisches Silizium zu verlagern, schlägt Cerebras eine Arbeitsteilung vor: Lassen Sie GPUs das tun, wofür sie optimiert sind, und lassen Sie Hardware im Wafer-Maßstab das tun, was sie am besten kann. Für Inferenzanbieter, die zwischen steigender Nachfrage und Leistungsengpässen stehen, ist der Schlüssel die Kapazität, die sie hinzufügen können, ohne auf Hardware der neuen Generation warten zu müssen.

Ob der fünffache Effizienzanspruch über verschiedene Modellarchitekturen und reale Verkehrsmischungen hinweg Bestand hat, wird sich erst zeigen, wenn die Partner die Konfiguration in großem Maßstab einsetzen. Aber die Richtung, in die es geht, ist branchenweit klar. Da Inferenz das Training als dominierende Rechenarbeitslast ersetzt, prüft jeder große Hardwareanbieter erneut, wie die beiden Phasen der Generierung aufgeteilt, betrieben und bepreist werden sollten.

Vergleich mit GPU-nativen Ansätzen

Die großen Hyperscale-Inferenzanbieter haben ihre eigenen Disaggregationsstrategien verfolgt und dabei typischerweise beide Stufen der GPU-Familien für jeden Zweck abgestimmt. Die Variante von Cerebras zeichnet sich durch unterschiedliche Anbieter aus: Das Unternehmen bestätigte, dass AMD-GPUs die Prefill-Phase in seiner Produktionskonfiguration übernehmen, während Cerebras-Systeme für die Dekodierung zuständig sind. Diese Heterogenität ist für Betreiber von Bedeutung, da sie Vorfüllung und Dekodierung als separat erhältliche Waren und nicht als einen einzigen integrierten Stapel behandelt.

Die veröffentlichten Ergebnisse des Unternehmens betonen, dass durch die Aufteilung die Erzeugungsgeschwindigkeit erhalten bleibt und nicht gegen Effizienz eingetauscht wird. Mit dieser Unterscheidung wird ein seit langem bestehender Kritikpunkt an der disaggregierten Bereitstellung berücksichtigt: Das separate Batch-Vorfüllen kann die Latenz des ersten Tokens erhöhen, und jede Konfiguration, die die Decodierungsschleife verlangsamt, untergräbt das interaktive Gefühl, das Premium-Inferenzdienste verkaufen. Cerebras behauptet, dass seine Vereinbarung beide Strafen vermeidet, obwohl unabhängige Benchmarks über verschiedene Eingabeaufforderungslängen und Verkehrsmuster hinweg der eigentliche Test sein werden.

Für Leser von AI Buzz Wire, die den Infrastrukturwettlauf verfolgen, lautet die Botschaft von Cerebras, dass die Ära der Ein-Chip-passt-alle-Inferenz den Weg für speziell entwickelte Pipelines ebnet – und dass das Unternehmen beabsichtigt, die Hälfte davon zu entschlüsseln.

---

Bleib vorne bei KI

Die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Mehr KI-Nachrichten lesen →