Meta hat den Vorhang für den MTIA 400 geöffnet, seinen ersten maßgeschneiderten Beschleuniger, der direkt auf das Training großer Sprachmodelle abzielt – mit einer ungewöhnlichen Wendung. Der Chip, der diese Woche auf der jährlichen Hot-Chips-Halbleiterkonferenz vorgestellt wurde, wird auch die Deep-Learning-Recommender-Workloads tragen, die den Anzeigen dienen, die Metas gesamte KI-Ambition finanzieren.

Das Register, das erstmals die vollständigen technischen Offenlegungen veröffentlichte, bezeichnete das Design als „gespaltene Persönlichkeit“: ein Grenztrainingschip auf der einen Seite, eine Adserving-Engine auf der anderen. Es ist das bisher deutlichste Zeichen dafür, dass Meta beabsichtigt, seine KI-Zukunft auf seinem eigenen Silizium zu betreiben. Um mehr über die neuesten KI-Entwicklungen zu erfahren, die die Chipindustrie prägen, folgen Sie AI Buzz Wire.

Warum KI trainieren und Anzeigen auf demselben Chip schalten?

Die meisten Unternehmen, die benutzerdefinierte KI-Beschleuniger entwickeln, beginnen mit Inferenz. Die Cluster sind kleiner, die Chips einfacher und die Aufgabe ist gut verstanden. Meta widersetzt sich diesem Trend, indem es zunächst auf die LLM-Ausbildung abzielt – die rechenintensivste Arbeitslast in der Branche, die oft Zehntausende oder Hunderttausende Beschleuniger erfordert.

Der Kompromiss ist die zweite Arbeitslast. Die DLRM-Inferenz – das Deep-Learning-Empfehlungsmodell, das entscheidet, welche Anzeigen und Beiträge Benutzer sehen – ist überwiegend speichergebunden und nicht rechengebunden, was bedeutet, dass ein Großteil der Trainingskapazität des Chips während der Anzeigenbereitstellung ungenutzt bleibt. Aber da Meta Dutzende Milliarden Dollar für die Rechenleistung verbrennt, ist es eine pragmatische Absicherung, wenn ein Chip die doppelte Aufgabe übernimmt, insbesondere wenn einer der beiden Anwendungsfälle direkt Einnahmen generiert.

Im MTIA 400: 3-nm-Chiplets und Broadcom IP

Laut Metas Hot-Chips-Präsentation, analysiert von The Register und ServeTheHome:

  • Multi-Die-Architektur: Zwei Rechen-Dies, zwei I/O-Dies und ein SoC-Die für die Host-Konnektivität und Workload-Orchestrierung
  • Prozessknoten: Die Rechenchiplets basieren auf 3-nm-Prozesstechnologie, vermutlich von TSMC
  • Rechnen: Ein 6x8-Raster von Verarbeitungselementen pro Chiplet, das insgesamt 12 PetaFLOPS MXFP4-Rechenleistung bei 1,7 GHz liefert
  • Speicher: Acht 36-GB-HBM3e-Stacks – insgesamt 288 GB mit etwa 9,2 TB/s Bandbreite
  • Verbindung: 1,2 TB/s Chip-zu-Chip-Bandbreite über RDMA, angesichts der Beteiligung von Broadcom wahrscheinlich Ethernet

Die Fingerabdrücke von Broadcom sind überall. Das Register stellt fest, dass der Beschleuniger mit ziemlicher Sicherheit unter Verwendung der XPU-IP des Chipdesigners gebaut wurde – eine pragmatische Entscheidung, die es Meta ermöglicht, sich auf die Differenzierung zu konzentrieren und gleichzeitig die unrühmlichen Teile des Beschleunigerdesigns auszulagern.

Wie es im Vergleich zu Nvidia und AMD abschneidet

Das Leistungsbild ist differenziert. Bei den höheren Präzisionen, die üblicherweise für das Training verwendet werden, ist der MTIA 400 etwa 20 % schneller als die Blackwell-Beschleuniger der Spitzenklasse von Nvidia und verbraucht dabei eine ähnliche Leistung. Seine Speicherbandbreite ist etwa 15 % besser als die der Vorgängergenerationen von Nvidia und AMD.

Gegenüber der neuesten Generation vergrößert sich der Abstand jedoch erheblich: Der MTIA 400 ist zwischen 3x und 3,3x langsamer als Nvidias Rubin bzw. AMDs Instinct MI455X und bietet weniger als die Hälfte der Speicherbandbreite dieser neuen GPUs. Dieses Defizit ist genau der Grund, warum Meta das Teil als Trainingschip und nicht als Inferenzchip positioniert – für die Bereitstellung von Token verfügt es über viel schnellere Optionen.

Auf Systemebene ist die Ähnlichkeit mit branchenüblichen Racks auffällig. Jeder Compute Blade verbindet vier MTIA 400-Beschleuniger mit einem PCIe-Switch, einer x86-CPU und einer Scale-out-NIC. Ein volles Rack enthält 18 Compute-Blades und acht Switch-Blades – 72 Beschleuniger in einer einzigen einheitlichen Domäne, eine Konfiguration, die die Rack-Designs NVL72 von Nvidia und Helios von AMD widerspiegelt. Die Folien von Meta versprechen eine „Multitausend-Beschleuniger-Skalierung“ ohne Angabe von Cluster-Obergrenzen.

Die Roadmap: MTIA 450 nächstes Jahr

Der MTIA 400 ist nicht das Ende der Fahnenstange. Meta gab im März bekannt, dass es einen sechsmonatigen Veröffentlichungsrhythmus für vier neue MTIA-Generationen plant und die nächste Station der MTIA 450 ist – eine inferenzoptimierte Variante, von der erwartet wird, dass sie die Speicherbandbreite verdoppelt, vermutlich durch die Einführung von HBM4. Dieser Chip soll nächstes Jahr in Produktion gehen und sich gut für die Ausführung von LLM-basierten Empfehlungs-Workloads eignen.

Trotz der Fortschritte ist die Analyse von The Register unverblümt: Metas hauseigener Silizium wird AMD- oder Nvidia-GPUs in absehbarer Zeit nicht ersetzen. Meta Superintelligence Labs trainiert mit ziemlicher Sicherheit immer noch Grenzmodelle auf herkömmlichen GPUs, und anwendungsspezifische Hardware eignet sich nach wie vor am besten für gut verstandene, stabile Arbeitslasten.

Warum es wichtig ist

Der MTIA 400 ist aus zwei Gründen wichtig. Erstens zeigt es einen Hyperscaler, der bereit ist, die härteste Arbeitsbelastung – das Grenztraining – in Angriff zu nehmen, anstatt einfache Inferenzgewinne zu erzielen. Zweitens erinnert die Adserving-Seite des Designs an die Wirtschaftlichkeit: Jeder Dollar an Investitionsausgaben für kundenspezifisches Silizium wird vom profitabelsten Werbeunternehmen der Geschichte übernommen. Wenn Meta auch nur einen Bruchteil seiner Trainings- und Empfehlungsarbeitslasten von den GPUs der Händler verlagern kann, würden sich die Einsparungen in dieser Größenordnung auf Milliarden belaufen.

Quellen: Präsentation „Hot Chips 2026“ von Meta, The Register und ServeTheHome.

---

Der KI einen Schritt voraus sein

Erhalten Sie die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Weitere KI-Neuigkeiten lesen →