AMD hat die Threadripper Halo Station vorgestellt, eine KI-Workstation der Extraklasse, die eine 96-Kern-Threadripper-Pro-CPU mit zwei flüssigkeitsgekühlten Instinct MI350P-Beschleunigern kombiniert – eine Kombination, die das Unternehmen als die leistungsstärkste Workstation der Welt bezeichnet, die in der Lage ist, KI-Modelle mit Billionen Parametern lokal auszuführen. Die Maschine wurde auf der IFA vorgestellt, AMD hat jedoch noch keine Preise, ein Veröffentlichungsdatum oder OEM-Partner bekannt gegeben.

Die Ankündigung erfolgt zu einem Zeitpunkt, an dem sich die KI-Hardware der Workstation-Klasse schnell erwärmt. Weitere Informationen zu dieser Geschichte und den Schritten seiner Konkurrenten finden Sie in unserer laufenden Berichterstattung über KI-Hardware-Neuigkeiten.

Die Spezifikationen: 96 Zen 5-Kerne plus 288 GB HBM3E

Das Herzstück der Threadripper Halo Station ist der Threadripper Pro 9995WX, ein Zen 5-Chip mit 96 Kernen und 192 Threads, der auf bis zu 5,4 GHz beschleunigt. Es wird mit 384 MB L3-Cache und einer TDP von 350 W geliefert. Der Chip allein ist kein trivialer Einzelposten: Einzelgeräte des Threadripper Pro 9995WX kosten im Einzelhandel etwa 11.000 bis 12.000 US-Dollar.

Die Beschleunigung erfolgt durch ein Paar AMD Instinct MI350P Beschleuniger, beide flüssigkeitsgekühlt. Jede Karte verfügt über 128 CDNA 4-Recheneinheiten, die auf dem N3-Prozess von TSMC basieren, und 144 GB HBM3E-Speicher, sodass das System ab Werk über 288 GB Speicher mit hoher Bandbreite verfügt. Jeder Beschleuniger ist für eine Leistungsaufnahme von bis zu 600 W ausgelegt.

Laut AMD gibt es einen „Pfad zu vier“ – was bedeutet, dass die Plattform schließlich zwei weitere Beschleuniger unterstützen könnte, wodurch der gesamte GPU-Speicher auf 576 GB ansteigt. In dem auf der IFA gezeigten Gerät war jedoch neben dem Threadripper-Host nur Platz für die beiden flüssigkeitsgekühlten Karten.

Der Systemspeicher beträgt maximal 2 TB DDR5, das Maximum, das vom Acht-Kanal-Speichercontroller der CPU unterstützt wird. Das ist an sich schon eine erstaunliche Zahl: Bei den aktuellen Marktpreisen kosten 2 TB DDR5 etwa 50.000 US-Dollar.

Was es kosten wird: Stellen Sie sich einen sechsstelligen Betrag vor

AMD hat keinen Preis festgelegt, aber die Berechnung der Komponenten sagt es. Laut Tom's Hardware, das die Konfiguration untersucht hat und die Kernkomponenten CPU, Speicher und Dual-GPUs zusammengenommen hat, sollte der Straßenpreis 100.000 US-Dollar übersteigen, ohne Speicher, Strom und Kühlung. Bei einer höheren Konfiguration schätzt das Unternehmen, dass die Workstation „sehr leicht über 150.000 US-Dollar steigen könnte“.

Die Maschine selbst wird im Wesentlichen als Server-Tray beschrieben, das in ein Tower-Gehäuse umkonfiguriert wurde. AMD hat über die Spezifikationen hinaus keine ausführlichen Details preisgegeben und das Unternehmen gab an, dass es sich bei dem Design um eines handelt, das seine OEM-Partner letztendlich bauen und ausliefern werden. Es wurden noch keine Partner bekannt gegeben und AMD scheint nicht zu planen, die MI350P-basierte Workstation-Konfiguration direkt selbst zu verkaufen.

AMDs Behauptung: Billionen-Parameter-Modelle auf einem Schreibtisch

Die Schlagzeile von AMD lautet, dass die Threadripper Halo Station Modelle mit Billionen Parametern ausführen kann. Das ist die Funktion der enormen Unified-Memory-Story: Mit 288 GB HBM3E über die beiden Beschleuniger hinweg – und potenziell 576 GB in einer Vier-GPU-Konfiguration – können Modelle, die normalerweise einen Rechenzentrumsserver erfordern würden, theoretisch geladen und lokal ausgeführt werden.

Die Behauptung wurde sofort von Hardware-Enthusiasten geprüft. Große Sprachmodelle mit einer Billion Parameter erfordern in der Regel eine Quantisierung, um in den verfügbaren Speicher zu passen, und der System-RAM ist mit einer Bandbreite von 400–500 GB/s weitaus langsamer als der GPU-Speicher, was PCIe-Übertragungsgeschwindigkeiten zu einem potenziellen Engpass für Arbeitslasten macht, die Daten zwischen CPU und Beschleunigern verschieben. In der Praxis würden Modelle während der Inferenz wahrscheinlich im GPU-Speicher verbleiben, wobei die CPU und ihre 2 TB DDR5 Entwicklungsaufgaben rund um das Modell unterstützen.

Wie es im Vergleich zu Nvidia und Lenovo abschneidet

Die Threadripper Halo Station betritt einen Nischen-, aber schnell wachsenden Markt für KI-Supercomputer am Schreibtisch. Nvidias GB300-betriebener DGX Station-Desktop-Tower wurde online für fast 100.000 US-Dollar gelistet. Am zugänglichen Ende positionierte AMD selbst kürzlich den 3.999 US-Dollar teuren Ryzen AI Halo als Konkurrenten für Nvidias DGX Spark – eine Maschine, die sich eher an Entwickler als an Workloads mit Billionen Parametern richtet.

In dieser Klasse gibt es bereits Präzedenzfälle für noch höhere Preise. Die Lenovo ThinkStation P8, die Threadripper Pro-CPUs als Host verwendet, kostet derzeit 334.463 US-Dollar, wenn sie mit 2 TB DDR5 und zwei Blackwell-Beschleunigern ausgelastet ist. Vor diesem Hintergrund wäre eine sechsstellige Halo-Station kein Ausreißer.

Warum es wichtig ist

Die Halo Station signalisiert AMDs Absicht, jede Schicht des KI-Rechenstapels herauszufordern – von 3.999-Dollar-Desktops bis hin zu Rechenzentrums-GPUs –, anstatt die High-End-Workstation der DGX-Reihe von Nvidia zu überlassen. Für Labore, Unternehmen mit strengen Anforderungen an die Datensouveränität und Forscher, die Modelle im Grenzmaßstab hinter einer Firewall benötigen, könnte ein flüssigkeitsgekühltes 96-Core-Desk-Side-System mit 288 GB HBM3E eine überzeugende Alternative zur Cloud-Miete sein.

Die offenen Fragen sind diejenigen, die AMD nicht beantwortet hat: endgültige Preise, ein Veröffentlichungsdatum und welche OEMs es tatsächlich bauen werden. Angesichts der Tatsache, dass die Maschine auf der IFA ohne Partner vorgestellt wurde, werden diese Details voraussichtlich in den kommenden Monaten bekannt gegeben. Klar ist bereits, dass sich die Grenze zwischen „Workstation“ und „Rechenzentrum“ immer weiter verschiebt – und AMD beabsichtigt, sie noch weiter zu verschieben.

---

Der KI einen Schritt voraus sein

Erhalten Sie die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Weitere KI-Neuigkeiten lesen →