AMD har avslöjat Threadripper Halo Station, en AI-arbetsstation med extrem nivå som parar ihop en 96-kärnig Threadripper Pro CPU med dubbla vätskekylda Instinct MI350P-acceleratorer – en kombination som företaget räknar som den mest kraftfulla arbetsstationen i världen, som kan köra biljoner parametrar AI-modeller lokalt. Maskinen visades upp på IFA, även om AMD ännu inte har tillkännagett prissättning, releasedatum eller OEM-partners.
Tillkännagivandet landar när AI-hårdvara i arbetsstationsklass värms upp snabbt. För mer om den här historien och dess rivalers drag, se vår pågående AI-hårdvarunyheter bevakning.
Specifikationerna: 96 Zen 5 Cores Plus 288 GB HBM3E
I hjärtat av Threadripper Halo Station sitter Threadripper Pro 9995WX, ett 96-kärnigt, 192-trådigt Zen 5-chip som ökar upp till 5,4 GHz. Den levereras med 384 MB L3-cache och en 350W TDP. Enbart chippet är inte en trivial artikel: fristående Threadripper Pro 9995WX-enheter har sålts för ungefär $11 000 till $12,000.
Accelerationen kommer från ett par AMD Instinct MI350P acceleratorer, båda vätskekylda. Varje kort har 128 CDNA 4-beräkningsenheter byggda på TSMC:s N3-process och 144 GB HBM3E-minne, vilket ger systemet 288 GB minne med hög bandbredd direkt. Varje accelerator är klassad för upp till 600W strömförbrukning.
AMD säger att det finns en "väg till fyra" - vilket betyder att plattformen så småningom kan stödja ytterligare två acceleratorer, vilket lyfter det totala GPU-minnet till 576 GB. I enheten som demonstrerades på IFA fanns det dock bara fysiskt utrymme för de två vätskekylda korten tillsammans med Threadripper-värden.
Systemminnet toppar på 2 TB DDR5, det maximala stödet för CPU:ns åttakanaliga minneskontroller. Det är en häpnadsväckande siffra i sig: till nuvarande marknadspriser kostar 2 TB DDR5 ungefär $50 000.
Vad det kommer att kosta: Tänk sex siffror
AMD har inte satt något pris, men komponentmatematiken berättar historien. Enligt Tom's Hardware, som undersökte konfigurationen och tog kärnkomponenterna tillsammans – CPU, minne och dubbla GPU:er – bör gatupriset överstiga 100 000 USD innan lagring, ström och kylning räknas in. Konfigurerat högre, uppskattar uttaget att arbetsstationen "mycket lätt kan klättra över 150 000 USD."
Själva maskinen beskrivs som i huvudsak en serverbricka omkonfigurerad till ett tornhölje. AMD delade inte omfattande detaljer utöver specifikationerna, och företaget angav att designen är en design som dess OEM-partners i slutändan kommer att bygga och skicka. Inga partners har tillkännagivits ännu, och AMD verkar inte ha planer på att sälja den MI350P-baserade arbetsstationskonfigurationen direkt själv.
AMD:s påstående: biljoner-parametermodeller på ett skrivbord
Huvudpåståendet från AMD är att Threadripper Halo Station kan köra biljoner-parametermodeller. Det är funktionen av den enorma enhetliga minneshistorien: med 288 GB HBM3E över de två acceleratorerna – och potentiellt 576 GB i en fyra-GPU-konfiguration – kan modeller som normalt kräver en datacenterserver i teorin laddas och köras lokalt.
Påståendet fick omedelbar granskning från hårdvaruentusiaster. Stora språkmodeller med biljoner parametrar kräver vanligtvis kvantisering för att få plats i tillgängligt minne, och system-RAM med 400–500 GB/s bandbredd är mycket långsammare än GPU-minne, vilket gör PCIe-överföringshastigheter till en potentiell flaskhals för arbetsbelastningar som blandar data mellan CPU och acceleratorer. I praktiken skulle modeller sannolikt förbli inbyggda i GPU-minnet under slutledning, med CPU och dess 2 TB DDR5 som stödjer utvecklingsuppgifter runt modellen.
Hur det går mot Nvidia och Lenovo
Threadripper Halo Station går in på en nisch men snabbt växande marknad för AI-superdatorer på skrivbordet. Nvidias GB300-drivna DGX Station-skrivbordstorn har listats online för nästan $100 000. I den tillgängliga änden placerade AMD själv nyligen $3 999 Ryzen AI Halo som en utmanare till Nvidias DGX Spark - en maskin som riktar sig till utvecklare snarare än arbetsbelastningar med biljoner parametrar.
Det finns prejudikat för ännu högre prislappar i denna klass. Lenovo ThinkStation P8, som använder Threadripper Pro-processorer som värd, listar för närvarande $334 463 när den är maxad med 2 TB DDR5 och dubbla Blackwell-acceleratorer. Mot den bakgrunden skulle en sexsiffrig Halo Station inte vara en extremist.
Varför det är viktigt
Halo Station signalerar AMD:s avsikt att bestrida varje lager i AI-beräkningsstacken – från 3 999 dollar stationära datorer till datacenter-GPU:er – snarare än att överlåta den avancerade arbetsstationen till Nvidias DGX-linje. För labb, företag med strikta krav på datasuveränitet och forskare som behöver modeller i gränsöverskridande skala bakom en brandvägg, kan ett vätskekylt, 96-kärnigt skrivbordssystem med 288 GB HBM3E vara ett övertygande alternativ till molnuthyrning.
De öppna frågorna är de som AMD inte har besvarat: slutlig prissättning, ett releasedatum och vilka OEM-tillverkare som faktiskt kommer att bygga den. Med tanke på att maskinen debuterade på IFA utan partners, förväntas dessa detaljer dyka upp under de kommande månaderna. Vad som redan är klart är att gränsen mellan "arbetsstation" och "datacenter" fortsätter att röra sig — och AMD har för avsikt att driva den ytterligare.
---
Stay ahead of AIFå de senaste AI-nyheterna, analyserna och genombrotten – allt på ett ställe.
Läs mer AI-nyheter →
