AMD heeft het Threadripper Halo Station onthuld, een AI-werkstation van extreem niveau dat een 96-core Threadripper Pro CPU combineert met dubbele vloeistofgekoelde Instinct MI350P-accelerators - een combinatie die het bedrijf beschouwt als het krachtigste werkstation ter wereld, dat in staat is om lokaal AI-modellen met biljoen parameters uit te voeren. De machine werd getoond op IFA, hoewel AMD nog geen prijzen, een releasedatum of OEM-partners heeft aangekondigd.
De aankondiging komt omdat AI-hardware van werkstationklasse snel opwarmt. Voor meer informatie over dit verhaal en de acties van zijn rivalen, zie onze voortdurende berichtgeving over AI-hardwarenieuws.
De specificaties: 96 Zen 5-cores plus 288 GB HBM3E
Het hart van het Threadripper Halo Station wordt gevormd door de Threadripper Pro 9995WX, een 96-core, 192-thread Zen 5-chip met een snelheid tot 5,4 GHz. Het wordt geleverd met 384 MB L3-cache en een TDP van 350 W. De chip alleen is geen triviaal item: op zichzelf staande Threadripper Pro 9995WX-eenheden zijn in de detailhandel verkocht voor ongeveer $ 11.000 tot $ 12.000.
De acceleratie komt van een paar AMD Instinct MI350P-accelerators, beide vloeistofgekoeld. Elke kaart bevat 128 CDNA 4-computereenheden die zijn gebouwd op het N3-proces van TSMC en 144 GB HBM3E-geheugen, waardoor het systeem standaard 288 GB geheugen met hoge bandbreedte heeft. Elke versneller heeft een vermogen tot 600 W.
AMD zegt dat er een "pad naar vier" is, wat betekent dat het platform uiteindelijk nog twee accelerators zou kunnen ondersteunen, waardoor het totale GPU-geheugen op 576 GB komt. In de eenheid die op de IFA werd gedemonstreerd, was er naast de Threadripper-host alleen fysieke ruimte voor de twee vloeistofgekoelde kaarten.
Het systeemgeheugen bedraagt 2TB DDR5, het maximum dat wordt ondersteund door de achtkanaals geheugencontroller van de CPU. Dat is op zichzelf al een onthutsend cijfer: tegen de huidige marktprijzen kost 2TB DDR5 ongeveer $50.000.
Wat het gaat kosten: denk in zes cijfers
AMD heeft geen prijs vastgesteld, maar de wiskunde van de componenten vertelt het verhaal. Volgens Tom's Hardware, die de configuratie heeft onderzocht en de kerncomponenten bij elkaar heeft genomen (CPU, geheugen en dubbele GPU's), zou de straatprijs boven de $100.000 moeten uitkomen voordat opslag, stroom en koeling worden meegerekend. Als het hoger is geconfigureerd, schat het verkooppunt dat het werkstation "heel gemakkelijk boven de $150.000 zou kunnen stijgen."
De machine zelf wordt beschreven als in wezen een servertray die opnieuw is geconfigureerd tot een torenbehuizing. AMD deelde geen uitgebreide details buiten de specificaties, en het bedrijf gaf aan dat het ontwerp een ontwerp is dat zijn OEM-partners uiteindelijk zullen bouwen en verzenden. Er zijn nog geen partners aangekondigd en AMD lijkt niet van plan te zijn de op MI350P gebaseerde werkstationconfiguratie rechtstreeks zelf te verkopen.
AMD's claim: modellen met biljoen parameters op een bureau
De belangrijkste bewering van AMD is dat het Threadripper Halo Station modellen met biljoen parameters kan uitvoeren. Dat is de functie van het enorme Unified Memory-verhaal: met 288 GB HBM3E over de twee accelerators – en potentieel 576 GB in een configuratie met vier GPU’s – kunnen modellen die normaal gesproken een datacenterserver vereisen, in theorie lokaal worden geladen en uitgevoerd.
De claim trok onmiddellijk aandacht van hardwareliefhebbers. Grote taalmodellen met een biljoen parameters vereisen doorgaans kwantisering om in het beschikbare geheugen te passen, en systeem-RAM met een bandbreedte van 400-500 GB/s is veel langzamer dan GPU-geheugen, waardoor PCIe-overdrachtssnelheden een potentieel knelpunt vormen voor werklasten waarbij gegevens tussen CPU en versnellers worden geschud. In de praktijk zouden modellen tijdens de gevolgtrekking waarschijnlijk in het GPU-geheugen blijven staan, waarbij de CPU en de 2 TB aan DDR5 ontwikkelingstaken rond het model ondersteunen.
Hoe het zich verhoudt tot Nvidia en Lenovo
Het Threadripper Halo Station betreedt een niche, maar snelgroeiende markt voor AI-supercomputers op het bureau. Nvidia's GB300-aangedreven DGX Station desktoptoren staat online voor bijna $100.000. Aan de toegankelijke kant positioneerde AMD zelf onlangs de $ 3.999 kostende Ryzen AI Halo als een uitdager van Nvidia's DGX Spark - een machine gericht op ontwikkelaars in plaats van werklasten met biljoen parameters.
Er is een precedent voor nog hogere prijskaartjes in deze klasse. De Lenovo ThinkStation P8, die Threadripper Pro CPU's als host gebruikt, kost momenteel $ 334.463 als hij maximaal wordt benut met 2 TB DDR5 en dubbele Blackwell-accelerators. Tegen die achtergrond zou een Halo Station met zes cijfers geen uitschieter zijn.
Waarom het ertoe doet
Het Halo Station geeft aan dat AMD van plan is om elke laag van de AI-compute-stack te betwisten – van desktops van $ 3.999 tot datacenter-GPU’s – in plaats van het high-end werkstation af te staan aan Nvidia’s DGX-lijn. Voor laboratoria, ondernemingen met strikte vereisten op het gebied van data-soevereiniteit en onderzoekers die modellen op grensschaal achter een firewall nodig hebben, zou een vloeistofgekoeld, 96-core bureausysteem met 288 GB HBM3E een aantrekkelijk alternatief kunnen zijn voor cloudverhuur.
De open vragen zijn de vragen die AMD niet heeft beantwoord: definitieve prijzen, een releasedatum en welke OEM's het daadwerkelijk zullen bouwen. Gezien het feit dat de machine op de IFA debuteerde zonder dat er partners aan verbonden waren, zullen deze details naar verwachting in de komende maanden aan het licht komen. Wat al duidelijk is, is dat de grens tussen ‘werkstation’ en ‘datacenter’ blijft bewegen – en AMD is van plan deze verder te verleggen.
---
Blijf AI een stap voorOntvang het laatste AI-nieuws, analyses en doorbraken – allemaal op één plek.
Lees meer AI-nieuws →
