AMD představilo Threadripper Halo Station, extrémní pracovní stanici s umělou inteligencí, která spojuje 96jádrový procesor Threadripper Pro s duálními kapalinou chlazenými akcelerátory Instinct MI350P – což je kombinace, kterou společnost považuje za nejvýkonnější pracovní stanici na světě, která je schopna lokálně provozovat modely umělé inteligence s biliony parametrů. Stroj byl představen na IFA, ačkoli AMD ještě neoznámilo cenu, datum vydání nebo OEM partnery.
Oznámení přichází, protože hardware AI třídy pracovních stanic se rychle zahřívá. Další informace o tomto příběhu a tahech jeho konkurentů najdete v našem aktuálním AI hardware news zpravodajství.
Specifikace: 96 Zen 5 Cores Plus 288 GB HBM3E
V srdci Threadripper Halo Station je Threadripper Pro 9995WX, 96jádrový a 192vláknový čip Zen 5, který zesiluje až na 5,4 GHz. Dodává se s 384 MB L3 cache a 350W TDP. Čip sám o sobě není triviální položkou: samostatné jednotky Threadripper Pro 9995WX se prodávaly za zhruba 11 000 až 12 000 $.
Akceleraci zajišťuje dvojice akcelerátorů AMD Instinct MI350P, oba chlazené kapalinou. Každá karta nese 128 CDNA 4 výpočetních jednotek postavených na procesu TSMC N3 a 144 GB paměti HBM3E, což dává systému 288 GB vysokopásmové paměti po vybalení. Každý urychlovač má příkon až 600 W.
AMD říká, že existuje „cesta ke čtyřem“ – což znamená, že platforma by mohla případně podporovat další dva akcelerátory, čímž by se celková paměť GPU zvýšila na 576 GB. V jednotce předvedené na IFA však byl vedle hostitele Threadripper pouze fyzický prostor pro dvě kapalinou chlazené karty.
Systémová paměť dosahuje vrcholu 2 TB DDR5, což je maximum podporované osmikanálovým paměťovým řadičem CPU. To je samo o sobě ohromující číslo: při současných tržních cenách stojí 2TB DDR5 zhruba 50 000 $.
Co to bude stát: Myslete na šest čísel
AMD nestanovilo cenu, ale matematika komponent vypráví příběh. Podle společnosti Tom's Hardware, která konfiguraci zkoumala, přičemž základní komponenty – CPU, paměť a duální GPU – by měla koncová cena překročit 100 000 USD, než se započítá úložiště, napájení a chlazení. Při vyšší konfiguraci se pracovní stanice „může velmi snadno vyšplhat přes 150 000 USD“.
Samotný stroj je popsán jako v podstatě serverový zásobník překonfigurovaný na věžový kryt. AMD nesdělilo rozsáhlé detaily nad rámec specifikací a společnost uvedla, že design je jedním z těch, které její OEM partneři nakonec postaví a dodají. Dosud nebyli oznámeni žádní partneři a zdá se, že AMD neplánuje přímo prodávat konfiguraci pracovní stanice založené na MI350P.
Tvrzení AMD: Modely s biliony parametrů na stole
Hlavní tvrzení AMD zní, že Threadripper Halo Station může provozovat modely s biliony parametrů. To je funkce obrovského příběhu sjednocené paměti: s 288 GB HBM3E napříč dvěma akcelerátory – a potenciálně 576 GB v konfiguraci se čtyřmi GPU – modely, které by normálně vyžadovaly server datového centra, lze teoreticky načíst a spustit lokálně.
Toto tvrzení okamžitě prozkoumalo hardwarové nadšence. Velké jazykové modely s bilionem parametrů obvykle vyžadují kvantizaci, aby se vešly do dostupné paměti, a systémová RAM s šířkou pásma 400–500 GB/s je mnohem pomalejší než paměť GPU, takže přenosové rychlosti PCIe jsou potenciálním úzkým hrdlem pro pracovní zátěže, které míchají data mezi CPU a akcelerátory. V praxi by modely pravděpodobně zůstaly během vyvozování rezidentní v paměti GPU, přičemž CPU a jeho 2TB DDR5 by podporovaly vývojové úlohy kolem modelu.
Jak to stojí proti Nvidii a Lenovu
Threadripper Halo Station vstupuje do výklenku, ale rychle rostoucího trhu stolních superpočítačů s umělou inteligencí. Stolní věž DGX Station od Nvidie s výkonem GB300 byla uvedena online na téměř 100 000 USD. Na dostupném konci samotné AMD nedávno umístilo Ryzen AI Halo za 3 999 $ jako vyzyvatele DGX Spark od Nvidie – stroj zaměřený spíše na vývojáře než na pracovní zátěže s biliony parametrů.
V této třídě existuje precedens pro ještě vyšší cenovky. Lenovo ThinkStation P8, který jako hostitel používá procesory Threadripper Pro, aktuálně stojí 334 463 $ při maximálním využití 2 TB DDR5 a duálních akcelerátorů Blackwell. V tomto kontextu by šestimístná stanice Halo nebyla ničím odlehlým.
Proč na tom záleží
Halo Station signalizuje záměr AMD zpochybnit každou vrstvu výpočetního zásobníku AI – od stolních počítačů za 3 999 USD po GPU datových center – spíše než postoupit špičkovou pracovní stanici řadě DGX společnosti Nvidia. Pro laboratoře, podniky s přísnými požadavky na datovou suverenitu a výzkumníky, kteří potřebují modely v hraničním měřítku za firewallem, by kapalinou chlazený 96jádrový stolní systém s 288 GB HBM3E mohl být přesvědčivou alternativou cloudového pronájmu.
Otevřené otázky jsou ty, na které AMD neodpovědělo: konečná cena, datum vydání a kteří OEM to skutečně vyrobí. Vzhledem k tomu, že stroj debutoval na IFA bez připojených partnerů, očekává se, že tyto podrobnosti se objeví v nadcházejících měsících. Již nyní je jasné, že hranice mezi „pracovní stanicí“ a „datovým centrem“ se neustále posouvá – a AMD ji hodlá posouvat dále.
---
Stay Ahead of AIZískejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.
Přečtěte si další zprávy o AI →
