AMD a dezvăluit Threadripper Halo Station, o stație de lucru AI de nivel extrem care îmbină un procesor Threadripper Pro cu 96 de nuclee cu acceleratoare Instinct MI350P duble răcite cu lichid - o combinație pe care compania o prezintă drept cea mai puternică stație de lucru din lume, capabilă să ruleze modele AI cu un trilion de parametri la nivel local. Aparatul a fost prezentat la IFA, deși AMD nu a anunțat încă prețul, data lansării sau partenerii OEM.

Anunțul ajunge pe măsură ce hardware-ul AI de clasă stație de lucru se încălzește rapid. Pentru mai multe despre această poveste și despre mișcările rivalilor săi, vedeți acoperirea noastră continuă știri hardware AI.

Specificațiile: 96 Zen 5 Cores Plus 288GB de HBM3E

În centrul Threadripper Halo Station se află Threadripper Pro 9995WX, un cip Zen 5 cu 96 de nuclee și 192 de fire care crește până la 5,4 GHz. Se livrează cu 384 MB de cache L3 și un TDP de 350 W. Cipul în sine nu este un element trivial: unitățile Threadripper Pro 9995WX autonome s-au vândut cu amănuntul la aproximativ 11.000 USD până la 12.000 USD.

Accelerația vine de la o pereche de acceleratoare AMD Instinct MI350P, ambele răcite cu lichid. Fiecare card transportă 128 de unități de calcul CDNA 4 construite pe procesul N3 al TSMC și 144 GB de memorie HBM3E, oferind sistemului 288 GB de memorie cu lățime de bandă mare din cutie. Fiecare accelerator are o putere nominală de până la 600 W.

AMD spune că există o „cale către patru” – ceea ce înseamnă că platforma ar putea suporta în cele din urmă încă două acceleratoare, ridicând memoria totală a GPU-ului la 576 GB. În unitatea demonstrată la IFA, totuși, a existat doar spațiu fizic pentru cele două cărți răcite cu lichid alături de gazda Threadripper.

Memoria de sistem depășește 2 TB de DDR5, maximul acceptat pe controlerul de memorie cu opt canale al procesorului. Aceasta este o cifră uluitoare în sine: la prețurile actuale de piață, 2TB de DDR5 costă aproximativ 50.000 USD.

Cât va costa: Gândiți-vă la șase cifre

AMD nu a stabilit un preț, dar matematica componentelor spune povestea. Potrivit Tom's Hardware, care a examinat configurația, luând împreună componentele de bază - CPU, memorie și GPU-uri duale - prețul stradal ar trebui să depășească 100.000 USD înainte ca stocarea, puterea și răcirea să fie luate în calcul.

Mașina în sine este descrisă în esență ca o tavă de server reconfigurată într-o carcasă turn. AMD nu a împărtășit detalii extinse dincolo de specificații, iar compania a indicat că designul este unul pe care partenerii săi OEM îl vor construi și livra în cele din urmă. Nu au fost anunțați încă parteneri, iar AMD nu pare să intenționeze să vândă în mod direct configurația stației de lucru bazate pe MI350P.

Afirmația AMD: Modele cu trilioane de parametri pe un birou

Afirmația principală a AMD este că Threadripper Halo Station poate rula modele cu trilioane de parametri. Aceasta este funcția imensei povești de memorie unificată: cu 288 GB de HBM3E pe cele două acceleratoare - și potențial 576 GB într-o configurație cu patru GPU - modelele care ar necesita în mod normal un server de centru de date pot fi, teoretic, încărcate și rulate local.

Afirmația a atras atenția imediată din partea pasionaților de hardware. Modelele de limbaj mari cu un trilion de parametri necesită de obicei cuantificare pentru a se potrivi în memoria disponibilă, iar RAM de sistem la 400–500 GB/s de lățime de bandă este mult mai lentă decât memoria GPU, ceea ce face ca vitezele de transfer PCIe să fie un potențial blocaj pentru sarcinile de lucru care amestecă datele între CPU și acceleratoare. În practică, modelele ar rămâne probabil rezidente în memoria GPU-ului în timpul inferenței, CPU și 2 TB de DDR5 ai acestuia susținând sarcinile de dezvoltare în jurul modelului.

Cum se ridică față de Nvidia și Lenovo

Stația Threadripper Halo intră pe o piață de nișă, dar în creștere rapidă, pentru supercomputerele AI de birou. Turnul de desktop DGX Station alimentat cu GB300 de la Nvidia a fost listat online la aproape 100.000 USD. La capătul accesibil, AMD însuși a poziționat recent Ryzen AI Halo, de 3.999 de dolari, ca o provocare pentru DGX Spark de la Nvidia - o mașină destinată dezvoltatorilor, mai degrabă decât sarcini de lucru cu un trilion de parametri.

Există precedent pentru etichete de preț și mai mari în această clasă. Lenovo ThinkStation P8, care utilizează procesoare Threadripper Pro ca gazdă, se listează în prezent la 334.463 USD când este maxim cu 2 TB de DDR5 și acceleratoare Blackwell duble. Pe acest fundal, o stație Halo cu șase cifre nu ar fi o valoare anormală.

De ce contează

Halo Station semnalează intenția AMD de a contesta fiecare strat al stivei de calcul AI – de la desktop-uri de 3.999 USD la GPU-uri pentru centre de date – în loc să cedeze stația de lucru high-end liniei DGX a Nvidia. Pentru laboratoare, întreprinderi cu cerințe stricte de suveranitate a datelor și cercetători care au nevoie de modele la scară de frontieră în spatele unui firewall, un sistem de birou cu 96 de nuclee răcit cu lichid și 288 GB de HBM3E ar putea fi o alternativă convingătoare la închirierea cloud.

Întrebările deschise sunt cele la care AMD nu le-a răspuns: prețul final, o dată de lansare și care OEM îl vor construi efectiv. Având în vedere că aparatul a debutat la IFA fără parteneri atașați, se așteaptă ca aceste detalii să apară în lunile următoare. Ceea ce este deja clar este că granița dintre „stație de lucru” și „centru de date” continuă să se miște – iar AMD intenționează să o împingă mai departe.

---

Rămâneți înaintea AI

Obțineți cele mai recente știri, analize și descoperiri AI - toate într-un singur loc.

Citește mai multe știri AI →