AMD ha presentato la Threadripper Halo Station, una workstation AI di livello estremo che abbina una CPU Threadripper Pro a 96 core con doppi acceleratori Instinct MI350P raffreddati a liquido: una combinazione che l'azienda definisce la workstation più potente al mondo, in grado di eseguire modelli AI da trilioni di parametri localmente. La macchina è stata mostrata all'IFA, anche se AMD deve ancora annunciare i prezzi, una data di rilascio o i partner OEM.
L'annuncio arriva mentre l'hardware AI di classe workstation si surriscalda rapidamente. Per ulteriori informazioni su questa storia e sulle mosse dei suoi rivali, consulta la nostra copertura in corso sulle Notizie sull'hardware AI.
Le specifiche: 96 Zen 5 core più 288 GB di HBM3E
Nel cuore della Threadripper Halo Station si trova il Threadripper Pro 9995WX, un chip Zen 5 a 96 core e 192 thread che aumenta fino a 5,4 GHz. Viene fornito con 384 MB di cache L3 e un TDP da 350 W. Il chip da solo non è un elemento pubblicitario banale: le unità Threadripper Pro 9995WX autonome sono state vendute al dettaglio a circa $ 11.000 - $ 12.000.
L'accelerazione proviene da una coppia di acceleratori AMD Instinct MI350P, entrambi raffreddati a liquido. Ogni scheda trasporta 128 unità di calcolo CDNA 4 basate sul processo N3 di TSMC e 144 GB di memoria HBM3E, fornendo al sistema 288 GB di memoria ad alta larghezza di banda immediatamente. Ogni acceleratore è valutato per un massimo di 600 W di assorbimento di potenza.
AMD afferma che esiste un "percorso verso quattro", il che significa che la piattaforma potrebbe eventualmente supportare altri due acceleratori, portando la memoria totale della GPU a 576 GB. Nell'unità mostrata all'IFA, tuttavia, c'era solo spazio fisico per le due schede raffreddate a liquido accanto all'host Threadripper.
La memoria di sistema raggiunge i 2 TB di DDR5, il massimo supportato dal controller di memoria a otto canali della CPU. Si tratta di una cifra sconcertante di per sé: agli attuali prezzi di mercato, 2 TB di DDR5 costano circa $ 50.000.
Quanto costerà: pensa a sei cifre
AMD non ha fissato un prezzo, ma la matematica dei componenti racconta la storia. Secondo Tom's Hardware, che ha esaminato la configurazione, prendendo insieme i componenti principali (CPU, memoria e doppia GPU), il prezzo al dettaglio dovrebbe superare i 100.000 dollari prima di includere spazio di archiviazione, alimentazione e raffreddamento. Configurata più in alto, l'outlet stima che la workstation "potrebbe facilmente superare i 150.000 dollari".
La macchina stessa è descritta essenzialmente come un vassoio server riconfigurato in un involucro tower. AMD non ha condiviso dettagli estesi oltre le specifiche e la società ha indicato che il progetto sarà quello che i suoi partner OEM alla fine costruiranno e distribuiranno. Nessun partner è stato ancora annunciato e AMD non sembra avere intenzione di vendere direttamente la configurazione della workstation basata su MI350P.
Affermazione di AMD: modelli da trilioni di parametri su una scrivania
L'affermazione principale di AMD è che la Threadripper Halo Station può eseguire modelli da trilioni di parametri. Questa è la funzione dell'enorme storia della memoria unificata: con 288 GB di HBM3E sui due acceleratori - e potenzialmente 576 GB in una configurazione a quattro GPU - i modelli che normalmente richiederebbero un server data center possono, in teoria, essere caricati ed eseguiti localmente.
L'affermazione ha attirato l'attenzione immediata degli appassionati di hardware. I modelli linguistici di grandi dimensioni con un trilione di parametri richiedono in genere la quantizzazione per adattarsi alla memoria disponibile e la RAM di sistema con 400-500 GB/s di larghezza di banda è molto più lenta della memoria GPU, rendendo le velocità di trasferimento PCIe un potenziale collo di bottiglia per i carichi di lavoro che spostano i dati tra CPU e acceleratori. In pratica, i modelli rimarrebbero probabilmente residenti nella memoria della GPU durante l'inferenza, con la CPU e i suoi 2TB di DDR5 che supportano le attività di sviluppo attorno al modello.
Come si confronta con Nvidia e Lenovo
La Threadripper Halo Station entra in un mercato di nicchia ma in rapida crescita per i supercomputer IA da scrivania. Il desktop tower DGX Station di Nvidia basato su GB300 è stato quotato online a quasi $ 100.000. Sul fronte dell'accessibilità, la stessa AMD ha recentemente posizionato Ryzen AI Halo da 3.999 dollari come sfidante del DGX Spark di Nvidia, una macchina destinata agli sviluppatori piuttosto che a carichi di lavoro da trilioni di parametri.
Esistono precedenti per cartellini di prezzo ancora più alti in questa classe. La Lenovo ThinkStation P8, che utilizza CPU Threadripper Pro come host, attualmente costa $ 334.463 quando è al massimo con 2 TB di DDR5 e doppi acceleratori Blackwell. In questo contesto, una Halo Station a sei cifre non sarebbe un’eccezione.
Perché è importante
La Halo Station segnala l'intenzione di AMD di contestare ogni livello dello stack di calcolo AI - dai desktop da $ 3.999 alle GPU per data center - piuttosto che cedere la workstation di fascia alta alla linea DGX di Nvidia. Per i laboratori, le aziende con severi requisiti di sovranità dei dati e i ricercatori che necessitano di modelli su scala di frontiera dietro un firewall, un sistema desktop a 96 core raffreddato a liquido con 288 GB di HBM3E potrebbe rappresentare un'alternativa interessante al noleggio del cloud.
Le domande aperte sono quelle a cui AMD non ha risposto: prezzo finale, data di rilascio e quali OEM lo costruiranno effettivamente. Dato che la macchina ha debuttato all’IFA senza partner, si prevede che tali dettagli emergeranno nei prossimi mesi. Ciò che è già chiaro è che il confine tra "workstation" e "data center" continua a spostarsi e AMD intende spingerlo oltre.
---
Stai al passo con l'intelligenza artificialeRicevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.
Leggi altre notizie sull'AI →
