AMD a dévoilé la Threadripper Halo Station, une station de travail IA de niveau extrême qui associe un processeur Threadripper Pro à 96 cœurs à deux accélérateurs Instinct MI350P refroidis par liquide – une combinaison que la société présente comme la station de travail la plus puissante au monde, capable d'exécuter localement des modèles d'IA de mille milliards de paramètres. La machine a été présentée à l'IFA, bien qu'AMD n'ait pas encore annoncé de prix, de date de sortie ou de partenaires OEM.
L’annonce arrive alors que le matériel IA de classe poste de travail chauffe rapidement. Pour en savoir plus sur cette histoire et les mouvements de ses concurrents, consultez notre couverture continue AI hardware news.
Les spécifications : 96 cœurs Zen 5 plus 288 Go de HBM3E
Au cœur de la Threadripper Halo Station se trouve le Threadripper Pro 9995WX, une puce Zen 5 à 96 cœurs et 192 threads qui accélère jusqu'à 5,4 GHz. Il est livré avec 384 Mo de cache L3 et un TDP de 350 W. La puce à elle seule n'est pas un élément trivial : les unités Threadripper Pro 9995WX autonomes se vendent entre 11 000 et 12 000 dollars.
L'accélération provient d'une paire d'accélérateurs AMD Instinct MI350P, tous deux refroidis par liquide. Chaque carte contient 128 unités de calcul CDNA 4 construites sur le processus N3 de TSMC et 144 Go de mémoire HBM3E, ce qui donne au système 288 Go de mémoire à large bande passante prête à l'emploi. Chaque accélérateur est conçu pour une consommation électrique allant jusqu’à 600 W.
AMD affirme qu'il existe un "chemin vers quatre", ce qui signifie que la plate-forme pourrait éventuellement prendre en charge deux accélérateurs supplémentaires, portant la mémoire totale du GPU à 576 Go. Cependant, dans l'unité présentée à l'IFA, il n'y avait que de la place physique pour les deux cartes refroidies par liquide aux côtés de l'hôte Threadripper.
La mémoire système atteint 2 To de DDR5, le maximum pris en charge par le contrôleur de mémoire à huit canaux du processeur. C’est un chiffre ahurissant en soi : aux prix actuels du marché, 2 To de DDR5 coûtent environ 50 000 dollars.
Ce que cela va coûter : pensez à six chiffres
AMD n'a pas fixé de prix, mais les calculs des composants racontent l'histoire. Selon Tom's Hardware, qui a examiné la configuration, en regroupant les composants de base – CPU, mémoire et double GPU – le prix public devrait dépasser 100 000 $ avant que le stockage, l'alimentation et le refroidissement ne soient pris en compte. Configuré plus haut, le point de vente estime que la station de travail « pourrait très facilement grimper au-dessus de 150 000 $ ».
La machine elle-même est décrite comme essentiellement un plateau de serveur reconfiguré en un boîtier tour. AMD n'a pas partagé de détails détaillés au-delà des spécifications, et la société a indiqué que la conception était celle que ses partenaires OEM construiraient et expédieraient en fin de compte. Aucun partenaire n'a encore été annoncé et AMD ne semble pas prévoir de vendre directement lui-même la configuration de la station de travail basée sur le MI350P.
L'affirmation d'AMD : des modèles comportant des milliards de paramètres sur un bureau
L'affirmation principale d'AMD est que la Threadripper Halo Station peut exécuter des modèles comportant des milliards de paramètres. C’est la fonction de l’énorme mémoire unifiée : avec 288 Go de HBM3E répartis sur les deux accélérateurs – et potentiellement 576 Go dans une configuration à quatre GPU – les modèles qui exigeraient normalement un serveur de centre de données peuvent, en théorie, être chargés et exécutés localement.
Cette affirmation a immédiatement attiré l’attention des passionnés de matériel informatique. Les grands modèles de langage avec un billion de paramètres nécessitent généralement une quantification pour s'adapter à la mémoire disponible, et la RAM système avec une bande passante de 400 à 500 Go/s est beaucoup plus lente que la mémoire GPU, ce qui fait des vitesses de transfert PCIe un goulot d'étranglement potentiel pour les charges de travail qui mélangent les données entre le processeur et les accélérateurs. En pratique, les modèles resteraient probablement résidents dans la mémoire du GPU pendant l'inférence, le CPU et ses 2 To de DDR5 prenant en charge les tâches de développement autour du modèle.
Comment cela se compare-t-il à Nvidia et Lenovo
La Threadripper Halo Station entre dans un marché de niche mais en croissance rapide pour les supercalculateurs d’IA de bureau. La tour de bureau DGX Station alimentée par GB300 de Nvidia a été répertoriée en ligne à près de 100 000 $. Du côté accessible, AMD lui-même a récemment positionné le Ryzen AI Halo à 3 999 $ comme un challenger du DGX Spark de Nvidia – une machine destinée aux développeurs plutôt qu'aux charges de travail comportant des milliards de paramètres.
Il existe un précédent pour des prix encore plus élevés dans cette classe. La Lenovo ThinkStation P8, qui utilise les processeurs Threadripper Pro comme hôte, coûte actuellement 334 463 $ lorsqu'elle est optimisée avec 2 To de DDR5 et deux accélérateurs Blackwell. Dans ce contexte, une Halo Station à six chiffres ne serait pas une exception.
Pourquoi c'est important
La Halo Station signale l'intention d'AMD de contester chaque couche de la pile de calcul IA – des ordinateurs de bureau à 3 999 $ aux GPU des centres de données – plutôt que de céder la station de travail haut de gamme à la gamme DGX de Nvidia. Pour les laboratoires, les entreprises ayant des exigences strictes en matière de souveraineté des données et les chercheurs qui ont besoin de modèles à l'échelle de pointe derrière un pare-feu, un système de bureau à 96 cœurs refroidi par liquide avec 288 Go de HBM3E pourrait être une alternative intéressante à la location dans le cloud.
Les questions ouvertes sont celles auxquelles AMD n'a pas répondu : le prix final, une date de sortie et quels constructeurs OEM le construiront réellement. Étant donné que la machine a fait ses débuts à l'IFA sans partenaires, ces détails devraient apparaître dans les mois à venir. Ce qui est déjà clair, c'est que la frontière entre « poste de travail » et « centre de données » ne cesse de bouger – et AMD a l'intention de la repousser plus loin.
---
Gardez une longueur d'avance sur l'IARecevez les dernières actualités, analyses et avancées en matière d'IA, le tout en un seul endroit.
Lire plus d'actualités sur l'IA →
