AMD ha presentado Threadripper Halo Station, una estación de trabajo de IA de nivel extremo que combina una CPU Threadripper Pro de 96 núcleos con dos aceleradores Instinct MI350P refrigerados por líquido, una combinación que la compañía considera la estación de trabajo más poderosa del mundo, capaz de ejecutar modelos de IA de billones de parámetros localmente. La máquina se mostró en la IFA, aunque AMD aún no ha anunciado el precio, la fecha de lanzamiento ni los socios OEM.
El anuncio llega cuando el hardware de IA de clase de estación de trabajo se calienta rápidamente. Para obtener más información sobre esta historia y los movimientos de sus rivales, consulte nuestra cobertura continua de noticias sobre hardware de IA.
Las especificaciones: 96 Zen 5 Cores más 288 GB de HBM3E
En el corazón de Threadripper Halo Station se encuentra el Threadripper Pro 9995WX, un chip Zen 5 de 96 núcleos y 192 hilos que aumenta hasta 5,4 GHz. Se envía con 384 MB de caché L3 y un TDP de 350 W. El chip por sí solo no es un artículo trivial: las unidades independientes Threadripper Pro 9995WX se han estado vendiendo a aproximadamente entre 11.000 y 12.000 dólares.
La aceleración proviene de un par de aceleradores AMD Instinct MI350P, ambos refrigerados por líquido. Cada tarjeta lleva 128 unidades de cómputo CDNA 4 basadas en el proceso N3 de TSMC y 144 GB de memoria HBM3E, lo que le da al sistema 288 GB de memoria de gran ancho de banda lista para usar. Cada acelerador tiene una potencia nominal de hasta 600 W de consumo de energía.
AMD dice que hay un "camino hacia cuatro", lo que significa que la plataforma eventualmente podría admitir dos aceleradores más, elevando la memoria total de la GPU a 576 GB. Sin embargo, en la unidad demostrada en IFA, solo había espacio físico para las dos tarjetas refrigeradas por líquido junto al host Threadripper.
La memoria del sistema alcanza un máximo de 2 TB de DDR5, el máximo admitido en el controlador de memoria de ocho canales de la CPU. Se trata de una cifra asombrosa en sí misma: a los precios actuales del mercado, 2 TB de DDR5 cuestan aproximadamente 50.000 dólares.
Cuánto costará: piense en seis cifras
AMD no ha fijado un precio, pero las matemáticas de los componentes cuentan la historia. Según Tom's Hardware, que examinó la configuración, tomando los componentes principales juntos (CPU, memoria y GPU duales), el precio de venta al público debería exceder los $100,000 antes de tener en cuenta el almacenamiento, la energía y la refrigeración. Configurada más arriba, el medio estima que la estación de trabajo "podría muy fácilmente superar los $150,000".
La máquina en sí se describe esencialmente como una bandeja de servidor reconfigurada en una torre. AMD no compartió muchos detalles más allá de las especificaciones, y la compañía indicó que el diseño es uno que sus socios OEM finalmente construirán y enviarán. Aún no se han anunciado socios y AMD no parece planear vender directamente la configuración de la estación de trabajo basada en MI350P.
Afirmación de AMD: modelos de billones de parámetros en un escritorio
La afirmación principal de AMD es que Threadripper Halo Station puede ejecutar modelos de billones de parámetros. Ésa es la función de la enorme historia de la memoria unificada: con 288 GB de HBM3E en los dos aceleradores (y potencialmente 576 GB en una configuración de cuatro GPU), los modelos que normalmente demandarían un servidor de centro de datos pueden, en teoría, cargarse y ejecutarse localmente.
La afirmación generó un escrutinio inmediato por parte de los entusiastas del hardware. Los modelos de lenguajes grandes con un billón de parámetros generalmente requieren cuantificación para adaptarse a la memoria disponible, y la RAM del sistema con un ancho de banda de 400 a 500 GB/s es mucho más lenta que la memoria de la GPU, lo que hace que las velocidades de transferencia PCIe sean un posible cuello de botella para cargas de trabajo que barajan datos entre la CPU y los aceleradores. En la práctica, los modelos probablemente permanecerían residentes en la memoria de la GPU durante la inferencia, con la CPU y sus 2 TB de DDR5 respaldando las tareas de desarrollo en torno al modelo.
Cómo se compara con Nvidia y Lenovo
Threadripper Halo Station ingresa a un mercado especializado pero de rápido crecimiento para las supercomputadoras de inteligencia artificial de escritorio. La torre de escritorio DGX Station de Nvidia con tecnología GB300 se ha cotizado en línea por casi $ 100,000. En el extremo accesible, la propia AMD posicionó recientemente el Ryzen AI Halo de $3,999 como un retador del DGX Spark de Nvidia, una máquina dirigida a desarrolladores en lugar de cargas de trabajo de billones de parámetros.
Hay precedentes de precios aún más altos en esta clase. La Lenovo ThinkStation P8, que utiliza CPU Threadripper Pro como host, actualmente cuesta $ 334,463 cuando tiene un máximo de 2 TB de DDR5 y dos aceleradores Blackwell. En ese contexto, una Halo Station de seis cifras no sería un caso atípico.
Por qué es importante
Halo Station señala la intención de AMD de disputar cada capa de la pila de computación de IA (desde computadoras de escritorio de $3,999 hasta GPU de centros de datos) en lugar de ceder la estación de trabajo de alta gama a la línea DGX de Nvidia. Para los laboratorios, las empresas con requisitos estrictos de soberanía de datos y los investigadores que necesitan modelos a escala de frontera detrás de un firewall, un sistema de escritorio de 96 núcleos refrigerado por líquido con 288 GB de HBM3E podría ser una alternativa convincente al alquiler de la nube.
Las preguntas abiertas son las que AMD no ha respondido: precio final, fecha de lanzamiento y qué fabricantes de equipos originales lo construirán. Dado que la máquina debutó en IFA sin socios asociados, se espera que esos detalles surjan en los próximos meses. Lo que ya está claro es que la frontera entre "estación de trabajo" y "centro de datos" sigue avanzando, y AMD tiene la intención de empujarla aún más.
---
Manténgase a la vanguardia de la IAObtenga las últimas noticias, análisis y avances en IA, todo en un solo lugar.
Leer más noticias sobre IA →
