MLCommons publicó los resultados comparativos de MLPerf Inference v6.1 el 16 de septiembre de 2026 y el titular pertenecía a la plataforma de próxima generación de NVIDIA. En su primera presentación preliminar, el sistema Vera Rubin NVL72 entregó hasta 3,7 veces el rendimiento del actual buque insignia GB300 NVL72 de NVIDIA, según el anuncio de NVIDIA, una señal temprana de lo que significará el sucesor de Blackwell Ultra para la economía de inferencia de IA.
Vera Rubin es la próxima plataforma de centro de datos de NVIDIA, llamada así en honor al astrofísico que proporcionó evidencia clave sobre la materia oscura. Los resultados de la vista previa de MLPerf son los primeros datos de rendimiento públicos y organizados de forma independiente para el sistema. Para más contexto sobre esta historia, consulta nuestra actualidad de inteligencia artificial.
Los números detrás del debut
NVIDIA presentó los resultados preliminares de Vera Rubin NVL72 sobre dos de las cargas de trabajo más exigentes de la suite v6.1: el modelo de razonamiento DeepSeek-R1 y el modelo de lenguaje de visión Qwen3-VL.
En Qwen3-VL, Vera Rubin NVL72 entregó un rendimiento hasta 3,7 veces mayor que GB300 NVL72 en escenarios interactivos, de servidor y fuera de línea, ejecutando vLLM con el marco de inferencia de código abierto Dynamo de NVIDIA. En DeepSeek-R1, utilizando la biblioteca TensorRT-LLM de NVIDIA, el rendimiento fue hasta 2,5 veces mayor que el del buque insignia anterior.
Ambas cifras provienen de las presentaciones de NVIDIA a la División Cerrada de MLCommons, lo que significa que fueron producidas bajo las reglas auditadas de MLPerf, aunque los resultados de la vista previa son mediciones explícitamente tempranas de una plataforma que aún se está optimizando.
Cómo se construyen las ganancias
NVIDIA atribuye el salto al codiseño completo de hardware y software en lugar de a un solo componente.
En el lado del silicio, Vera Rubin trae Tensor Cores mejorados y un Transformer Engine actualizado que acelera ambas etapas de inferencia: la fase de precarga de computación pesada y la fase de decodificación vinculada a la memoria. La plataforma se basa en la precisión NVFP4, que reduce la huella de memoria de los pesos del modelo, la atención y el caché KV, aumentando el rendimiento con lo que NVIDIA describe como una pérdida mínima de calidad de salida.
En el lado del software, las presentaciones utilizaron servicios desagregados, que separan el prellenado y la decodificación en diferentes tareas, junto con un paralelismo experto a gran escala para mantener las capas de mezcla de expertos en modelos como DeepSeek-R1 y Qwen3-VL completamente alimentadas con trabajo.
La interconexión es el tercer pilar. El diseño de rack NVL72 vincula 72 GPU en un único dominio escalable utilizando NVLink y NVLink Switch de sexta generación, que según NVIDIA ofrece velocidades de paquetes 10 veces más altas y una latencia 3 veces menor que Ethernet disponible en el mercado, la base que hace que el servicio desagregado a escala de rack sea práctico.
GB300 muestra una escala casi perfecta
El buque insignia actual tuvo sus propias novedades en la ronda v6.1. La presentación de DeepSeek-R1 de NVIDIA se escaló desde un solo bastidor GB300 NVL72 (72 GPU) a cuatro bastidores, 288 GPU, logrando una eficiencia de escalado del 99 por ciento en el escenario fuera de línea, con un rendimiento que crece casi en proporción al hardware agregado.
La eficiencia de escalado es una métrica que los operadores de centros de datos observan de cerca porque determina si comprar más hardware en realidad compra proporcionalmente más capacidad. El escalado casi lineal entre bastidores sugiere que el cuello de botella a esta escala sigue siendo el rendimiento por GPU en lugar de la comunicación entre bastidores.
El software sigue aumentando
Un patrón recurrente en las rondas de MLPerf se mantuvo nuevamente: las mejoras de software por sí solas brindaron un rendimiento hasta 1,6 veces mayor en los envíos de v6.1 de NVIDIA en comparación con v6.0, y la compañía dice que las optimizaciones continuaron llegando después de la fecha límite de envío de v6.1, generando más ganancias.
Para los compradores, la implicación es que un rack determinado se vuelve más rápido a lo largo de su vida útil sin una actualización de hardware: una dinámica que NVIDIA ha utilizado para argumentar que su base instalada se aprecia en lugar de depreciarse a medida que madura la pila de software.
Las cargas de trabajo agentes remodelan los puntos de referencia
La ronda v6.1 también reflejó un cambio en el uso de la inferencia. NVIDIA señaló pruebas preliminares en el punto de referencia AgentX de SemiAnalysis, diseñado alrededor de agentes de IA que razonan, planifican y actúan en múltiples pasos, donde dice que Vera Rubin NVL72 entregó 30 veces el rendimiento de GB300 NVL72.
MLCommons también está preparando un punto de referencia dedicado para este cambio: el próximo punto de referencia MLPerf Endpoints tiene como objetivo estandarizar la medición de cargas de trabajo de inferencia agente que las pruebas de rendimiento tradicionales capturan mal. A medida que la inferencia pasa del chat de un solo mensaje a largas sesiones de agentes de varios pasos, la latencia y la coherencia interactiva son tan importantes como los tokens sin procesar por segundo, y los puntos de referencia se están reconstruyendo en consecuencia.
Nebius y el ecosistema llegan temprano
El proveedor de nube Nebius también presentó los resultados preliminares de Vera Rubin NVL72, que NVIDIA destacó como evidencia del sólido desempeño temprano del ecosistema. Los primeros envíos de terceros suelen ser una señal de que los sistemas de próxima generación están pasando del muestreo de laboratorio a una disponibilidad más amplia, aunque ni la publicación de NVIDIA ni el lanzamiento de MLCommons especifican el momento de disponibilidad general.
Por qué es importante para la economía de la IA
NVIDIA enmarca los resultados en términos de ingresos: cada rack Vera Rubin NVL72 genera significativamente más tokens, atiende a más usuarios y reduce el costo por token en relación con un rack GB300 NVL72. En una industria donde la demanda de inferencia está impulsada por modelos de razonamiento y cargas de trabajo de agentes que consumen órdenes de magnitud más computacional por consulta que un simple chat, el rendimiento por rack es el número que determina a cuántos usuarios puede atender un presupuesto fijo de centro de datos.
Se aplican las advertencias habituales: se trata de presentaciones de proveedores en una ronda de vista previa, en dos modelos elegidos por NVIDIA, con optimizaciones aún en proceso. Pero la dirección es inequívoca. El primer vistazo de MLPerf a Vera Rubin sugiere que el aumento de rendimiento que ha definido la infraestructura de IA desde 2023 no tiene una meseta a la vista, y que el próximo ciclo de actualización de rack restablecerá nuevamente la economía de servir IA a escala.
---
Mantente al Día con la IALas últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.
Leer más noticias de IA →