MLCommons опубликовала результаты теста MLPerf Inference v6.1 16 сентября 2026 года, и заголовок принадлежал платформе NVIDIA следующего поколения. Согласно объявлению NVIDIA, в своем первом предварительном представлении система Vera Rubin NVL72 обеспечила пропускную способность в 3,7 раза выше, чем нынешний флагман NVIDIA GB300 NVL72, что является ранним сигналом о том, что преемник Blackwell Ultra будет означать для экономики вывода ИИ.

Vera Rubin — следующая платформа NVIDIA для центров обработки данных, названная в честь астрофизика, предоставившего ключевые доказательства существования темной материи. Результаты предварительного просмотра MLPerf — это первые общедоступные, независимо организованные данные о производительности системы. Подробнее об этой истории — в нашем последние разработки в ИИ.

Цифры, стоящие за дебютом

NVIDIA представила Вере Рубин предварительные результаты NVL72 для двух наиболее требовательных рабочих нагрузок в пакете v6.1: модели рассуждения DeepSeek-R1 и модели языка видения Qwen3-VL.

На Qwen3-VL Vera Rubin NVL72 обеспечила пропускную способность в 3,7 раза выше, чем GB300 NVL72 в автономных, серверных и интерактивных сценариях, используя vLLM с открытой структурой вывода NVIDIA Dynamo. На DeepSeek-R1 с использованием библиотеки NVIDIA TensorRT-LLM пропускная способность была до 2,5 раз выше, чем у предыдущего флагмана.

Обе цифры взяты из собственных материалов NVIDIA, предоставленных закрытому подразделению MLCommons, то есть они были получены в соответствии с проверенными правилами MLPerf, хотя результаты предварительного просмотра явно являются ранними измерениями платформы, которая все еще оптимизируется.

Как формируется прибыль

NVIDIA связывает этот переход с полным совместным проектированием аппаратного и программного обеспечения, а не с каким-либо отдельным компонентом.

Что касается кремния, Вера Рубин предлагает улучшенные тензорные ядра и обновленный механизм Transformer Engine, которые ускоряют оба этапа вывода — этап предварительного заполнения с тяжелыми вычислениями и этап декодирования с привязкой к памяти. Платформа опирается на точность NVFP4, которая сокращает объем памяти, занимаемый весами моделей, вниманием и кэшем KV, повышая пропускную способность с тем, что NVIDIA описывает как минимальную потерю качества вывода.

Что касается программного обеспечения, в материалах использовалось дезагрегированное обслуживание, которое разделяет предварительное заполнение и декодирование на разные задачи, а также крупномасштабный экспертный параллелизм, чтобы обеспечить полную работу слоев смешанных экспертов в таких моделях, как DeepSeek-R1 и Qwen3-VL.

Взаимосвязь является третьим столпом. Конструкция стойки NVL72 объединяет 72 графических процессора в единый масштабируемый домен с помощью NVLink шестого поколения и коммутатора NVLink, который, по словам NVIDIA, обеспечивает в 10 раз более высокую скорость передачи пакетов и в 3 раза меньшую задержку, чем стандартный Ethernet — основа, которая делает дезагрегированное обслуживание в масштабе стойки практичным.

GB300 демонстрирует почти идеальное масштабирование

У нынешнего флагмана были свои новости в раунде v6.1. Представленный NVIDIA DeepSeek-R1 масштабировался с одной стойки GB300 NVL72 (72 графических процессора) до четырех стоек с 288 графическими процессорами, достигая 99-процентной эффективности масштабирования в автономном сценарии, при этом пропускная способность росла почти пропорционально добавленному оборудованию.

Эффективность масштабирования — это показатель, за которым внимательно следят операторы центров обработки данных, поскольку он определяет, действительно ли покупка большего количества оборудования увеличивает пропорционально большую емкость. Почти линейное масштабирование между стойками предполагает, что узким местом в этом масштабе остается производительность каждого графического процессора, а не связь между стойками.

Программное обеспечение продолжает усугубляться

Повторяющаяся закономерность в раундах MLPerf снова сохранилась: одни только улучшения программного обеспечения обеспечили производительность NVIDIA v6.1 в 1,6 раза выше по сравнению с v6.0, и, по словам компании, оптимизация продолжилась и после крайнего срока подачи v6.1, обеспечивая дальнейший выигрыш.

Для покупателей это означает, что данная стойка становится быстрее в течение всего срока службы без обновления оборудования — динамика, которую использует NVIDIA, утверждает, что ее установленная база дорожает, а не обесценивается по мере развития программного стека.

Агентские рабочие нагрузки меняют критерии оценки

Раунд версии 6.1 также отразил изменение в том, для чего используется вывод. NVIDIA указала на предварительное тестирование теста AgentX компании SemiAnalysis, разработанного на основе агентов искусственного интеллекта, которые рассуждают, планируют и действуют в несколько этапов, где, по ее словам, Vera Rubin NVL72 показала производительность в 30 раз выше, чем GB300 NVL72.

MLCommons также готовит специальный тест для этого изменения: предстоящий тест MLPerf Endpoints направлен на стандартизацию измерения рабочих нагрузок агентного вывода, которые традиционные тесты пропускной способности фиксируют плохо. По мере перехода от чата с одним запросом к длительным многоэтапным сеансам агентов задержка и интерактивная согласованность имеют такое же значение, как и количество необработанных токенов в секунду, и тесты перестраиваются соответствующим образом.

Небиус и экосистема появляются рано

Поставщик облачных услуг Nebius также представил результаты предварительного просмотра Vera Rubin NVL72, которые NVIDIA отметила как свидетельство высокой производительности экосистемы на ранних этапах. Ранние заявки от третьих сторон обычно являются признаком того, что системы следующего поколения переходят от лабораторной выборки к более широкой доступности, хотя ни в сообщении NVIDIA, ни в выпуске MLCommons не указаны сроки общедоступности.

Почему это важно для экономики ИИ

NVIDIA формулирует результаты с точки зрения дохода: каждая стойка Vera Rubin NVL72 генерирует значительно больше токенов, обслуживает больше пользователей и снижает стоимость токена по сравнению со стойкой GB300 NVL72. В отрасли, где спрос на логические выводы обусловлен моделями рассуждений и рабочей нагрузкой агентов, которые потребляют на порядок больше вычислений на запрос, чем простой чат, пропускная способность на стойку — это число, которое определяет, сколько пользователей может обслуживать фиксированный бюджет центра обработки данных.

Применяются обычные предостережения: это предложения поставщиков в предварительном раунде для двух моделей, выбранных NVIDIA, с оптимизацией, которая еще продолжается. Но направление однозначное. Первый взгляд MLPerf на Веру Рубин показывает, что рост производительности, который определял инфраструктуру искусственного интеллекта с 2023 года, не имеет стабильного состояния — и что следующий цикл обновления стойки снова обнулит экономику обслуживания искусственного интеллекта в масштабе.

---

Будьте в курсе ИИ

Последние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.

Читать больше новостей об ИИ →