MLCommons опублікував результати тесту MLPerf Inference v6.1 16 вересня 2026 року, а заголовок належав до платформи наступного покоління NVIDIA. Згідно з оголошенням NVIDIA, у своєму першому попередньому перегляді система Vera Rubin NVL72 забезпечила в 3,7 рази більшу пропускну здатність поточного флагмана NVIDIA GB300 NVL72, що є першим сигналом того, що наступник Blackwell Ultra означатиме для економіки штучного інтелекту.
Vera Rubin — наступна платформа для центрів обробки даних NVIDIA, названа на честь астрофізика, який надав ключові докази існування темної матерії. Результати попереднього перегляду MLPerf — це перші загальнодоступні, незалежно організовані дані про продуктивність системи. For more context on this story, see our ongoing latest AI developments.
Числа за дебютом
NVIDIA представила результати попереднього перегляду Vera Rubin NVL72 для двох найвимогливіших робочих навантажень у пакеті версії 6.1: моделі аргументації DeepSeek-R1 і моделі мови зору Qwen3-VL.
На Qwen3-VL Vera Rubin NVL72 забезпечив у 3,7 рази вищу пропускну здатність, ніж GB300 NVL72 в автономному режимі, на сервері та в інтерактивних сценаріях, запустивши vLLM із фреймворком виводу Dynamo з відкритим кодом NVIDIA. На DeepSeek-R1 з використанням бібліотеки NVIDIA TensorRT-LLM пропускна здатність була в 2,5 рази вищою, ніж у попереднього флагмана.
Обидві цифри отримані з власних повідомлень NVIDIA до закритого відділу MLCommons, тобто вони були створені за перевіреними правилами MLPerf, хоча результати попереднього перегляду є явно ранніми вимірюваннями платформи, яка все ще оптимізується.
Як створюються прибутки
NVIDIA приписує стрибок спільному дизайну повного стеку апаратного та програмного забезпечення, а не будь-якого окремого компонента.
Щодо кремнію, Віра Рубін пропонує вдосконалені тензорні ядра та оновлений механізм трансформації, які прискорюють обидва етапи висновку — етап попереднього заповнення, що потребує важких обчислень, і етап декодування, пов’язаного з пам’яттю. Платформа спирається на точність NVFP4, яка зменшує обсяг пам’яті для ваг моделей, уваги та кеша KV, підвищуючи пропускну здатність із мінімальною втратою якості виводу, яку NVIDIA описує.
Що стосується програмного забезпечення, у поданнях використовувалося дезагреговане обслуговування, яке розділяє попереднє заповнення та декодування для різних завдань, а також широкомасштабний експертний паралелізм, щоб підтримувати суміш експертних рівнів у таких моделях, як DeepSeek-R1 і Qwen3-VL, повною мірою завантаженою роботою.
Інтерконнект є третьою опорою. Стійка NVL72 об’єднує 72 графічні процесори в єдиний масштабований домен за допомогою NVLink шостого покоління та комутатора NVLink, який, за словами NVIDIA, забезпечує в 10 разів вищу швидкість передачі пакетів і втричі нижчу затримку, ніж стандартний Ethernet — це основа, яка робить дезагреговане обслуговування в масштабі стійки практичним.
GB300 демонструє майже ідеальне масштабування
У поточного флагмана були свої новини в раунді v6.1. Подання NVIDIA DeepSeek-R1 масштабується з однієї стійки GB300 NVL72 — 72 графічних процесора — до чотирьох стійків, 288 графічних процесорів, досягнувши 99 відсотків ефективності масштабування в офлайн-сценарії, при цьому пропускна здатність зростає майже пропорційно доданому апаратному забезпеченню.
Ефективність масштабування — це показник, за яким уважно стежать оператори центрів обробки даних, оскільки він визначає, чи купівля додаткового обладнання дійсно купує пропорційно більшу ємність. Майже лінійне масштабування між стійками свідчить про те, що вузьким місцем у цьому масштабі залишається продуктивність графічного процесора, а не зв’язок між стійками.
Програмне забезпечення продовжує ускладнюватися
Повторювана закономірність у раундах MLPerf знову зберігається: лише вдосконалення програмного забезпечення забезпечили до 1,6 разів вищу продуктивність у поданнях NVIDIA v6.1 порівняно з версією 6.0, і компанія каже, що оптимізація продовжувалася після крайнього терміну подання версії 6.1, забезпечуючи додаткові переваги.
Для покупців це означає, що дана стійка стає швидшою протягом усього терміну служби без оновлення апаратного забезпечення — динамічна NVIDIA стверджувала, що її встановлена база дорожчає, а не знецінюється, коли стек програмного забезпечення розвивається.
Робочі навантаження агентів змінюють контрольні показники
Раунд v6.1 також відобразив зміну того, для чого використовується висновок. NVIDIA вказала на попереднє тестування в тесті AgentX від SemiAnalysis, розробленому навколо агентів штучного інтелекту, які міркують, планують і діють у кілька етапів, де стверджується, що Vera Rubin NVL72 забезпечив у 30 разів продуктивність GB300 NVL72.
MLCommons також готує спеціальний тест для цієї зміни: майбутній тест MLPerf Endpoints має на меті стандартизувати вимірювання робочих навантажень агентського висновку, які традиційні тести пропускної здатності вловлюють погано. У міру того як висновок переходить від одноразового чату до тривалих багатоетапних сеансів агента, затримка та інтерактивна узгодженість мають таке ж значення, як і необроблені токени за секунду, і контрольні показники перебудовуються відповідно.
Небіус і екосистема прибувають рано
Хмарний провайдер Nebius також представив результати попереднього перегляду Vera Rubin NVL72, які NVIDIA підкреслила як доказ високої ранньої продуктивності екосистеми. Ранні подання третьої сторони зазвичай є ознакою того, що системи наступного покоління переходять від лабораторних проб до ширшої доступності, хоча ні публікація NVIDIA, ні реліз MLCommons не вказують терміни загальної доступності.
Чому це важливо для економіки ШІ
NVIDIA виражає результати в термінах доходу: кожна стійка Vera Rubin NVL72 генерує значно більше токенів, обслуговує більше користувачів і знижує вартість токена порівняно зі стійкою GB300 NVL72. У галузі, де попит на логічний висновок визначається моделями міркування та робочим навантаженням агентів, які споживають на порядки більше обчислень на запит, ніж звичайний чат, пропускна здатність на стійку — це число, яке визначає, скільки користувачів може обслуговувати фіксований бюджет центру обробки даних.
Застосовуються звичайні застереження: це пропозиції постачальників у раунді попереднього перегляду щодо двох моделей, вибраних NVIDIA, з оптимізацією, яка все ще триває. Але напрямок однозначний. Перший погляд MLPerf на Vera Rubin показує, що підвищення продуктивності, яке визначило інфраструктуру штучного інтелекту з 2023 року, не має видимого плато — і що наступний цикл оновлення стелажів знову перезавантажить економіку обслуговування штучного інтелекту в масштабі.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
