MLCommons opublikowało wyniki testu porównawczego MLPerf Inference v6.1 16 września 2026 r., a nagłówek dotyczył platformy nowej generacji firmy NVIDIA. W swojej pierwszej w historii przesłanej wersji zapoznawczej system Vera Rubin NVL72 zapewnił aż do 3,7 razy większą przepustowość w porównaniu z obecnym flagowym produktem NVIDIA GB300 NVL72, zgodnie z zapowiedzią firmy NVIDIA, co stanowi wczesny sygnał tego, co następca Blackwell Ultra będzie oznaczać dla ekonomii wnioskowania AI.

Vera Rubin to kolejna platforma dla centrów danych firmy NVIDIA, nazwana na cześć astrofizyka, który dostarczył kluczowych dowodów na istnienie ciemnej materii. Wyniki podglądu MLPerf to pierwsze publiczne, niezależnie zorganizowane dane dotyczące wydajności systemu. Więcej kontekstu na ten temat znajdziesz w naszych najnowsze osiągnięcia AI.

Liczby stojące za debiutem

NVIDIA przedstawiła wyniki podglądu Vera Rubin NVL72 dla dwóch najbardziej wymagających obciążeń w pakiecie v6.1: modelu wnioskowania DeepSeek-R1 i modelu języka wizyjnego Qwen3-VL.

Na Qwen3-VL Vera Rubin NVL72 zapewniła do 3,7 razy wyższą przepustowość niż GB300 NVL72 w scenariuszach offline, serwerowych i interaktywnych, uruchamiając vLLM z platformą wnioskowania typu open source Dynamo firmy NVIDIA. W przypadku DeepSeek-R1, korzystającego z biblioteki TensorRT-LLM firmy NVIDIA, przepustowość była aż 2,5 razy wyższa w porównaniu z poprzednim flagowcem.

Obie liczby pochodzą z materiałów przesłanych przez firmę NVIDIA do działu zamkniętego MLCommons, co oznacza, że ​​zostały opracowane zgodnie ze sprawdzonymi zasadami MLPerf, chociaż wyniki podglądu stanowią wyraźnie wczesne pomiary platformy wciąż optymalizowanej.

Jak budowane są zyski

NVIDIA przypisuje ten skok pełnemu wspólnemu projektowaniu sprzętu i oprogramowania, a nie pojedynczego komponentu.

Jeśli chodzi o krzem, Vera Rubin wprowadza ulepszone rdzenie Tensor i zaktualizowany silnik transformatorowy, które przyspieszają oba etapy wnioskowania — fazę wstępnego wypełniania wymagającą dużej mocy obliczeniowej i fazę dekodowania związaną z pamięcią. Platforma opiera się na precyzji NVFP4, która zmniejsza obciążenie pamięci związane z wagami modeli, uwagą i pamięcią podręczną KV, zwiększając przepustowość przy tym, co NVIDIA określa jako minimalną utratę jakości wyjściowej.

Jeśli chodzi o oprogramowanie, w zgłoszeniach wykorzystano udostępnianie zdezagregowane, które rozdziela wstępne wypełnianie i dekodowanie na różne zadania, a także równoległość ekspercką na dużą skalę, aby warstwy składające się z mieszanki ekspertów w modelach takich jak DeepSeek-R1 i Qwen3-VL były w pełni zapełnione pracą.

Interkonekt to trzeci filar. Konstrukcja szafy NVL72 łączy 72 procesory graficzne w jedną domenę o zwiększonej skali przy użyciu szóstej generacji NVLink i przełącznika NVLink, które według firmy NVIDIA zapewniają 10 razy większą szybkość pakietów i 3 razy mniejsze opóźnienia niż standardowa sieć Ethernet — to podstawa, która sprawia, że ​​zdezagregowane serwowanie w skali szafy jest praktyczne.

GB300 wykazuje niemal idealne skalowanie

Obecny flagowiec miał swoje nowości w rundzie v6.1. Rozwiązanie DeepSeek-R1 firmy NVIDIA skalowano z pojedynczej szafy GB300 NVL72 — 72 procesory graficzne — do czterech szaf z 288 procesorami graficznymi, osiągając 99% wydajności skalowania w scenariuszu offline, przy wzroście przepustowości niemal proporcjonalnie do dodanego sprzętu.

Efektywność skalowania to wskaźnik, który operatorzy centrów danych uważnie obserwują, ponieważ określa, czy zakup większej ilości sprzętu faktycznie oznacza zakup proporcjonalnie większej pojemności. Niemal liniowe skalowanie w różnych szafach sugeruje, że wąskim gardłem w tej skali pozostaje wydajność przypadająca na procesor graficzny, a nie komunikacja między szafami.

Oprogramowanie ciągle się łączy

Powtarzający się schemat w rundach MLPerf ponownie się powtórzył: same ulepszenia oprogramowania zapewniły do 1,6 razy wyższą wydajność w zgłoszeniach NVIDIA w wersji 6.1 w porównaniu z wersją 6.0, a firma twierdzi, że optymalizacje nadal pojawiały się po ostatecznym terminie składania wniosków w wersji 6.1, zapewniając dalsze korzyści.

Dla kupujących oznacza to, że dana szafa serwerowa będzie działać szybciej przez cały okres użytkowania bez konieczności odświeżania sprzętu — dynamiczna firma NVIDIA zwykła argumentować, że jej zainstalowana baza raczej zyskuje na wartości, a nie traci na wartości w miarę dojrzewania stosu oprogramowania.

Obciążenia agentowe zmieniają wyniki testów porównawczych

Runda v6.1 odzwierciedlała także zmianę w zakresie tego, do czego wykorzystywane jest wnioskowanie. NVIDIA wskazała na wstępne testy testu porównawczego AgentX firmy SemiAnalytics, zaprojektowanego z myślą o agentach AI, którzy rozumują, planują i działają na wielu etapach, i według których Vera Rubin NVL72 zapewniła 30 razy większą wydajność niż GB300 NVL72.

MLCommons przygotowuje również dedykowany test porównawczy na tę zmianę: nadchodzący test porównawczy MLPerf Endpoints ma na celu ujednolicenie pomiaru obciążeń związanych z wnioskowaniem agentycznym, które tradycyjne testy przepustowości słabo wychwytują. W miarę jak wnioskowanie przechodzi od czatu z jednym monitem do długich, wieloetapowych sesji agentów, opóźnienia i interaktywna spójność mają takie samo znaczenie jak surowe tokeny na sekundę — dlatego też odpowiednio przebudowuje się testy porównawcze.

Nebius i ekosystem przybywają wcześnie

Dostawca usług w chmurze, firma Nebius, przedstawiła także wyniki wstępne Vera Rubin NVL72, które firma NVIDIA podkreśliła jako dowód dobrej wydajności ekosystemu na wczesnym etapie. Wczesne zgłoszenia od stron trzecich są zazwyczaj oznaką, że systemy nowej generacji odchodzą od próbek laboratoryjnych w stronę szerszej dostępności, chociaż ani post firmy NVIDIA, ani publikacja MLCommons nie określają terminu ogólnej dostępności.

Dlaczego ma to znaczenie dla ekonomii sztucznej inteligencji

NVIDIA przedstawia wyniki w kategoriach przychodów: każdy stojak Vera Rubin NVL72 generuje znacznie więcej tokenów, obsługuje większą liczbę użytkowników i obniża koszt na token w porównaniu ze stojakiem GB300 NVL72. W branży, w której zapotrzebowanie na wnioskowanie jest napędzane przez modele wnioskowania i obciążenia agentów, które zużywają o rząd wielkości więcej mocy obliczeniowej na zapytanie niż zwykły czat, przepustowość na szafę to liczba określająca, ilu użytkowników może obsłużyć stały budżet centrum danych.

Obowiązują zwykłe zastrzeżenia: są to zgłoszenia dostawców w rundzie podglądu, dotyczące dwóch modeli wybranych przez firmę NVIDIA, z wciąż trwającymi optymalizacjami. Ale kierunek jest jednoznaczny. Pierwsze spojrzenie MLPerf na Verę Rubin sugeruje, że wzrost wydajności, który definiuje infrastrukturę AI od 2023 r., nie wskazuje na stabilizację oraz że następny cykl odświeżenia szafy ponownie zresetuje ekonomikę obsługi sztucznej inteligencji na dużą skalę.

---

Bądź na Bieżąco z AI

Najnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.

Czytaj więcej wiadomości AI →