MLCommons heeft de MLPerf Inference v6.1-benchmarkresultaten op 16 september 2026 vrijgegeven en de kop behoorde tot NVIDIA's volgende generatie platform. In zijn allereerste preview-inzending leverde het Vera Rubin NVL72-systeem tot 3,7 keer de doorvoersnelheid van NVIDIA's huidige GB300 NVL72-vlaggenschip, volgens de aankondiging van NVIDIA, een vroeg signaal van wat de opvolger van Blackwell Ultra zal betekenen voor de AI-inferentie-economie.
Vera Rubin is het volgende datacenterplatform van NVIDIA, genoemd naar de astrofysicus die belangrijk bewijs leverde voor donkere materie. De MLPerf-previewresultaten zijn de eerste openbare, onafhankelijk georganiseerde prestatiegegevens voor het systeem. Voor meer context over dit verhaal, zie ons laatste AI-ontwikkelingen.
De cijfers achter het debuut
NVIDIA heeft Vera Rubin NVL72 preview-resultaten ingediend voor twee van de meest veeleisende workloads in de v6.1-suite: het DeepSeek-R1-redeneringsmodel en het Qwen3-VL vision-taalmodel.
Op Qwen3-VL leverde Vera Rubin NVL72 een tot 3,7 keer hogere doorvoer dan GB300 NVL72 in offline-, server- en interactieve scenario's, waarbij vLLM werd uitgevoerd met NVIDIA's Dynamo open-source inferentieframework. Op DeepSeek-R1, met behulp van NVIDIA's TensorRT-LLM-bibliotheek, was de doorvoer tot 2,5 keer hoger dan die van het vorige vlaggenschip.
Beide cijfers zijn afkomstig van NVIDIA's eigen inzendingen bij de Closed Division van MLCommons, wat betekent dat ze zijn geproduceerd onder de gecontroleerde regels van MLPerf, hoewel de preview-resultaten expliciet vroege metingen zijn van een platform dat nog steeds wordt geoptimaliseerd.
Hoe de winsten worden opgebouwd
NVIDIA schrijft de sprong toe aan full-stack co-design voor hardware en software in plaats van voor één enkel onderdeel.
Aan de siliciumkant brengt Vera Rubin verbeterde Tensor Cores en een bijgewerkte Transformer Engine die beide stadia van gevolgtrekking versnellen: de rekenintensieve prefill-fase en de geheugengebonden decodeerfase. Het platform leunt op NVFP4-precisie, waardoor de geheugenvoetafdruk van modelgewichten, aandacht en de KV-cache kleiner wordt, waardoor de doorvoer toeneemt met wat NVIDIA beschrijft als minimaal verlies aan uitvoerkwaliteit.
Aan de softwarekant maakten de inzendingen gebruik van gedesaggregeerde weergave, waarbij het vooraf invullen en decoderen op verschillende taken wordt gescheiden, samen met grootschalig expert-parallellisme om de mix van experts-lagen in modellen als DeepSeek-R1 en Qwen3-VL volledig gevoed te houden met werk.
De interconnectie is de derde pijler. Het NVL72-rackontwerp verbindt 72 GPU's in één enkel opschaaldomein met behulp van NVLink en NVLink Switch van de zesde generatie, die volgens NVIDIA 10 keer hogere pakketsnelheden en 3 keer lagere latentie leveren dan standaard Ethernet - de basis die gedesaggregeerde dienstverlening op rackschaal praktisch maakt.
GB300 toont bijna perfecte schaling
Het huidige vlaggenschip had zijn eigen nieuws in de v6.1-ronde. NVIDIA's DeepSeek-R1-inzending schaalde op van een enkel GB300 NVL72-rack – 72 GPU's – naar vier racks, 288 GPU's, waarmee een schaalefficiëntie van 99 procent werd bereikt in het offline scenario, waarbij de doorvoer bijna evenredig groeide met de toegevoegde hardware.
Schaalefficiëntie is een maatstaf die datacenteroperators nauwlettend in de gaten houden, omdat het bepaalt of het kopen van meer hardware daadwerkelijk proportioneel meer capaciteit koopt. Bijna lineaire schaling over racks suggereert dat het knelpunt op deze schaal de prestaties per GPU blijft in plaats van communicatie tussen racks.
Software blijft zich ontwikkelen
Een terugkerend patroon in de MLPerf-rondes: softwareverbeteringen alleen al leverden tot 1,6 keer hogere prestaties op in NVIDIA's v6.1-inzendingen vergeleken met v6.0, en het bedrijf zegt dat optimalisaties na de indieningsdeadline van v6.1 bleven landen, wat nog meer winst opleverde.
Voor kopers is de implicatie dat een bepaald rack gedurende zijn levensduur sneller wordt zonder dat de hardware wordt vernieuwd. Een dynamische NVIDIA heeft gebruikt om te beweren dat de geïnstalleerde basis in waarde stijgt in plaats van in waarde daalt naarmate de softwarestack volwassener wordt.
Agentische workloads geven een nieuwe vorm aan de benchmarks
De v6.1-ronde weerspiegelde ook een verschuiving in waarvoor gevolgtrekkingen worden gebruikt. NVIDIA wees op preview-tests op de AgentX-benchmark van SemiAnalysis, ontworpen rond AI-agents die redeneren, plannen en handelen in meerdere stappen, waarbij wordt gezegd dat Vera Rubin NVL72 30 keer de prestaties leverde van GB300 NVL72.
MLCommons bereidt ook een speciale benchmark voor deze verschuiving voor: de komende MLPerf Endpoints-benchmark heeft tot doel de meting van agentische inferentie-workloads te standaardiseren die traditionele doorvoertests slecht vastleggen. Naarmate de inferentie zich verplaatst van chat met één prompt naar lange agentsessies met meerdere stappen, zijn latentie en interactieve consistentie net zo belangrijk als ruwe tokens per seconde – en worden benchmarks dienovereenkomstig opnieuw opgebouwd.
Nebius en het ecosysteem komen vroeg
Cloudprovider Nebius heeft ook preview-resultaten van Vera Rubin NVL72 ingediend, die NVIDIA benadrukte als bewijs van sterke vroege ecosysteemprestaties. Vroege inzendingen van derden zijn doorgaans een teken dat systemen van de volgende generatie overgaan van laboratoriumbemonstering naar bredere beschikbaarheid, hoewel noch het bericht van NVIDIA, noch de release van MLCommons de timing van de algemene beschikbaarheid specificeert.
Waarom het belangrijk is voor AI-economie
NVIDIA raamt de resultaten in omzettermen: elk Vera Rubin NVL72-rack genereert aanzienlijk meer tokens, bedient meer gebruikers en verlaagt de kosten per token in vergelijking met een GB300 NVL72-rack. In een sector waar de vraag naar gevolgtrekkingen wordt aangestuurd door redeneermodellen en werklasten van agenten die ordes van grootte meer rekenkracht per query verbruiken dan eenvoudige chat, is de doorvoer per rack het getal dat bepaalt hoeveel gebruikers een vast datacenterbudget kan bedienen.
De gebruikelijke kanttekeningen zijn van toepassing: dit zijn inzendingen van leveranciers in een preview-ronde, op twee door NVIDIA gekozen modellen, waarbij de optimalisaties nog steeds binnenkomen. Maar de richting is ondubbelzinnig. MLPerf's eerste blik op Vera Rubin suggereert dat de prestatiestijging die de AI-infrastructuur sinds 2023 heeft gedefinieerd geen plateau in zicht heeft – en dat de volgende rack-vernieuwingscyclus opnieuw de economie van het op schaal aanbieden van AI zal resetten.
---
Blijf Voorop met AIHet laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.
Lees meer AI-nieuws →
