MLCommons zveřejnilo výsledky benchmarku MLPerf Inference v6.1 16. září 2026 a titulek patřil platformě nové generace NVIDIA. Systém Vera Rubin NVL72 ve svém historicky prvním náhledu poskytl až 3,7krát vyšší propustnost než aktuální vlajková loď NVIDIA GB300 NVL72, podle oznámení společnosti NVIDIA, což je časný signál toho, co bude nástupce Blackwell Ultra znamenat pro ekonomiku inference AI.
Vera Rubin je další platforma datového centra NVIDIA, pojmenovaná po astrofyzikovi, který poskytl klíčové důkazy pro temnou hmotu. Výsledky náhledu MLPerf jsou prvními veřejnými, nezávisle organizovanými daty o výkonu systému. For more context on this story, see our ongoing more AI stories.
Čísla stojící za debutem
Společnost NVIDIA předložila výsledky náhledu Vera Rubin NVL72 pro dvě nejnáročnější pracovní zátěže v sadě v6.1: model uvažování DeepSeek-R1 a model vizuálního jazyka Qwen3-VL.
Vera Rubin NVL72 na Qwen3-VL poskytla až 3,7krát vyšší propustnost než GB300 NVL72 v offline, serverových a interaktivních scénářích a provozovala vLLM s otevřeným zdrojovým rámcem NVIDIA Dynamo. Na DeepSeek-R1 s použitím knihovny TensorRT-LLM NVIDIA byla propustnost až 2,5krát vyšší než u předchozí vlajkové lodi.
Obě čísla pocházejí z vlastních příspěvků společnosti NVIDIA pro uzavřenou divizi MLCommons, což znamená, že byly vytvořeny podle auditovaných pravidel společnosti MLPerf, ačkoli výsledky náhledu jsou explicitně ranými měřeními platformy, která se stále optimalizuje.
Jak se tvoří zisky
NVIDIA přisuzuje tento skok spíše společnému navrhování celého hardwaru a softwaru než jakékoli jednotlivé součásti.
Na straně křemíku přináší Vera Rubin vylepšená jádra Tensor Cores a aktualizovaný Transformer Engine, které urychlují obě fáze inference – fázi předvyplnění náročné na výpočet a fázi dekódování vázanou na paměť. Platforma se opírá o přesnost NVFP4, která zmenšuje paměťovou stopu hmotností modelů, pozornosti a mezipaměti KV, čímž zvyšuje propustnost s tím, co NVIDIA popisuje jako minimální ztrátu kvality výstupu.
Pokud jde o software, příspěvky využívaly rozčleněné podávání, které odděluje předvyplnění a dekódování na různé úkoly, spolu s rozsáhlým paralelním expertem, aby se vrstvy smíšených odborníků v modelech jako DeepSeek-R1 a Qwen3-VL plně zásobily prací.
Propojení je třetím pilířem. Rackový design NVL72 spojuje 72 GPU do jediné škálovatelné domény pomocí šesté generace NVLink a NVLink Switch, které podle NVIDIA poskytují 10krát vyšší paketové rychlosti a 3krát nižší latenci než standardní Ethernet – základ, díky kterému je dezagregované poskytování v rackovém měřítku praktické.
GB300 ukazuje téměř dokonalé měřítko
Současná vlajková loď měla v kole v6.1 své vlastní novinky. Podání NVIDIA DeepSeek-R1 bylo škálováno z jednoho stojanu GB300 NVL72 – 72 GPU – na čtyři stojany, 288 GPU, čímž bylo dosaženo 99procentní efektivity škálování v offline scénáři, přičemž propustnost rostla téměř úměrně přidanému hardwaru.
Efektivita škálování je metrikou, kterou operátoři datových center pozorně sledují, protože určuje, zda nákup dalšího hardwaru skutečně úměrně zvýší kapacitu. Téměř lineární škálování napříč stojany naznačuje, že úzkým hrdlem v tomto měřítku zůstává výkon na GPU spíše než komunikace mezi stojany.
Software se neustále skládá
Opakující se vzorec v kolech MLPerf se opět udržel: samotná vylepšení softwaru přinesla až 1,6krát vyšší výkon v NVIDIA v6.1 ve srovnání s v6.0 a společnost říká, že optimalizace pokračovaly i po termínu odevzdání v6.1, což přináší další zisky.
Pro kupující z toho vyplývá, že daný stojan se během své životnosti zrychlí bez obnovy hardwaru – dynamická NVIDIA tvrdí, že její instalovaná základna se s dozráváním softwarového balíku spíše oceňuje, než znehodnocuje.
Pracovní zátěž agentů Přetvářejte benchmarky
Kolo v6.1 také odráželo posun v tom, k čemu se používá odvození. NVIDIA poukázala na předběžné testování v benchmarku AgentX společnosti SemiAnalysis, navrženém pro agenty AI, kteří uvažují, plánují a jednají v několika krocích, kde uvádí, že Vera Rubin NVL72 poskytl 30krát vyšší výkon než GB300 NVL72.
MLCommons také připravuje speciální benchmark pro tento posun: nadcházející benchmark MLPerf Endpoints má za cíl standardizovat měření zátěže agentních inferencí, které tradiční testy propustnosti zachycují špatně. Jak se odvození přesouvá od chatu s jedinou výzvou k dlouhým vícekrokovým relacím agentů, na latenci a interaktivní konzistenci záleží stejně jako na nezpracovaných tokenech za sekundu – a podle toho se přestavují benchmarky.
Nebius a ekosystém dorazí brzy
Poskytovatel cloudu Nebius také předložil výsledky náhledu Vera Rubin NVL72, které NVIDIA zdůraznila jako důkaz silného raného výkonu ekosystému. Včasné příspěvky třetích stran jsou obvykle známkou toho, že systémy nové generace přecházejí od laboratorního vzorkování k širší dostupnosti, ačkoli ani příspěvek NVIDIA, ani vydání MLCommons neuvádí načasování obecné dostupnosti.
Proč je to pro ekonomiku umělé inteligence důležité
NVIDIA dává výsledky do rámce výnosů: každý stojan Vera Rubin NVL72 generuje výrazně více tokenů, obsluhuje více uživatelů a snižuje náklady na token v porovnání s rackem GB300 NVL72. V odvětví, kde je poptávka po odvození poháněna modely uvažování a pracovní zátěží agentů, které spotřebovávají řádově více výpočtů na dotaz než jednoduchý chat, je propustnost na rack číslo, které určuje, kolika uživatelům může pevný rozpočet datového centra obsloužit.
Platí obvyklá upozornění: jedná se o návrhy dodavatelů v kole náhledu na dvou modelech vybraných společností NVIDIA, přičemž optimalizace stále přistávají. Směr je ale jednoznačný. První pohled MLPerf na Vera Rubin naznačuje, že nárůst výkonu, který definoval infrastrukturu AI od roku 2023, nemá v dohledu žádnou plošinu – a že další cyklus obnovy racku opět resetuje ekonomiku poskytování AI ve velkém měřítku.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
