MLCommons mengeluarkan keputusan penanda aras MLPerf Inference v6.1 pada 16 September 2026, dan tajuk tersebut adalah milik platform generasi seterusnya NVIDIA. Dalam penyerahan pratonton pertamanya, sistem Vera Rubin NVL72 menyampaikan sehingga 3.7 kali ganda daya pengeluaran perdana semasa NVIDIA GB300 NVL72, menurut pengumuman NVIDIA, isyarat awal tentang makna pengganti Blackwell Ultra untuk ekonomi inferens AI.
Vera Rubin ialah platform pusat data NVIDIA yang seterusnya, dinamakan untuk ahli astrofizik yang memberikan bukti utama untuk jirim gelap. Keputusan pratonton MLPerf ialah data prestasi awam pertama yang dianjurkan secara bebas untuk sistem. For more context on this story, see our ongoing artificial intelligence updates.
Nombor Di Sebalik Debut
NVIDIA menyerahkan hasil pratonton Vera Rubin NVL72 pada dua daripada beban kerja yang paling mencabar dalam suite v6.1: model penaakulan DeepSeek-R1 dan model bahasa penglihatan Qwen3-VL.
Pada Qwen3-VL, Vera Rubin NVL72 menyampaikan daya pemprosesan sehingga 3.7 kali lebih tinggi daripada GB300 NVL72 merentas senario luar talian, pelayan dan interaktif, menjalankan vLLM dengan rangka kerja inferens sumber terbuka Dynamo NVIDIA. Pada DeepSeek-R1, menggunakan perpustakaan TensorRT-LLM NVIDIA, daya pengeluaran adalah sehingga 2.5 kali lebih tinggi daripada perdana sebelumnya.
Kedua-dua angka itu datang daripada penyerahan NVIDIA sendiri kepada Bahagian Tertutup MLCommons, bermakna ia dihasilkan di bawah peraturan diaudit MLPerf, walaupun hasil pratonton secara jelas adalah ukuran awal platform yang masih dioptimumkan.
Bagaimana Keuntungan Dibina
NVIDIA mengaitkan lompatan kepada reka bentuk bersama timbunan penuh merentas perkakasan dan perisian dan bukannya mana-mana komponen tunggal.
Dari segi silikon, Vera Rubin membawa Teras Tensor yang dipertingkatkan dan Enjin Transformer yang dikemas kini yang mempercepatkan kedua-dua peringkat inferens — fasa praisi berat pengiraan dan fasa penyahkod terikat memori. Platform ini bersandar pada ketepatan NVFP4, yang mengecilkan jejak memori berat model, perhatian dan cache KV, meningkatkan daya tampung dengan apa yang disifatkan NVIDIA sebagai kehilangan kualiti output yang minimum.
Dari segi perisian, penyerahan menggunakan hidangan terpisah, yang memisahkan praisi dan menyahkod pada tugasan yang berbeza, bersama-sama dengan keselarian pakar berskala besar untuk memastikan lapisan campuran pakar dalam model seperti DeepSeek-R1 dan Qwen3-VL diisi sepenuhnya dengan kerja.
Sambungan adalah tiang ketiga. Reka bentuk rak NVL72 mengikat 72 GPU ke dalam domain skala tunggal menggunakan NVLink dan NVLink Switch generasi keenam, yang menurut NVIDIA memberikan kadar paket 10 kali lebih tinggi dan kependaman 3 kali lebih rendah daripada Ethernet di luar rak — asas yang menjadikan penyajian terpisah skala rak praktikal.
GB300 Menunjukkan Penskalaan Hampir-Sempurna
Perdana semasa mempunyai berita tersendiri dalam pusingan v6.1. Penyerahan DeepSeek-R1 NVIDIA berskala daripada rak GB300 NVL72 tunggal — 72 GPU — kepada empat rak, 288 GPU, mencapai kecekapan penskalaan 99 peratus dalam senario luar talian, dengan daya pengeluaran meningkat hampir berkadar dengan perkakasan yang ditambah.
Kecekapan penskalaan ialah pengendali pusat data metrik memantau dengan teliti kerana ia menentukan sama ada membeli lebih banyak perkakasan sebenarnya membeli lebih banyak kapasiti secara berkadar. Penskalaan hampir linear merentas rak menunjukkan kesesakan pada skala ini kekal pada prestasi per-GPU dan bukannya komunikasi antara rak.
Perisian Terus Mengkompaun
Corak berulang dalam pusingan MLPerf diadakan semula: penambahbaikan perisian sahaja memberikan prestasi sehingga 1.6 kali lebih tinggi dalam penyerahan v6.1 NVIDIA berbanding dengan v6.0, dan syarikat itu berkata pengoptimuman terus mendarat selepas tarikh akhir penyerahan v6.1, memberikan keuntungan selanjutnya.
Bagi pembeli, implikasinya ialah rak yang diberikan menjadi lebih pantas sepanjang hayatnya tanpa muat semula perkakasan - NVIDIA dinamik telah digunakan untuk berhujah bahawa pangkalan yang dipasangnya menghargai dan bukannya susut nilai apabila timbunan perisian matang.
Beban Kerja Agentik Bentuk Semula Penanda Aras
Pusingan v6.1 juga mencerminkan anjakan dalam inferens yang digunakan. NVIDIA menunjukkan ujian pratonton pada penanda aras AgentX SemiAnalysis, yang direka di sekitar ejen AI yang menaakul, merancang dan bertindak merentasi pelbagai langkah, di mana ia mengatakan Vera Rubin NVL72 menyampaikan 30 kali ganda prestasi GB300 NVL72.
MLCommons juga sedang menyediakan penanda aras khusus untuk anjakan ini: penanda aras MLPerf Endpoints yang akan datang bertujuan untuk menyeragamkan pengukuran beban kerja inferens agen yang tidak dapat ditangkap oleh ujian pemprosesan tradisional. Apabila inferens beralih daripada sembang segera ke arah sesi ejen berbilang langkah yang panjang, kependaman dan konsistensi interaktif penting seperti token mentah sesaat — dan penanda aras sedang dibina semula dengan sewajarnya.
Nebius dan Ekosistem Tiba Awal
Pembekal awan Nebius turut menyerahkan hasil pratonton Vera Rubin NVL72, yang diserlahkan NVIDIA sebagai bukti prestasi ekosistem awal yang kukuh. Penyerahan awal pihak ketiga lazimnya merupakan tanda bahawa sistem generasi akan datang beralih daripada pensampelan makmal ke arah ketersediaan yang lebih luas, walaupun siaran NVIDIA mahupun keluaran MLCommons tidak menentukan masa ketersediaan umum.
Mengapa Ia Penting untuk Ekonomi AI
NVIDIA merangka keputusan dalam terma hasil: setiap rak Vera Rubin NVL72 menjana lebih banyak token, memberi perkhidmatan kepada lebih ramai pengguna dan mengurangkan kos setiap token berbanding rak GB300 NVL72. Dalam industri yang permintaan inferens didorong oleh model penaakulan dan beban kerja ejen yang menggunakan urutan magnitud lebih banyak pengiraan bagi setiap pertanyaan berbanding sembang mudah, daya pemprosesan setiap rak ialah nombor yang menentukan bilangan pengguna yang boleh disediakan oleh belanjawan pusat data tetap.
Kaveat biasa dikenakan: ini adalah penyerahan vendor dalam pusingan pratonton, pada dua model yang dipilih oleh NVIDIA, dengan pengoptimuman masih mendarat. Tetapi arahnya tidak jelas. Pandangan pertama MLPerf pada Vera Rubin mencadangkan pendakian prestasi yang telah mentakrifkan infrastruktur AI sejak 2023 tidak kelihatan dataran tinggi — dan kitaran penyegaran rak seterusnya sekali lagi akan menetapkan semula ekonomi perkhidmatan AI pada skala.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
