MLCommons, 16 Eylül 2026'da MLPerf Inference v6.1 kıyaslama sonuçlarını yayınladı ve başlık NVIDIA'nın yeni nesil platformuna aitti. Vera Rubin NVL72 sistemi, ilk ön izleme sunumunda NVIDIA'nın mevcut GB300 NVL72 amiral gemisinden 3,7 kat daha fazla verim sağladı; NVIDIA'nın duyurusuna göre bu, Blackwell Ultra'nın halefinin yapay zeka çıkarım ekonomisi için ne anlama geleceğine dair erken bir sinyal.

Vera Rubin, NVIDIA'nın bir sonraki veri merkezi platformudur ve adını karanlık madde için önemli kanıtlar sağlayan astrofizikçiden almıştır. MLPerf önizleme sonuçları, sistem için ilk halka açık, bağımsız olarak düzenlenen performans verileridir. For more context on this story, see our ongoing more AI stories.

İlk Çıkışın Arkasındaki Rakamlar

NVIDIA, v6.1 paketindeki en zorlu iki iş yüküne ilişkin Vera Rubin NVL72 önizleme sonuçlarını sundu: DeepSeek-R1 akıl yürütme modeli ve Qwen3-VL görüş dili modeli.

Qwen3-VL'de Vera Rubin NVL72, vLLM'yi NVIDIA'nın Dynamo açık kaynak çıkarım çerçevesiyle çalıştırarak çevrimdışı, sunucu ve etkileşimli senaryolarda GB300 NVL72'den 3,7 kata kadar daha yüksek verim sağladı. NVIDIA'nın TensorRT-LLM kütüphanesini kullanan DeepSeek-R1'de verim, önceki amiral gemisine göre 2,5 kata kadar daha yüksekti.

Her iki rakam da NVIDIA'nın MLCommons'un Kapalı Bölümüne sunduğu gönderimlerden geliyor; bu da bunların MLPerf'in denetlenen kuralları kapsamında üretildiği anlamına geliyor; ancak ön izleme sonuçları açıkça hala optimize edilmekte olan bir platformun erken ölçümleridir.

Kazanımlar Nasıl Oluşturulur?

NVIDIA bu sıçramayı tek bir bileşenden ziyade donanım ve yazılım genelinde tam yığın ortak tasarıma bağlıyor.

Silikon tarafında Vera Rubin, çıkarımın her iki aşamasını da (bilgi işlem ağırlıklı ön doldurma aşaması ve belleğe bağlı kod çözme aşaması) hızlandıran gelişmiş Tensör Çekirdekleri ve güncellenmiş bir Transformer Engine getiriyor. Platform, model ağırlıklarının, dikkatin ve KV önbelleğinin bellek alanını daraltan ve NVIDIA'nın minimum çıktı kalitesi kaybı olarak tanımladığı şekilde verimi artıran NVFP4 hassasiyetine dayanıyor.

Yazılım tarafında, gönderimler, DeepSeek-R1 ve Qwen3-VL gibi modellerdeki uzmanların karışımı katmanlarını tamamen işle beslemek için büyük ölçekli uzman paralelliğinin yanı sıra, ön doldurma ve kod çözmeyi farklı görevlere ayıran ayrıştırılmış sunum kullandı.

Ara bağlantı üçüncü sütundur. NVL72 raf tasarımı, altıncı nesil NVLink ve NVLink Switch'i kullanarak 72 GPU'yu ölçeklenebilir tek bir etki alanına bağlar; NVIDIA'nın söylediğine göre, raf ölçeğinde ayrıştırılmış hizmeti pratik hale getiren temel, kullanıma hazır Ethernet'ten 10 kat daha yüksek paket hızları ve 3 kat daha düşük gecikme süresi sağlar.

GB300 Mükemmele Yakın Ölçeklendirme Gösteriyor

Mevcut amiral gemisinin v6.1 turunda kendi haberleri vardı. NVIDIA'nın DeepSeek-R1 gönderimi, tek bir GB300 NVL72 rafından (72 GPU) dört rafa, 288 GPU'ya ölçeklendirildi ve çevrimdışı senaryoda yüzde 99 ölçeklendirme verimliliği elde edildi ve verim neredeyse eklenen donanımla orantılı olarak arttı.

Ölçeklendirme verimliliği, veri merkezi operatörlerinin yakından izlediği bir ölçümdür çünkü daha fazla donanım satın almanın aslında orantılı olarak daha fazla kapasite satın alıp almadığını belirler. Raflar arasında doğrusala yakın ölçeklendirme, bu ölçekteki darboğazın raflar arası iletişim yerine GPU başına performansta devam ettiğini gösteriyor.

Yazılım Birleşmeyi Sürdürüyor

MLPerf turlarında yinelenen bir model yeniden düzenlendi: Yazılım iyileştirmeleri tek başına NVIDIA'nın v6.1 gönderimlerinde v6.0'a kıyasla 1,6 kata kadar daha yüksek performans sağladı ve şirket, optimizasyonların v6.1 gönderim son tarihinden sonra da artmaya devam ederek daha fazla kazanç sağladığını söylüyor.

Alıcılar için bunun anlamı, belirli bir rafın, donanım yenilemesi olmadan kullanım ömrü boyunca daha hızlı olduğudur; dinamik bir NVIDIA, yazılım yığını olgunlaştıkça kurulu tabanının değer kaybetmek yerine değer kazandığını iddia ederdi.

Temsilci İş Yükleri Karşılaştırmaları Yeniden Şekillendiriyor

V6.1 turu aynı zamanda çıkarımın ne için kullanıldığına dair bir değişikliği de yansıtıyordu. NVIDIA, Vera Rubin NVL72'nin GB300 NVL72'den 30 kat daha fazla performans sağladığını söyleyen, birden fazla adımda akıl yürüten, planlayan ve hareket eden yapay zeka aracıları etrafında tasarlanan SemiAnalytics AgentX kıyaslamasında ön izleme testine dikkat çekti.

MLCommons ayrıca bu değişim için özel bir kıyaslama hazırlıyor: Yaklaşan MLPerf Endpoints kıyaslaması, geleneksel üretim testlerinin zayıf bir şekilde yakaladığı aracı çıkarım iş yüklerinin ölçümünü standartlaştırmayı amaçlıyor. Çıkarım, tek istemli sohbetten uzun, çok adımlı temsilci oturumlarına doğru ilerledikçe, gecikme ve etkileşimli tutarlılık, saniye başına ham belirteçler kadar önemlidir ve karşılaştırmalar buna göre yeniden oluşturulmaktadır.

Nebius ve Ekosistem Erken Geliyor

Bulut sağlayıcısı Nebius ayrıca Vera Rubin NVL72 önizleme sonuçlarını da sundu; NVIDIA bunları güçlü erken ekosistem performansının kanıtı olarak vurguladı. Üçüncü tarafların erken başvuruları, genellikle yeni nesil sistemlerin laboratuvar örneklemesinden daha geniş kullanılabilirliğe doğru ilerlediğinin bir işaretidir; ancak ne NVIDIA'nın gönderisi ne de MLCommons'un sürümü genel kullanılabilirlik zamanlamasını belirtmez.

Yapay Zeka Ekonomisi İçin Neden Önemli?

NVIDIA, sonuçları gelir açısından çerçeveliyor: Her Vera Rubin NVL72 rafı, GB300 NVL72 rafına kıyasla önemli ölçüde daha fazla token üretiyor, daha fazla kullanıcıya hizmet veriyor ve token başına maliyeti düşürüyor. Çıkarım talebinin, basit sohbetten çok sorgu başına daha fazla işlem tüketen muhakeme modelleri ve aracı iş yükleri tarafından yönlendirildiği bir sektörde, raf başına üretim, sabit bir veri merkezi bütçesinin kaç kullanıcıya hizmet verebileceğini belirleyen sayıdır.

Her zamanki uyarılar geçerlidir: Bunlar, NVIDIA tarafından seçilen iki model üzerinde, optimizasyonların hala devam ettiği bir ön izleme turundaki satıcı gönderimleridir. Ancak yön açıktır. MLPerf'in Vera Rubin'e ilk bakışı, 2023'ten bu yana yapay zeka altyapısını belirleyen performans artışının görünürde herhangi bir duraklama olmadığını ve bir sonraki raf yenileme döngüsünün, yapay zeka hizmetinin ekonomisini geniş ölçekte yeniden sıfırlayacağını öne sürüyor.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →