MLCommons ने 16 सितंबर, 2026 को MLPerf Inference v6.1 बेंचमार्क परिणाम जारी किए और शीर्षक NVIDIA के अगली पीढ़ी के प्लेटफॉर्म से संबंधित था। NVIDIA की घोषणा के अनुसार, अपने पहले पूर्वावलोकन सबमिशन में, वेरा रुबिन NVL72 सिस्टम ने NVIDIA के वर्तमान GB300 NVL72 फ्लैगशिप के थ्रूपुट को 3.7 गुना तक पहुंचाया, जो कि AI अनुमान अर्थशास्त्र के लिए ब्लैकवेल अल्ट्रा के उत्तराधिकारी का एक प्रारंभिक संकेत होगा।

वेरा रुबिन NVIDIA का अगला डेटा-सेंटर प्लेटफ़ॉर्म है, जिसका नाम उस खगोल भौतिकीविद् के नाम पर रखा गया है जिसने डार्क मैटर के लिए महत्वपूर्ण साक्ष्य प्रदान किए थे। MLPerf पूर्वावलोकन परिणाम सिस्टम के लिए पहला सार्वजनिक, स्वतंत्र रूप से व्यवस्थित प्रदर्शन डेटा हैं। For more context on this story, see our ongoing more AI stories.

डेब्यू के पीछे के नंबर

NVIDIA ने v6.1 सुइट में दो सबसे अधिक मांग वाले वर्कलोड पर वेरा रुबिन NVL72 पूर्वावलोकन परिणाम प्रस्तुत किए: डीपसीक-आर1 रीजनिंग मॉडल और क्यूवेन3-वीएल विज़न-लैंग्वेज मॉडल।

Qwen3-VL पर, वेरा रुबिन NVL72 ऑफ़लाइन, सर्वर और इंटरैक्टिव परिदृश्यों में GB300 NVL72 की तुलना में 3.7 गुना अधिक थ्रूपुट प्रदान करता है, जो NVIDIA के डायनेमो ओपन-सोर्स इंट्रेंस फ्रेमवर्क के साथ vLLM चलाता है। DeepSeek-R1 पर, NVIDIA की TensorRT-LLM लाइब्रेरी का उपयोग करते हुए, थ्रूपुट पिछले फ्लैगशिप की तुलना में 2.5 गुना अधिक था।

दोनों आंकड़े NVIDIA के स्वयं MLCommons के क्लोज्ड डिवीजन में प्रस्तुतीकरण से आते हैं, जिसका अर्थ है कि वे MLPerf के ऑडिटेड नियमों के तहत तैयार किए गए थे, हालांकि पूर्वावलोकन परिणाम स्पष्ट रूप से एक प्लेटफ़ॉर्म के शुरुआती माप हैं जिन्हें अभी भी अनुकूलित किया जा रहा है।

लाभ कैसे निर्मित होते हैं

NVIDIA किसी एकल घटक के बजाय हार्डवेयर और सॉफ्टवेयर में फुल-स्टैक सह-डिज़ाइन को बढ़ावा देता है।

सिलिकॉन पक्ष पर, वेरा रुबिन उन्नत टेन्सर कोर और एक अद्यतन ट्रांसफार्मर इंजन लाता है जो अनुमान के दोनों चरणों को तेज करता है - गणना-भारी प्रीफिल चरण और मेमोरी-बाउंड डिकोड चरण। प्लेटफ़ॉर्म NVFP4 परिशुद्धता पर निर्भर करता है, जो मॉडल वजन, ध्यान और केवी कैश की मेमोरी फ़ुटप्रिंट को सिकोड़ता है, जिससे एनवीआईडीआईए आउटपुट गुणवत्ता के न्यूनतम नुकसान के रूप में वर्णित थ्रूपुट को बढ़ाता है।

सॉफ़्टवेयर पक्ष पर, सबमिशन में अलग-अलग सेवा का उपयोग किया गया, जो डीपसीक-आर 1 और क्यूवेन 3-वीएल जैसे मॉडलों में विशेषज्ञों के मिश्रण की परतों को पूरी तरह से काम में रखने के लिए बड़े पैमाने पर विशेषज्ञ समानता के साथ-साथ विभिन्न कार्यों पर प्रीफ़िल और डीकोड को अलग करता है।

इंटरकनेक्ट तीसरा स्तंभ है। NVL72 रैक डिज़ाइन छठी पीढ़ी के NVLink और NVLink स्विच का उपयोग करके 72 GPU को एकल स्केल-अप डोमेन में जोड़ता है, जिसके बारे में NVIDIA का कहना है कि यह ऑफ-द-शेल्फ ईथरनेट की तुलना में 10 गुना अधिक पैकेट दर और 3 गुना कम विलंबता प्रदान करता है - वह आधार जो रैक-स्केल अलग-अलग सेवा को व्यावहारिक बनाता है।

GB300 लगभग पूर्ण स्केलिंग दिखाता है

मौजूदा फ्लैगशिप की v6.1 राउंड में अपनी खबर थी। NVIDIA के डीपसीक-आर1 सबमिशन को एक जीबी300 एनवीएल72 रैक - 72 जीपीयू - से बढ़ाकर चार रैक, 288 जीपीयू तक किया गया, जिससे ऑफ़लाइन परिदृश्य में 99 प्रतिशत स्केलिंग दक्षता प्राप्त हुई, जिसमें जोड़े गए हार्डवेयर के अनुपात में थ्रूपुट लगभग बढ़ गया।

स्केलिंग दक्षता एक मीट्रिक डेटा-सेंटर ऑपरेटर है जिसे बारीकी से देखा जाता है क्योंकि यह निर्धारित करता है कि अधिक हार्डवेयर खरीदने से वास्तव में आनुपातिक रूप से अधिक क्षमता खरीदी जाती है या नहीं। रैक में लगभग-रेखीय स्केलिंग से पता चलता है कि इस पैमाने पर बाधा अंतर-रैक संचार के बजाय प्रति-जीपीयू प्रदर्शन बनी हुई है।

सॉफ्टवेयर कंपाउंडिंग करता रहता है

MLPerf राउंड में एक आवर्ती पैटर्न फिर से आयोजित किया गया: अकेले सॉफ़्टवेयर सुधारों ने v6.0 की तुलना में NVIDIA के v6.1 सबमिशन में 1.6 गुना अधिक प्रदर्शन प्रदान किया, और कंपनी का कहना है कि v6.1 सबमिशन की समय सीमा के बाद भी अनुकूलन जारी रहा, जिससे और अधिक लाभ हुआ।

खरीदारों के लिए, निहितार्थ यह है कि एक दिया गया रैक हार्डवेयर रिफ्रेश के बिना अपने जीवनकाल में तेजी से बढ़ता है - एक गतिशील एनवीआईडीआईए ने तर्क दिया है कि सॉफ्टवेयर स्टैक परिपक्व होने के कारण इसका स्थापित आधार मूल्यह्रास के बजाय सराहना करता है।

एजेंट का कार्यभार बेंचमार्क को नया आकार देता है

V6.1 राउंड ने यह भी दर्शाया कि किस अनुमान के लिए उपयोग किया जा रहा है। एनवीआईडीआईए ने सेमीएनालिसिस के एजेंटएक्स बेंचमार्क पर पूर्वावलोकन परीक्षण की ओर इशारा किया, जिसे एआई एजेंटों के आसपास डिज़ाइन किया गया है जो कई चरणों में तर्क, योजना और कार्य करते हैं, जहां यह कहता है कि वेरा रुबिन एनवीएल72 ने जीबी300 एनवीएल72 के प्रदर्शन से 30 गुना अधिक प्रदर्शन किया।

एमएलकॉमन्स इस बदलाव के लिए एक समर्पित बेंचमार्क भी तैयार कर रहा है: आगामी एमएलपर्फ एंडपॉइंट बेंचमार्क का उद्देश्य एजेंटिक अनुमान वर्कलोड के माप को मानकीकृत करना है जो पारंपरिक थ्रूपुट परीक्षण खराब तरीके से कैप्चर करते हैं। जैसे-जैसे निष्कर्ष एकल-प्रॉम्प्ट चैट से लंबे मल्टी-स्टेप एजेंट सत्रों की ओर बढ़ता है, विलंबता और इंटरैक्टिव स्थिरता उतनी ही मायने रखती है जितनी प्रति सेकंड कच्चे टोकन - और तदनुसार बेंचमार्क का पुनर्निर्माण किया जा रहा है।

नेबियस और पारिस्थितिकी तंत्र जल्दी पहुंचे

क्लाउड प्रदाता नेबियस ने वेरा रुबिन एनवीएल72 पूर्वावलोकन परिणाम भी प्रस्तुत किए, जिसे एनवीआईडीआईए ने मजबूत प्रारंभिक पारिस्थितिकी तंत्र प्रदर्शन के प्रमाण के रूप में उजागर किया। प्रारंभिक तृतीय-पक्ष प्रस्तुतियाँ आम तौर पर एक संकेत है कि अगली पीढ़ी के सिस्टम प्रयोगशाला नमूने से व्यापक उपलब्धता की ओर बढ़ रहे हैं, हालांकि न तो एनवीआईडीआईए की पोस्ट और न ही एमएलकॉमन्स की रिलीज सामान्य-उपलब्धता समय निर्दिष्ट करती है।

एआई अर्थशास्त्र के लिए यह क्यों मायने रखता है

NVIDIA परिणामों को राजस्व के संदर्भ में तैयार करता है: प्रत्येक वेरा रुबिन NVL72 रैक काफी अधिक टोकन उत्पन्न करता है, अधिक उपयोगकर्ताओं को सेवा प्रदान करता है और GB300 NVL72 रैक के सापेक्ष प्रति टोकन लागत कम करता है। ऐसे उद्योग में जहां अनुमान की मांग तर्क मॉडल और एजेंट वर्कलोड द्वारा संचालित की जा रही है जो साधारण चैट की तुलना में प्रति क्वेरी अधिक गणना के आदेशों का उपभोग करती है, प्रति-रैक थ्रूपुट वह संख्या है जो निर्धारित करती है कि एक निश्चित डेटा-सेंटर बजट कितने उपयोगकर्ताओं को सेवा दे सकता है।

सामान्य चेतावनियाँ लागू होती हैं: ये NVIDIA द्वारा चुने गए दो मॉडलों पर पूर्वावलोकन दौर में विक्रेता प्रस्तुतियाँ हैं, जिनमें अनुकूलन अभी भी उतर रहे हैं। लेकिन दिशा स्पष्ट है. वेरा रुबिन पर MLPerf की पहली नज़र से पता चलता है कि 2023 के बाद से AI बुनियादी ढांचे को परिभाषित करने वाले प्रदर्शन में कोई पठार नहीं दिख रहा है - और अगला रैक-रिफ्रेश चक्र फिर से AI को बड़े पैमाने पर सेवा देने के अर्थशास्त्र को रीसेट कर देगा।

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →