एनवीडिया ने अपने ग्रोक 3 एलपीएक्स इंटरैक्टिव अनुमान त्वरक को पूर्ण उत्पादन में डाल दिया है, कंपनी ने 24 अगस्त, 2026 को हॉट चिप्स सम्मेलन के दौरान घोषणा की। चिप, एनवीडिया के वेरा रुबिन प्लेटफ़ॉर्म का एक विस्तार, सक्रिय 100,000-टोकन संदर्भ विंडो के साथ ओपन-सोर्स जेम्मा 4 31बी मॉडल को चलाने के दौरान कृत्रिम विश्लेषण बेंचमार्किंग में प्रति सेकंड रिकॉर्ड 3,400 आउटपुट टोकन प्रदान करता है - जो उस मॉडल के लिए अब तक का सबसे तेज़ प्रदर्शन दर्ज किया गया है।

यह लॉन्च एनवीडिया द्वारा अनुमान विशेषज्ञ ग्रोक के 20 बिलियन डॉलर के अधिग्रहण से अब तक का सबसे महत्वपूर्ण उत्पाद मील का पत्थर है, एक ऐसा सौदा जिसे कंपनी अब कम-विलंबता अनुमान वृद्धि की मांग के रूप में भुनाने के लिए आगे बढ़ रही है। सीएनबीसी ने बताया कि एनवीडिया का कहना है कि पहला ग्रोक रैक साल के अंत से पहले ऑनलाइन होगा। इस कहानी पर अधिक संदर्भ के लिए, हमारा चल रहा एआई उद्योग कवरेज देखें।

टोकन जनरेशन स्पीड क्यों मायने रखती है

एजेंटिक एआई सिस्टम - प्रोग्राम जो तर्क करते हैं, टूल को कॉल करते हैं, कोड लिखते हैं और परीक्षण करते हैं, और सैकड़ों या हजारों अनुमान चरणों में पुनरावृत्त करते हैं - भारी मात्रा में आउटपुट टोकन उत्पन्न करते हैं। जिस गति से उन टोकन का उत्पादन किया जाता है, जिसे इंटरैक्टिविटी या डिकोड थ्रूपुट के रूप में जाना जाता है, यह निर्धारित करता है कि एक एजेंट अपने काम के प्रत्येक चरण को कितनी जल्दी पूरा कर सकता है।

एनवीडिया का कहना है कि ग्रोक 3 एलपीएक्स निकटतम वैकल्पिक प्लेटफॉर्म की तुलना में एजेंटों और विलंबता-संवेदनशील वर्कलोड के लिए 4 गुना तेज प्रतिक्रिया प्रदान करता है। विषम तैनाती में, वेरा रुबिन एनवीएल72 सिस्टम संदर्भ अंतर्ग्रहण और प्रीफ़िल गणना को संभालते हैं, जबकि ग्रोक 3 एलपीएक्स इकाइयां विलंबता-संवेदनशील टोकन पीढ़ी चरण को संसाधित करती हैं।

एनवीडिया के संस्थापक और सीईओ जेन्सेन हुआंग ने घोषणा में कहा, "अनुमान एआई का विकास इंजन है।" "वेरा रुबिन एजेंटिक एआई के युग के लिए डिज़ाइन किए गए वर्कलोड-अनुकूलित एआई फ़ैक्टरी कॉन्फ़िगरेशन के साथ उस दृष्टि का विस्तार करता है, अल्ट्राफास्ट टोकन पीढ़ी के लिए एलपीएक्स के साथ प्रदर्शन सीमा को आगे बढ़ाता है।"

हार्डवेयर के अंदर

स्टोरेजरिव्यू के तकनीकी विश्लेषण के अनुसार, प्रत्येक 2यू लिक्विड-कूल्ड कंप्यूट ट्रे में एक होस्ट सीपीयू, फैब्रिक एक्सपेंशन लॉजिक और डीआरएएम के साथ-साथ एक ब्लूफील्ड -4 डीपीयू या एक कनेक्टएक्स-9 नेटवर्क कार्ड के साथ सोलह ग्रोक 3 एलपीयू होते हैं। ट्रे में फ्रंट पैनल पर 32 एलपीयू चिप-टू-चिप ऑप्टिकल लिंक और 400 जीबी/एस ईथरनेट की सुविधा है।

रैक स्केल पर, ग्रोक 3 एलपीएक्स परिनियोजन में उच्च गति, सीधे चिप-टू-चिप इंटरकनेक्ट के माध्यम से जुड़े 256 एलपी 30 एक्सेलेरेटर शामिल होते हैं। रैक एनवीडिया के व्यापक वेरा रुबिन एआई फैक्ट्री बुनियादी ढांचे में फिट होते हैं, जिसे कंपनी अपने अब तक के सबसे व्यापक प्लेटफॉर्म के रूप में वर्णित करती है: ब्लूफील्ड -4 डीपीयू, वेरा सीपीयू रैक, वेरा ब्लूफील्ड -4 एसटीएक्स स्टोरेज और स्पेक्ट्रम -6 एसपीएक्स ईथरनेट नेटवर्किंग सहित पांच उद्देश्य-निर्मित रैक कॉन्फ़िगरेशन में सात अलग-अलग चिप्स।

एनवीडिया ने अपने प्लेटफ़ॉर्म-स्तरीय प्रदर्शन दावों को भी ताज़ा किया, जिसमें कहा गया कि वेरा रुबिन एनवीएल72 140,000-टोकन एजेंटिक कोडिंग वर्कलोड पर जीबी300 एनवीएल72 की तुलना में प्रति मेगावाट 30 गुना तक टोकन थ्रूपुट प्रदान करता है, साथ ही प्रति-उपयोगकर्ता इंटरैक्टिविटी लक्ष्य बढ़ने के साथ लाभ भी बढ़ता है।

तारांकन चिह्न के साथ एक बेंचमार्क

शीर्षक 3,400 टोकन-प्रति-सेकंड का आंकड़ा ध्यान देने योग्य एक चेतावनी के साथ आता है। जैसा कि स्टोरेजरिव्यू ने बताया है, एनवीडिया का परिणाम 21 अगस्त को एक निजी प्री-रिलीज़ एंडपॉइंट पर मापा गया था, जबकि प्रतिस्पर्धी संख्याओं की तुलना लाइव सर्वर रहित उत्पादन एंडपॉइंट से की गई थी। आम तौर पर उपलब्ध सेवाओं पर वास्तविक दुनिया का प्रदर्शन रिकॉर्ड-सेटिंग बेंचमार्क कॉन्फ़िगरेशन से भिन्न हो सकता है।

फिर भी, स्वतंत्र बेंचमार्किंग संगठन आर्टिफिशियल एनालिसिस ने परिणाम को उस संदर्भ लंबाई में जेम्मा 4 31बी के लिए अब तक के सबसे तेज़ माप के रूप में दर्ज किया है, और अंतर्निहित दावा - कि उद्देश्य से निर्मित सिलिकॉन नाटकीय रूप से अनुमान के डिकोड चरण को तेज कर सकता है - इस बात से मेल खाता है कि उद्योग कैसे एजेंटिक वर्कलोड के लिए फिर से आर्किटेक्चर कर रहा है।

क्लाउड को अपनाना शुरू हुआ

नेबियस, एम्स्टर्डम-मुख्यालय वाला एआई क्लाउड, ग्रोक 3 एलपीएक्स को तैनात करने के लिए प्रतिबद्ध पहला प्रदाता है, जो इसे अपने उत्पादन अनुमान मंच नेबियस टोकन फैक्ट्री में लाने की योजना बना रहा है।

नेबियस के मुख्य प्रौद्योगिकी अधिकारी डेनिला शटन ने कहा, "जेनरेशन अनुमान का चरण है जो यह निर्धारित करता है कि एआई सिस्टम वास्तव में कितना उत्तरदायी है, और एनवीआईडीआईए ग्रोक 3 एलपीएक्स को तेजी लाने के लिए बनाया गया है।" "नेबियस टोकन फैक्ट्री के माध्यम से इसे उत्पादन में लाने वाले पहले एआई क्लाउड के रूप में, हम यह सुनिश्चित कर रहे हैं कि एजेंट के लूप का हर चरण तत्काल महसूस हो - उसी एपीआई के माध्यम से डेवलपर्स पहले से ही उपयोग कर रहे हैं, नए स्टैक पर कोई माइग्रेशन नहीं है।"

अनुमान प्रदाता ग्रोक, जो अब एनवीडिया परिवार का हिस्सा है, मंच को सबसे पहले अपनाने वालों में से एक बनने की योजना बना रहा है।

बड़ी तस्वीर

पूर्ण-उत्पादन घोषणा से संकेत मिलता है कि एआई बुनियादी ढांचे का बाजार प्रशिक्षण से अनुमान तक कितनी तेजी से आगे बढ़ा है। जैसे-जैसे उद्यम कच्चे मॉडल पूर्व-प्रशिक्षण से वास्तविक समय तर्क और स्वायत्त एजेंट ऑर्केस्ट्रेशन की ओर बजट स्थानांतरित करते हैं, एक टोकन का अर्थशास्त्र - यह कितनी तेजी से उत्पन्न किया जा सकता है और किस ऊर्जा लागत पर - केंद्रीय प्रतिस्पर्धी युद्ध का मैदान बन गया है।

एनवीडिया के लिए, ग्रोक 3 एलपीएक्स उस समय अपनी एआई फैक्ट्री फ्रैंचाइज़ की सुरक्षा का विस्तार करता है जब क्लाउड प्रदाताओं और स्टार्टअप्स से कस्टम सिलिकॉन समान एजेंटिक अनुमान वर्कलोड का पीछा कर रहा है। जैसा कि सीएनबीसी ने रिपोर्ट किया है, इस साल ऑनलाइन आने वाले रैक, अधिग्रहण बंद होने के कुछ महीनों बाद पहली उत्पादन प्रणाली ग्राहकों के हाथों में सौंप देंगे - सेमीकंडक्टर उद्योग मानकों द्वारा एक तेज़ एकीकरण।

कंपनी ने नई प्रणालियों के लिए मूल्य निर्धारण का खुलासा नहीं किया। ग्रोक 3 एलपीएक्स को एआई क्लाउड भागीदारों के माध्यम से कब और क्या उपलब्ध होगा के आधार पर पेश किया जाएगा, नेबियस को अपने मौजूदा एपीआई एंडपॉइंट के माध्यम से डेवलपर्स तक पहुंच प्रदान करने वाला पहला होने की उम्मीद है।

---

एआई से आगे रहें

नवीनतम एआई समाचार, विश्लेषण और सफलताएँ प्राप्त करें - सभी एक ही स्थान पर।

अधिक AI समाचार पढ़ें →