एनवीआईडीआईए ने नेमोट्रॉन 3.5 सुपर वीएल जारी किया है, जो एक खुला, अनुकूलन योग्य मल्टीमॉडल मॉडल है जिसका उद्देश्य विशेष एआई एजेंटों का निर्माण करने वाले उद्यमों के लिए है। मॉडल 120-बिलियन-पैरामीटर मिश्रण-विशेषज्ञ आर्किटेक्चर का उपयोग करता है जो प्रति टोकन केवल 12 बिलियन पैरामीटर को सक्रिय करता है, एक डिज़ाइन एनवीआईडीआईए का कहना है कि अनुमान दक्षता के साथ फ्रंटियर-स्केल क्षमता को संतुलित करता है। वज़न BF16 परिशुद्धता में हगिंग फेस पर उपलब्ध हैं, और NVIDIA ने रिलीज़ के साथ एक तकनीकी वॉकथ्रू प्रकाशित किया है।

सुपर वीएल मल्टीमॉडल विशेषज्ञ के रूप में NVIDIA के विस्तारित ओपन-मॉडल परिवार में शामिल हो गया है। कंपनी के अनुसार, छोटे नेमोट्रॉन 3.5 लाइटनिंग मॉडल उच्च-मात्रा वाले टेक्स्ट कार्यों को संभालते हैं, जबकि फ्रंटियर नेमोट्रॉन 3 अल्ट्रा जटिल योजना और ऑर्केस्ट्रेशन से निपटता है - टीमों को एजेंट वर्कफ़्लो के प्रत्येक चरण को मॉडल के सही आकार तक ले जाने देता है। यह ZDNET की ओर से नवीनतम कदम है जिसे यूएस ओपन-वेट एआई के लिए एक और कदम के रूप में वर्णित किया गया है। यदि आप ओपन-वेट रेस पर नज़र रख रहे हैं, तो हालिया ओपन मॉडल रिलीज़ के हमारे कवरेज में व्यापक तस्वीर है।

टेक्स्ट, छवियाँ, दस्तावेज़ और वीडियो के लिए एक मॉडल

मुख्य पिच समेकन है. सुपर वीएल पाठ, छवि, दस्तावेज़ और वीडियो समझ के साथ तर्क, अनुदेश पालन और टूल उपयोग को जोड़ता है, इसलिए टीमों को उनके बीच अलग-अलग पाठ और दृष्टि-भाषा मॉडल या शटल कार्य संदर्भ तैनात करने की आवश्यकता नहीं होती है। NVIDIA का कहना है कि इसके दृश्य प्रशिक्षण में चार्ट, टेबल, ऑप्टिकल कैरेक्टर रिकग्निशन, मल्टीपेज दस्तावेज़ और वीडियो शामिल हैं, जिसमें दो-चरण पर्यवेक्षित फाइन-ट्यूनिंग पाइपलाइन है जो तर्क, चैट, सुरक्षा और लंबे-संदर्भ डेटा के साथ दृश्य साक्ष्य को जोड़ती है।

लक्ष्य वर्कफ़्लो वे हैं जिनके लिए उद्यम लड़खड़ाते रहते हैं: एक ग्राहक-सेवा एजेंट जिसे कंपनी के नीति दस्तावेजों को पढ़ना चाहिए, एक शोध एजेंट जो सभी स्रोतों से साक्ष्य जोड़ता है, या एक दस्तावेज़ एजेंट जो एक चार्ट की व्याख्या करता है और इसे उसी फाइलिंग में कहीं और एक तालिका से जोड़ता है। प्रत्येक मामले में मॉडल को सामग्री और उस पर तर्क को एक ही संदर्भ विंडो में देखने की आवश्यकता होती है।

थ्रूपुट दावे: एकल जीपीयू पर 5x तक

दक्षता वह है जहां NVIDIA सबसे तेज रेखाएं खींच रहा है। कंपनी का दावा है कि नेमोट्रॉन 3.5 सुपर वीएल एकल जीपीयू पर अपने आकार श्रेणी में अन्य खुले मॉडलों की तुलना में एजेंटिक कार्यों के लिए 5 गुना अधिक थ्रूपुट प्रदान करता है, और बेसटेन इंट्रेंस एंडपॉइंट के माध्यम से आर्टिफिशियल एनालिसिस इंटेलिजेंस इंडेक्स एजेंटिक कार्यों पर प्रति सेकंड 600 से अधिक टोकन दिखाने वाले बेंचमार्क की ओर इशारा किया है।

हुड के नीचे कई तकनीकें उन नंबरों को चलाती हैं। NVIDIA ने LiLiCorr पर प्रकाश डाला, जो एक खुली सट्टा डिकोडिंग विधि है, साथ ही NVFP4 मिश्रित परिशुद्धता, मल्टी-टोकन भविष्यवाणी और एजेंट टर्न में संदर्भ पुन: उपयोग - एजेंटों के लिए एक सार्थक अनुकूलन जो टूल के साथ लंबे समय तक चलने वाली बातचीत करता है। एजेंटों को बिना रुके चलाने वाले उद्यमों के लिए, प्रति जीपीयू थ्रूपुट अक्सर एक व्यवहार्य उत्पाद और एक अनुपयोगी लागत संरचना के बीच का अंतर होता है।

प्रशिक्षण के बाद का मुद्दा है

NVIDIA का स्पष्ट कहना है कि आधार मॉडल एक तैयार उत्पाद के बजाय एक प्रारंभिक बिंदु है। डोमेन-विशिष्ट व्यवहार सिखाने के लिए डेवलपर्स पर्यवेक्षित फाइन-ट्यूनिंग और LoRA का उपयोग करके NeMo लाइब्रेरी के साथ सुपर VL को अनुकूलित कर सकते हैं, फिर NeMo RL और NeMo जिम के माध्यम से सुदृढीकरण सीखने को उन वातावरणों में लागू कर सकते हैं जो उनके स्वयं के संचालन को प्रतिबिंबित करते हैं। कंपनी का कहना है कि साइबर सुरक्षा, वित्त और स्वास्थ्य सेवा क्षेत्र के संगठन पहले से ही अपने उत्पादन वर्कफ़्लो पर अग्रणी विकल्पों को मात देने के लिए मॉडल का प्रशिक्षण ले रहे हैं, एक ऐसा दावा जिसे स्वतंत्र रूप से सत्यापित करना कठिन है लेकिन एंटरप्राइज़-एजेंट स्थिति के अनुरूप है।

उस काम का समर्थन करने के लिए, NVIDIA वजन के साथ-साथ हगिंग फेस पर खुले डेटासेट जारी कर रहा है, जिसमें एजेंटिक टूल-उपयोग और वार्तालाप डेटा, वित्त तर्क और टूल-कॉलिंग सेट, निर्देश-पालन और चैट डेटा, लंबे-संदर्भ ट्रांसडक्शन और अनुवाद डेटा, निष्पक्षता डेटा और 40 दृष्टि-भाषा डेटासेट शामिल हैं। प्राइम इंटेलेक्ट ने पहले से ही लंबे-क्षितिज उद्यम कार्य के लिए मॉडल के प्रशिक्षण के बाद एक नुस्खा प्रकाशित किया है, यह एक प्रारंभिक संकेत है कि पारिस्थितिकी तंत्र रिलीज को एक गंभीर आधार के रूप में मान रहा है। NVIDIA ने अनुकूलन को कवर करते हुए GitHub पर एक उपयोग कुकबुक भी प्रकाशित की है, और कंपनी इस बात पर जोर देती है कि बुनियादी ढांचे और डेटा-रेजीडेंसी आवश्यकताओं को पूरा करने के लिए खुले वजन को स्थानीय, डेटा सेंटर या क्लाउड वातावरण में तैनात किया जा सकता है - वह लचीलापन जो विनियमित खरीदार लगातार मांगते हैं और बंद एपीआई पेश नहीं कर सकते हैं।

ओपन-वेट रेस के लिए इसका क्या मतलब है

यह रिलीज़ वास्तव में तैनात खंड उद्यमों में खुले और बंद मॉडल के बीच अंतर को कम करती है: दस्तावेज़-भारी एजेंट कार्य के लिए मध्यम आकार के मल्टीमॉडल सिस्टम। क्योंकि वेट्स स्थानीय, डेटा सेंटर या क्लाउड वातावरण में चल सकते हैं, सुपर वीएल विनियमित उद्योगों को एक विकल्प देता है जो फ्रंटियर एपीआई नहीं कर सकता है - चार्ट, टेबल और वीडियो की समझ प्राप्त करते हुए संवेदनशील दस्तावेजों को अपने स्वयं के बुनियादी ढांचे पर रखना।

प्रतिस्पर्धी पठन सीधा है। मेटा, अलीबाबा, डीपसीक और लिक्विड एआई ने इस साल एजेंटों के उद्देश्य से सभी ओपन-वेट मॉडल भेजे हैं, और एनवीआईडीआईए - जो हार्डवेयर बेचता है जिस पर हर कोई प्रशिक्षण लेता है - अब अनुमेय लाइसेंसिंग और एक दक्षता कहानी के साथ सीधे मॉडल परत में प्रतिस्पर्धा कर रहा है। यदि थ्रूपुट दावे स्वतंत्र बेंचमार्क में टिके रहते हैं, तो 2027 में एंटरप्राइज़ एजेंटों के लिए डिफ़ॉल्ट स्टैक एक साल पहले की तुलना में काफी अधिक खुला हो सकता है।

---

एआई से आगे रहें

नवीनतम एआई समाचार, विश्लेषण और सफलताएँ प्राप्त करें - सभी एक ही स्थान पर।

अधिक AI समाचार पढ़ें →