इंसेप्शन लैब्स ने सोमवार को मर्करी 3 पेश किया और इसे अब तक जारी किया गया सबसे सक्षम प्रसार-आधारित बड़ा भाषा मॉडल बताया। कंपनी की घोषणा के अनुसार, मर्करी 3, जीपीटी-6 लूना और क्लाउड हाइकू 5.5 सहित गति-अनुकूलित फ्रंटियर मॉडल से कई बेंचमार्क में बेहतर प्रदर्शन करता है, जबकि 1,000 से अधिक टोकन प्रति सेकंड पर 4 से 8 गुना तेज चलता है।

लॉन्च उस सवाल का अब तक का सबसे मजबूत जवाब है जो श्रेणी उभरने के बाद से वाणिज्यिक प्रसार भाषा मॉडल पर लटका हुआ है: क्या पाठ प्रसार पैमाने जटिल वर्कलोड पर ऑटोरेग्रेसिव आर्किटेक्चर के साथ प्रतिस्पर्धा कर सकता है, या क्या यह केवल विलंबता के लिए अनुकूलित एक शोध जिज्ञासा बनी हुई है? इंसेप्शन लैब्स, जिसकी स्थापना सीईओ स्टेफ़ानो एर्मन सहित पूर्व स्टैनफोर्ड और यूसी बर्कले शोधकर्ताओं द्वारा की गई थी, का कहना है कि उत्तर अब तय हो गया है। कंपनी की रिपोर्ट है कि मरकरी 3, मरकरी 1 से 40 गुना अधिक बड़ा है और मानक बेंचमार्क में मापी गई बुद्धिमत्ता मरकरी 1 (मिनी) और मरकरी 3 के बीच लगभग तीन गुना है, इसका प्रमाण यह है कि स्केलिंग कानून, जो ऑटोरेग्रेसिव मॉडल में प्रगति को बढ़ावा देते हैं, प्रसार के लिए भी मान्य हैं। For more context on this story, see our ongoing breaking AI news.

गति, संदर्भ और मूल्य निर्धारण

शीर्षक आंकड़े आक्रामक हैं. इंसेप्शन लैब्स का कहना है कि मर्करी 3 एनवीआईडीआईए जीपीयू पर प्रति सेकंड 1,068 टोकन उत्पन्न करता है, जो टोकन-दर-टोकन ऑटोरेग्रेसिव डिकोडिंग पर प्रसार दृष्टिकोण के हस्ताक्षर लाभ को बनाए रखता है। संदर्भ विंडो मर्करी 2.5 में 260,000 से बढ़कर 1 मिलियन टोकन हो गई है, जिसे कंपनी ने सितंबर में 1,107 टोकन प्रति सेकंड निरंतर आउटपुट के साथ जारी किया था।

मर्करी 3 की कीमत $0.20 प्रति मिलियन इनपुट टोकन और $0.70 प्रति मिलियन आउटपुट टोकन है। लॉन्च के समय, मॉडल पर 50 प्रतिशत की छूट है, जिससे प्रभावी दर $0.10 प्रति मिलियन इनपुट टोकन और $0.35 प्रति मिलियन आउटपुट टोकन हो गई है, कैश्ड टोकन की कीमत इनपुट दर से 90 प्रतिशत कम है। यह सीमांत गति-अनुकूलित मॉडलों के विशिष्ट मूल्य निर्धारण को कम कर देता है, जिसके विरुद्ध यह बेंचमार्क करता है, हालांकि गुणवत्ता के दावों का स्वतंत्र सत्यापन अभी तक प्रकाशित नहीं हुआ है।

बेंचमार्क और एजेंट परिणाम

GPT-6 लूना और क्लाउड हाइकू 5.5 के मुकाबले सामान्य बेंचमार्क तुलनाओं से परे, इंसेप्शन लैब्स ने 50 लाइव माइंड2वेब नेविगेशन कार्यों पर अपने उत्पादन वेब-एजेंट हार्नेस से परिणाम प्रकाशित किए। मर्करी 3 ने 50 प्रतिशत कार्य पूरे कर लिए, जिसके बारे में कंपनी का कहना है कि यह जीपीटी-6.1-सोल द्वारा प्रबंधित कार्यों से काफी अधिक है, जबकि प्रति-टोकन लागत के एक अंश पर फ्रंटियर मॉडल के समान टोकन वॉल्यूम और समान संख्या में एजेंट चरणों का उपयोग किया जाता है।

कंपनी विलंबता-संवेदनशील एजेंट वर्कलोड को मॉडल के लिए मुख्य वाणिज्यिक मामले के रूप में रखती है। क्योंकि ब्राउज़र-उपयोग एजेंट, वॉयस असिस्टेंट और इंटरैक्टिव एप्लिकेशन हर कदम पर मॉडल का इंतजार करते हैं, छोटी देरी तेजी से बढ़ती है, और एक प्रसार मॉडल का उच्च थ्रूपुट सीधे तेजी से कार्य पूरा करने और एक निश्चित समय बजट के भीतर अधिक प्रयासों में तब्दील हो जाता है।

शुरुआती ग्राहक उत्पादन उपयोग की रिपोर्ट करते हैं

इंसेप्शन लैब्स का कहना है कि अर्ली-एक्सेस पार्टनर पहले से ही वॉयस और चैट सपोर्ट, रियल-टाइम ट्यूशन, डेटा इंजीनियरिंग और वेब नेविगेशन के लिए मर्करी 3 का उत्पादन कर रहे हैं।

टाइनीफिश एआई के सह-संस्थापक शुहाओ झांग ने कहा कि मर्करी 3 पर बने एजेंट जल्दी खत्म हो जाते हैं और उनके पास जवाब देने से पहले और अधिक तरीकों को आजमाने का समय होता है, चाहे वे वेबसाइटों पर नेविगेट कर रहे हों, स्रोतों पर शोध कर रहे हों, या लॉग का विश्लेषण कर रहे हों और घटनाओं का पता लगा रहे हों।

जनरल लर्निंग के सह-संस्थापक और सीटीओ, माइकल टोंग, जो रिविजनडोजो का संचालन करते हैं, ने कहा कि मर्करी 3 ने कंपनी को प्रत्येक छात्र को तर्क की गुणवत्ता, संकेत, चिह्नित उत्तर और परिभाषाओं को लगभग एक सेकंड में लौटाए बिना तुरंत प्रतिक्रिया देने की अनुमति दी, और मॉडल को अपने मौजूदा स्टैक के लिए एक ड्रॉप-इन स्वैप के रूप में वर्णित किया।

सर्च स्टार्टअप ऑक्टेन के संस्थापक कुआन ज़ू ने बताया कि कंपनी के सेंस एपीआई परीक्षणों में इसकी अपनी खोज में लगभग 80 मिलीसेकंड लगे, जबकि मॉडल निर्माण में बाधा थी, और मर्करी 3 ने परीक्षण किए गए तेज़ मॉडलों के बीच गति और गुणवत्ता का सबसे अच्छा संतुलन प्रदान किया, जिसमें औसत पीढ़ी का समय 0.9 सेकंड और औसत एंड-टू-एंड प्रतिक्रिया समय 2.2 सेकंड था।

प्रसार स्केलिंग क्यों मायने रखती है

ऑटोरेग्रेसिव ट्रांसफॉर्मर, जो अनुक्रम में एक समय में टेक्स्ट एक टोकन उत्पन्न करते हैं, ने अनिवार्य रूप से जीपीटी से जेमिनी और क्लाउड के माध्यम से हर फ्रंटियर मॉडल को आगे बढ़ाया है। प्रसार मॉडल इसके बजाय पुनरावृत्त निरूपण के माध्यम से समानांतर में एक संपूर्ण प्रतिक्रिया को परिष्कृत करते हैं, एक ऐसी संपत्ति जो पीढ़ी को तेज और नियंत्रणीय बनाती है लेकिन जो हाल तक, जटिल तर्क कार्यों पर बुरी तरह पिछड़ गई थी।

मरकरी 3 का केंद्रीय दावा यह है कि यह गुणवत्ता अंतर बड़े पैमाने पर बंद हो गया है। यदि कंपनी की संख्या स्वतंत्र मूल्यांकन के तहत रहती है, तो व्यावहारिक परिणाम वाणिज्यिक अनुमान के लिए एक विश्वसनीय दूसरा आर्किटेक्चर परिवार है, जिसमें उच्च-मात्रा वाले एजेंट वर्कलोड के अर्थशास्त्र के निहितार्थ हैं, जहां कुल टोकन खर्च स्पीड-टियर मॉडल पर हावी है।

दावे अभी विक्रेता-रिपोर्ट किए गए हैं। इंसेप्शन लैब्स ने मर्करी 3 के तीसरे पक्ष के मूल्यांकन की ओर इशारा नहीं किया है, और इसकी बेंचमार्क तुलनाएं उसके अपने हार्नेस से आती हैं। हालाँकि, कंपनी के पिछले मॉडलों को 2025 से सार्वजनिक रूप से पेश किया गया है, जिससे खरीदारों को जांचने के लिए एक ट्रैक रिकॉर्ड मिल गया है।

उपलब्धता

मर्करी 3 इंसेप्शन लैब्स के एपीआई के माध्यम से लॉन्च-डिस्काउंट दर पर तुरंत उपलब्ध है, कंपनी का कहना है कि कैश्ड टोकन को इनपुट मूल्य के 10 प्रतिशत पर बिल किया जाता है। किसी ओपन-वेट रिलीज़ की घोषणा नहीं की गई थी; अपने पूर्ववर्तियों की तरह, मर्करी 3 एक वाणिज्यिक, एपीआई-केवल मॉडल है।

नए मॉडल रिलीज़, डिफ्यूज़न आर्किटेक्चर और फ्रंटियर एआई के बढ़ते स्पीड टियर के निरंतर कवरेज के लिए, एआई बज़ वायर का अनुसरण करें।

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →