अलीबाबा की क्वेन रिसर्च लैब ने शुक्रवार को क्वेन 3.8 27बी जारी किया, एक अपाचे 2.0-लाइसेंस प्राप्त, दृष्टि-सक्षम बड़ा भाषा मॉडल जो उचित रूप से निर्दिष्ट लैपटॉप पर चलता है - और, लैब के अपने बेंचमार्क के अनुसार, न केवल अपने पूर्ववर्ती बल्कि एक बंद-वजन वाले मॉडल से बेहतर प्रदर्शन करता है जो हाल ही में मई तक क्वेन के सबसे मजबूत मॉडल में से एक था।
यह रिलीज़ डेवलपर हलकों में इस महीने के सबसे चर्चित मॉडल लॉन्च में से एक बन गई है। प्रमुख स्वतंत्र एआई शोधकर्ता और ब्लॉगर साइमन विलिसन द्वारा रविवार को प्रकाशित एक व्यावहारिक समीक्षा, सैकड़ों अपवोट्स के साथ हैकर न्यूज के पहले पन्ने पर पहुंची, जिसमें पाठकों ने मॉडल की क्षमताओं और इसके असामान्य डिफ़ॉल्ट कॉन्फ़िगरेशन पर बहस की। For more context on this story, see our ongoing latest AI developments.
क्वेन 3.8 27बी में नया क्या है
यह मॉडल अलीबाबा की ओपन-वेट लाइन में नवीनतम है, जो बहुत बड़े क्वेन 3.8 2.4T-A95B मिश्रण-विशेषज्ञों के रिलीज के कुछ सप्ताह बाद आया है। क्वेन के स्व-रिपोर्ट किए गए बेंचमार्क के अनुसार, 27बी मॉडल क्वेन 3.6 27बी और क्लोज-वेट क्वेन 3.7-प्लस दोनों पर बढ़त दिखाता है - एक मॉडल, जो अपने नाम के बावजूद, इस साल की शुरुआत में किसी भी आकार के क्वेन के सबसे मजबूत प्रदर्शनकर्ताओं में से एक था।
मॉडल 262,144 टोकन की अधिकतम संदर्भ लंबाई का समर्थन करता है, दृष्टि इनपुट को संभालता है, और 'तर्क_प्रयास' पैरामीटर के लिए आधिकारिक समर्थन के साथ जहाज करता है जो तीन स्तरों पर तर्क गहराई को समायोजित करता है: 'xhigh', 'मध्यम' और 'निम्न'।
यह वह पहली सेटिंग है - `xhigh`, फ़ैक्टरी डिफ़ॉल्ट - जो रिलीज़ के लिए चर्चा का विषय बन गई है।
ज़्यादा सोचने की समस्या
विलिसन, जिन्होंने LM स्टूडियो के 17GB Q4_K_M क्वांटाइज्ड बिल्ड का उपयोग करके 128GB मैकबुक प्रो और NVIDIA DGX स्पार्क पर मॉडल का परीक्षण किया, ने डिफ़ॉल्ट को "शानदार अति-सोच" उत्पन्न करने वाला बताया।
एक उल्लेखनीय उदाहरण में, उन्होंने मॉडल से साइकिल पर सवार पेलिकन का एसवीजी बनाने के लिए कहा। डिफ़ॉल्ट `xhigh` तर्क प्रयास के साथ, मॉडल ने 3,223 टोकन आउटपुट का उत्पादन करने के लिए 22,276 तर्क टोकन खर्च किए - एक प्रक्रिया जिसमें उसके हार्डवेयर पर 21 मिनट लगे। उन्होंने नोट किया कि नतीजा, "अब तक का सबसे अच्छा पेलिकन एसवीजी" था, जिसे वह स्थानीय स्तर पर चलने वाले मॉडल के साथ उत्पन्न करने में सक्षम थे, जिसमें सही साइकिल ज्यामिति, फ्रेम के दोनों किनारों पर पैर और एक सुस्वादु सचित्र पृष्ठभूमि थी।
समझौता स्पष्ट है: अधिकांश कार्यों के लिए 21 मिनट का इंतजार अव्यावहारिक है। रीजनिंग डिसेबल्ड के साथ उसी प्रॉम्प्ट को दोबारा चलाने से 137 सेकंड में - समय के दसवें हिस्से से कम - समान आउटपुट लंबाई पर प्रतिक्रिया उत्पन्न हुई।
यहां तक कि तुच्छ सरल संकेत भी व्यवहार को ट्रिगर करते हैं। "एक वृत्त का एक एसवीजी बनाने" के लिए कहा गया, मॉडल के तर्क का पता पैलेट विकल्पों, बॉहॉस स्टाइल, स्तरित रिंगों और एनीमेशन दृष्टिकोणों को तौलकर खोला गया - एक आकार के लिए कई मिनट का विचार-विमर्श जिसके लिए एकल XML टैग की आवश्यकता होती है।
विलिसन का फैसला: मॉडल उत्कृष्ट है, लेकिन डिफ़ॉल्ट कॉन्फ़िगरेशन "मॉडल को चलाने का बिल्कुल अच्छा तरीका नहीं है, खासकर उपभोक्ता हार्डवेयर पर।" उपयोगकर्ता 'मध्यम' या 'निम्न' तर्क प्रयास पर स्विच कर सकते हैं, या विस्तारित सोच को पूरी तरह से अक्षम कर सकते हैं।
स्थानीय एआई की गति
यह रिलीज़ रेखांकित करती है कि फ्रंटियर क्लाउड मॉडल और स्थानीय रूप से चलने योग्य खुले मॉडल के बीच क्षमताओं का अंतर कितनी तेजी से कम हो गया है। लैपटॉप पर चलने वाली 17 जीबी फ़ाइल अब ऐसे परिणाम उत्पन्न करती है, जो विशिष्ट रचनात्मक कार्यों में, कुछ समय पहले आवश्यक डेटा-सेंटर-स्केल मॉडल के प्रतिद्वंद्वी हैं।
यह चीनी प्रयोगशालाओं से ओपन-वेट गति को भी जारी रखता है जिसने 2026 को परिभाषित किया है। अलीबाबा का क्वेन परिवार इस साल विश्व स्तर पर सबसे अधिक डाउनलोड की जाने वाली मॉडल लाइनों में से एक रहा है, जो डेवलपर माइंडशेयर के लिए मेटा, डीपसीक और मूनशॉट एआई के रिलीज के साथ प्रतिस्पर्धा कर रहा है। क्वेन 3.8 27बी के लिए स्वतंत्र बेंचमार्क परिणाम अभी भी जमा हो रहे हैं, और विलिसन ने स्पष्ट रूप से चेतावनी दी है कि लैब के स्व-रिपोर्ट किए गए नंबर तीसरे पक्ष के सत्यापन की प्रतीक्षा कर रहे हैं।
उपयोगकर्ताओं के लिए व्यावहारिक मार्गदर्शन
मॉडल पर विचार करने वाले डेवलपर्स और उत्साही लोगों के लिए, प्रारंभिक परीक्षण से उभरती आम सहमति सीधी है: क्वेन 3.8 27बी स्थानीय एआई वर्कलोड के लिए एक मजबूत डिफ़ॉल्ट विकल्प है जिसमें दृष्टि या लंबे दस्तावेज़ शामिल हैं, लेकिन तर्क प्रयास को कार्य के अनुरूप होना चाहिए। जटिल विश्लेषण `xhigh` को उचित ठहरा सकता है; रोजमर्रा के प्रश्न और त्वरित ड्राफ्ट `मध्यम` या उससे कम पर तेज़ और सस्ते होते हैं।
एलएम स्टूडियो जैसे उपकरणों के माध्यम से मॉडल चलाने वाले उपयोगकर्ताओं को डिफ़ॉल्ट संदर्भ विंडो को 8,192 टोकन से भी बढ़ाना चाहिए - विलिसन ने पाया कि मॉडल की विस्तारित सोच ने पूरे 262,144-टोकन संदर्भ के साथ इसे लोड करने से पहले सांसारिक समस्याओं पर भी उस बजट को समाप्त कर दिया।
बड़ा सवाल यह है कि ओपन-मॉडल दौड़ के अगले चरण के बारे में रिलीज़ क्या संकेत देता है: जैसे-जैसे तर्क-शैली मॉडल आदर्श बन जाते हैं, कॉन्फ़िगरेशन डिफ़ॉल्ट वास्तविक प्रयोज्य परिणामों के साथ उत्पाद निर्णयों में बदल रहे हैं - और क्वेन का `xhigh` डिफ़ॉल्ट पहले से ही सबसे अधिक चर्चा वाला उदाहरण है।
खुले वजन के लिए एक मील का पत्थर
यह रिलीज़ इस बात में भी एक मील का पत्थर है कि ओपन-वेट प्रयोगशालाएँ अब छोटे पैमाने पर क्या प्रदान कर सकती हैं। विज़न क्षमता, 262,144-टोकन संदर्भ विंडो और उपभोक्ता लैपटॉप पर फिट होने वाले पैकेज में प्रतिस्पर्धी तर्क प्रदर्शन दो साल पहले अपाचे-2.0-लाइसेंस प्राप्त मॉडल में अकल्पनीय रहा होगा। स्थानीय-प्रथम एप्लिकेशन बनाने वाले डेवलपर्स के लिए - जहां डेटा गोपनीयता, विलंबता या ऑफ़लाइन संचालन क्लाउड एपीआई को नियंत्रित करता है - व्यावहारिक विकल्प तेजी से सुधार करते रहते हैं।
विलिसन का परीक्षण पारिस्थितिकी तंत्र के लिए एक परिपक्वता बिंदु पर भी प्रकाश डालता है: एलएम स्टूडियो के एक-क्लिक जीजीयूएफ डाउनलोड से लेकर कॉन्फ़िगर करने योग्य तर्क मापदंडों तक स्थानीय मॉडलों के आसपास टूलींग इतना उन्नत हो गया है कि एक मॉडल की सोच की गहराई को ट्यून करना अब एक शोध अभ्यास के बजाय एक नियमित उपयोगकर्ता निर्णय है। जैसे-जैसे आने वाले दिनों में स्वतंत्र बेंचमार्क जमा होते जाएंगे, अपने खुले और बंद प्रतिस्पर्धियों के मुकाबले वास्तव में क्वेन 3.8 27बी कहां उतरता है, इसकी तस्वीर तेज हो जाएगी - लेकिन शुरुआती स्वागत से लाइन में एक और मजबूत प्रविष्टि का पता चलता है जिसने अलीबाबा को दुनिया में सबसे परिणामी ओपन-मॉडल प्रकाशकों में से एक बना दिया है।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
