थिंकिंग मशीन्स लैब, पूर्व ओपनएआई मुख्य प्रौद्योगिकी अधिकारी मीरा मुराती द्वारा स्थापित एआई स्टार्टअप, ने 20 नवंबर, 2026 को एक नया ओपन-वेट मॉडल जारी किया: इंकलिंग 2 मिनी, एक असामान्य वास्तुकला के आसपास बनाया गया एक कॉम्पैक्ट मॉडल, जिसके बारे में कंपनी का कहना है कि यह इसे अपने पैरामीटर काउंट से काफी ऊपर पंच करने देता है। यह मॉडल उपभोक्ता लैपटॉप पर स्थानीय रूप से चलाने के लिए काफी छोटा है, इसकी कुल मेमोरी फ़ुटप्रिंट लगभग 20GB है।

आकार वर्ग के लिए शीर्षक संख्याएँ प्रभावशाली हैं। कंपनी की घोषणा के अनुसार, इंकलिंग 2 मिनी डीपएसडब्ल्यूई v1.1 पर 100 बिलियन से कम कुल मापदंडों के साथ हर ओपन-वेट मॉडल का नेतृत्व करता है, 48.2 प्रतिशत कार्यों को हल करता है, और वाल्स इंडेक्स v2.2 पर 46.5 प्रतिशत स्कोर करता है। दोनों बेंचमार्क एजेंटिक कोडिंग क्षमता को मापते हैं, जो इस समय उद्योग में सबसे व्यावसायिक रूप से प्रतिस्पर्धी क्षमता सीमाओं में से एक है। For more context on this story, see our ongoing artificial intelligence updates.

एक लूप्ड ट्रांसफार्मर को क्या अलग बनाता है

इंकलिंग 2 मिनी एक लूप वाला ट्रांसफार्मर है। प्रत्येक टोकन को प्रत्येक परत से बिल्कुल एक बार गुजारने के बजाय, मॉडल इसकी मध्य परतों को प्रति टोकन तीन बार चलाता है। वास्तव में, मॉडल अधिक आउटपुट टोकन उत्पन्न किए बिना किसी समस्या पर अधिक अनुक्रमिक गणना लागू कर सकता है।

कंपनी की फ़्रेमिंग यह है कि लूपिंग मॉडल को अपना तर्क लिखे बिना लंबे समय तक तर्क करने की अनुमति देती है। पारंपरिक विचार-श्रृंखला का तर्क दृश्यमान मध्यवर्ती चरणों पर टोकन खर्च करता है; लूपिंग इसके बजाय गणना खर्च करती है। इसका उन कार्यों पर गति के लिए वास्तविक परिणाम होता है जहां तर्क की गुणवत्ता टोकन गिनती से अधिक मायने रखती है, और एजेंटिक कोडिंग बिल्कुल उसी प्रकार का कार्य है।

हुड के तहत, इंकलिंग 2 मिनी 26.4 बिलियन कुल मापदंडों वाला एक मिक्सचर-ऑफ-एक्सपर्ट मॉडल है और प्रति टोकन केवल 3.4 बिलियन सक्रिय है, एक बार लूपिंग के हिसाब से प्रति टोकन 5.4 बिलियन वजन सक्रियण होते हैं। अधिकांश वज़न प्रशिक्षित किए गए थे और एनवीएफपी 4 में मूल रूप से तैनात किए गए थे, कम-परिशुद्धता प्रारूप एनवीडिया अपने डेटा सेंटर लाइनअप पर जोर दे रहा है, जिसमें अंतिम चार परतें एमएक्सएफपी 8 में रखी गई हैं। आक्रामक परिमाणीकरण और एक छोटी सक्रिय पैरामीटर गिनती का संयोजन मॉडल को लगभग 20 जीबी फ़ुटप्रिंट में निचोड़ता है जो लैपटॉप और डेस्कटॉप एआई मशीनों पर फिट बैठता है।

लैब ने M5 प्रो चिप और 48GB मेमोरी के साथ मैकबुक प्रो पर हवाई जहाज मोड में ऑफ़लाइन चलने वाले मॉडल का प्रदर्शन किया, जहां इसने कुछ ही मिनटों में एक खेलने योग्य उड़ान सिम्युलेटर बनाया।

मॉनिटरेबिलिटी ट्रेड-ऑफ़

रिलीज़ के साथ अनुसंधान भी शामिल है जो बेंचमार्क से अधिक मायने रख सकता है। यदि कोई मॉडल अपने विचारों की श्रृंखला को टोकन में व्यक्त करने के बजाय लूप के माध्यम से आंतरिक रूप से तर्क करता है, तो दृश्यमान तर्क पाठ मॉडल वास्तव में क्या कर रहा है, इसकी एक विश्वसनीय विंडो बनना बंद हो जाता है। इसका एआई सुरक्षा अनुसंधान पर प्रभाव पड़ता है, जहां विचार-श्रृंखला की निगरानी उपलब्ध कुछ व्यावहारिक निरीक्षण उपकरणों में से एक बन गई है।

इंकलिंग 2 मिनी के साथ, थिंकिंग मशीन्स ने प्रभाव को मापने के लिए एक शोध-विशिष्ट चर-लूप संस्करण जारी किया। नतीजे क्षमता के लिए उत्साहजनक दिशा में हैं, निरीक्षण के लिए जटिल हैं। विचार की किसी भी श्रृंखला के बिना पूरे किए गए कार्यों पर वैरिएबल-लूप मॉडल का समय क्षितिज एक बार में 16 सेकंड से बढ़कर तीन लूप पर 37 सेकंड हो गया, और सीरियल रीजनिंग बेंचमार्क पर प्रदर्शन में दस लूप तक सुधार होता रहा - मॉडल को प्रशिक्षित किए जाने की तुलना में दोगुना।

इस बीच, जैसे-जैसे लूप जोड़े गए, विचार की दृश्य श्रृंखला छोटी होती गई, लेकिन कंपनी की रिपोर्ट है कि यह पूरे समय सुपाठ्य बनी रही, और लूपिंग की गहराई बढ़ने के कारण मॉडल एजेंटिक तोड़फोड़ के परीक्षणों पर अधिक ट्रेंड नहीं कर पाया। थिंकिंग मशीन्स इन्हें शोधकर्ताओं के लिए उपलब्ध पहले लूप-आर्किटेक्चर मॉडल में से कुछ के रूप में वर्णित करती है, जो आंशिक रूप से सुरक्षा समुदाय के लिए सिम्युलेटेड सेटअप के बजाय वास्तविक वजन पर निगरानी का अध्ययन करने के निमंत्रण के रूप में जारी करती है।

सब-100बी क्लास में एक प्रतिस्पर्धी खेल

बेंचमार्क इंकलिंग 2 मिनी को एक भीड़ भरे सब-100बी क्षेत्र के मुकाबले रखता है जिसमें 26बी-31बी रेंज में जेम्मा 4 मॉडल, क्यूवेन3.8-27बी, म्यूज़ ग्लिमर और रिपल नामक 65बी पूर्वावलोकन मॉडल शामिल हैं। बैच साइज एक पर सैद्धांतिक टोकन थ्रूपुट का हवाला देते हुए थिंकिंग मशीन्स का दावा है कि उसका मॉडल समान प्रदर्शन करने वाले प्रतिस्पर्धियों की तुलना में तेजी से चलता है।

सब-100बी खंड दो कारणों से रणनीतिक रूप से महत्वपूर्ण हो गया है। सबसे पहले, ऑन-डिवाइस और निजी तैनाती तेजी से बढ़ रही है क्योंकि उद्यम होस्ट किए गए एपीआई को संवेदनशील डेटा भेजने से कतराते हैं। दूसरा, स्थानीय अनुमान के लिए प्रति-टोकन अर्थशास्त्र तेजी से बड़े मॉडलों की आसुत प्रतियों की तुलना में छोटे, आक्रामक रूप से परिमाणित मॉडलों का पक्ष ले रहा है। एक 26.4बी एमओई जो लूपिंग कंप्यूट के साथ एनवीएफपी4 में मूल रूप से चलता है, उस बाजार का सीधा जवाब है।

मॉडल एक प्रकाशित मॉडल कार्ड के साथ हगिंग फेस पर उपलब्ध है, और थिंकिंग मशीन्स अपने टिंकर फाइन-ट्यूनिंग प्लेटफॉर्म के माध्यम से पहुंच को बढ़ावा दे रही है। इस रिलीज और लैब के पहले इंकलिंग परिवार मॉडल के बीच, स्टार्टअप ऐसे समय में पुनरावृत्ति-शैली गणना स्केलिंग के आसपास एक विशिष्ट तकनीकी पहचान बना रहा है जब अधिकांश फ्रंटियर लैब स्केलिंग पैरामीटर और डेटा पर केंद्रित रहते हैं।

चाहे लूपिंग एक मुख्यधारा वास्तुकला बन जाए या एक आला बना रहे, रिलीज एक उल्लेखनीय क्षण को चिह्नित करता है: सबसे अधिक बारीकी से देखे जाने वाले एआई स्टार्टअप में से एक यह शर्त लगा रहा है कि प्रति टोकन स्मार्ट गणना - अधिक टोकन नहीं, और अधिक पैरामीटर नहीं - वह जगह है जहां अगला लाभ रहता है।

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →