थिंकिंग मशिन्स लॅब, माजी OpenAI मुख्य तंत्रज्ञान अधिकारी मीरा मुराती यांनी स्थापन केलेल्या AI स्टार्टअपने 20 नोव्हेंबर 2026 रोजी एक नवीन ओपन-वेट मॉडेल जारी केले: Inkling 2 Mini, एक असामान्य आर्किटेक्चरच्या आसपास बनवलेले कॉम्पॅक्ट मॉडेल, ज्याला कंपनी म्हणते की ते त्याच्या पॅरामीटरच्या संख्येपेक्षा चांगले आहे. साधारणपणे 20GB च्या एकूण मेमरी फूटप्रिंटसह ग्राहक लॅपटॉपवर स्थानिक पातळीवर चालण्यासाठी मॉडेल पुरेसे लहान आहे.
आकार वर्गासाठी शीर्षक क्रमांक लक्षवेधी आहेत. कंपनीच्या घोषणेनुसार, Inkling 2 Mini ने DeepSWE v1.1 वर एकूण 100 बिलियन पेक्षा कमी पॅरामीटर्ससह प्रत्येक ओपन-वेट मॉडेलमध्ये आघाडी घेतली आहे, 48.2 टक्के टास्क सोडवली आहे आणि Vals Index v2.2 वर, 46.5 टक्के स्कोअर आहे. दोन्ही बेंचमार्क एजंटिक कोडिंग क्षमतेचे मोजमाप करतात, सध्या उद्योगातील सर्वात व्यावसायिकरित्या स्पर्धा केलेल्या क्षमता सीमांपैकी एक आहे. For more context on this story, see our ongoing breaking AI news.
लूप केलेले ट्रान्सफॉर्मर वेगळे काय बनवते
इंकलिंग 2 मिनी हा लूप केलेला ट्रान्सफॉर्मर आहे. प्रत्येक लेयरमधून प्रत्येक टोकन एकदाच पास करण्याऐवजी, मॉडेल त्याचे मधले स्तर प्रति टोकन तीन वेळा चालवते. प्रत्यक्षात, मॉडेल अधिक आउटपुट टोकन व्युत्पन्न न करता समस्येवर अधिक अनुक्रमिक गणना लागू करू शकते.
कंपनीचे फ्रेमिंग असे आहे की लूपिंग मॉडेलला त्याचे तर्क लिहिल्याशिवाय अधिक काळ तर्क करण्यास अनुमती देते. पारंपारिक चेन-ऑफ-थॉट रिझनिंग दृश्यमान मध्यवर्ती चरणांवर टोकन खर्च करते; looping ऐवजी compute खर्च करते. टास्कच्या गतीवर त्याचे वास्तविक परिणाम होतात जेथे तर्क गुणवत्तेला टोकन मोजण्यापेक्षा जास्त महत्त्व असते आणि एजंटिक कोडिंग हे नेमके अशा प्रकारचे कार्य आहे.
हूड अंतर्गत, Inkling 2 Mini हे 26.4 अब्ज एकूण पॅरामीटर्स असलेले आणि फक्त 3.4 अब्ज सक्रिय प्रति टोकन असलेले मिश्रण-ऑफ-एक्सपर्ट मॉडेल आहे, एकदा लूपिंगचा हिशोब केल्यानंतर प्रति टोकन 5.4 अब्ज वजन सक्रियतेसह. बहुतेक वजन प्रशिक्षित केले गेले होते आणि NVFP4 मध्ये स्थानिकरित्या तैनात केले गेले आहेत, कमी-सुस्पष्टता स्वरूप Nvidia त्याच्या डेटा सेंटर लाइनअपमध्ये पुढे ढकलत आहे, अंतिम चार स्तर MXFP8 मध्ये ठेवले आहेत. आक्रमक परिमाणीकरण आणि लहान सक्रिय पॅरामीटर संख्या यांचे संयोजन हे मॉडेलला अंदाजे 20GB फूटप्रिंटमध्ये दाबते जे लॅपटॉप आणि डेस्कटॉप एआय मशीनवर बसते.
लॅबने M5 प्रो चिप आणि 48GB मेमरी असलेल्या MacBook Pro वर, विमान मोडमध्ये ऑफलाइन चालणारे मॉडेल प्रदर्शित केले, जिथे त्याने काही मिनिटांत प्ले करण्यायोग्य फ्लाइट सिम्युलेटर तयार केले.
मॉनिटरिबिलिटी ट्रेड-ऑफ
रिलीझमध्ये संशोधनासह आहे जे बेंचमार्कपेक्षा जास्त महत्त्वाचे असू शकते. जर एखादे मॉडेल आपल्या विचारांची साखळी टोकन्समध्ये व्यक्त करण्याऐवजी लूपद्वारे आंतरिक कारणे मांडत असेल, तर दृश्यमान तर्क मजकूर हे मॉडेल प्रत्यक्षात काय करत आहे याची विश्वासू विंडो बनून थांबते. याचा एआय सुरक्षा संशोधनावर परिणाम होतो, जेथे देखरेख साखळी-ऑफ-थॉट उपलब्ध काही व्यावहारिक निरीक्षण साधनांपैकी एक बनले आहे.
Inkling 2 Mini सोबत, Thinking Machines ने परिणाम मोजण्यासाठी संशोधन-विशिष्ट व्हेरिएबल-लूप प्रकार जारी केला. परिणाम क्षमतेसाठी उत्साहवर्धक दिशा देतात, निरीक्षणासाठी एक गुंतागुंतीचे. कोणत्याही विचारांच्या साखळीशिवाय पूर्ण केलेल्या कार्यांवरील व्हेरिएबल-लूप मॉडेलचा वेळ क्षितिज एका पासवर 16 सेकंदांवरून तीन लूपवर 37 सेकंदांपर्यंत सुधारला आणि क्रमिक तर्क बेंचमार्कवरील कामगिरी दहा लूपपर्यंत सुधारत राहिली — ज्या मॉडेलला प्रशिक्षण देण्यात आले त्याच्या दुप्पट.
दरम्यान, लूप जोडल्या गेल्याने विचारांची दृश्यमान साखळी लहान होत गेली, परंतु कंपनीने अहवाल दिला आहे की ती संपूर्णपणे सुवाच्य राहिली आणि लूपिंगची खोली वाढल्यामुळे एजंटिक तोडफोडीच्या चाचण्यांमध्ये मॉडेलचा कल वाढला नाही. थिंकिंग मशिन्स हे संशोधकांसाठी उपलब्ध असलेले काही पहिले लूप-आर्किटेक्चर मॉडेल्स म्हणून वर्णन करतात, सिम्युलेटेड सेटअप्सऐवजी वास्तविक वजनांवर मॉनिटरीबिलिटीचा अभ्यास करण्यासाठी सुरक्षा समुदायासाठी आमंत्रण म्हणून रिलीझची स्थिती अंशतः ठेवते.
उप-100B वर्गातील एक स्पर्धात्मक खेळ
बेंचमार्क इंकलिंग 2 मिनीला गर्दीच्या सब-100B फील्डच्या विरूद्ध ठेवतात ज्यात 26B–31B श्रेणीतील Gemma 4 मॉडेल, Qwen3.8-27B, Muse Glimmer आणि Ripple नावाचे 65B पूर्वावलोकन मॉडेल समाविष्ट आहे. थिंकिंग मशिन्सचा दावा आहे की त्याचे मॉडेल समान कामगिरी करणाऱ्या प्रतिस्पर्ध्यांपेक्षा वेगाने चालते, सैद्धांतिक टोकन थ्रूपुट बॅच आकारात एक.
उप-100B विभाग दोन कारणांमुळे धोरणात्मकदृष्ट्या महत्त्वाचा बनला आहे. प्रथम, ऑन-डिव्हाइस आणि खाजगी उपयोजन वेगाने वाढत आहे कारण एंटरप्रायझेस होस्ट केलेल्या API ला संवेदनशील डेटा पाठविण्यास टाळाटाळ करतात. दुसरे, स्थानिक अनुमानासाठी प्रति-टोकन अर्थशास्त्र मोठ्या आकाराच्या डिस्टिल्ड प्रतींच्या तुलनेत लहान, आक्रमकपणे क्वांटाइज्ड मॉडेलला अधिक पसंती देतात. 26.4B MoE जे NVFP4 मध्ये लूपिंग कंप्यूटसह चालते ते त्या मार्केटला थेट उत्तर आहे.
हे मॉडेल प्रकाशित मॉडेल कार्डसह हगिंग फेसवर उपलब्ध आहे आणि थिंकिंग मशीन्स त्याच्या टिंकर फाइन-ट्यूनिंग प्लॅटफॉर्मद्वारे प्रवेशास प्रोत्साहन देत आहे. हे प्रकाशन आणि लॅबच्या पूर्वीच्या इंकलिंग फॅमिली मॉडेल्सच्या दरम्यान, स्टार्टअप पुनरावृत्ती-शैलीच्या कॉम्प्युट स्केलिंगच्या आसपास एक वेगळी तांत्रिक ओळख निर्माण करत आहे जेव्हा बहुतेक फ्रंटियर लॅब स्केलिंग पॅरामीटर्स आणि डेटावर केंद्रित असतात.
लूपिंग हे मुख्य प्रवाहातील आर्किटेक्चर बनले आहे किंवा एक विशिष्ट स्थान आहे, रिलीज एक उल्लेखनीय क्षण चिन्हांकित करते: सर्वात जवळून पाहिल्या गेलेल्या AI स्टार्टअप्सपैकी एक म्हणजे प्रति टोकन अधिक चतुर संगणन - अधिक टोकन नाही आणि अधिक पॅरामीटर्स नाही - जिथे पुढील नफा राहतात.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →