Edge0 ने 12 नवंबर, 2026 को Edge0-145B को एक छोटे Edge0-120B, एक एकीकृत अनुमान ढांचे और परिनियोजन टूल के साथ ओपन-सोर्स किया। स्टार्टअप Edge0-145B को 145 बिलियन मापदंडों पर पहला ओपन-सोर्स ऑन-डिवाइस AI मॉडल के रूप में वर्णित करता है, और कहता है कि यह कोडिंग, तर्क और एजेंट क्षमताओं को लाता है जो उपभोक्ता हार्डवेयर के लिए फ्रंटियर क्लाउड मॉडल को प्रतिद्वंद्वी बनाता है।

रिलीज़ उसी दिन हुई जिस दिन हैकर न्यूज़ पर 219 अंक चढ़ गए, जहां सर्वर के बिना चलने वाले 100बी-प्लस पैरामीटर मॉडल की संभावना ने स्थानीय अनुमान का पालन करने वाले डेवलपर्स का पर्याप्त ध्यान आकर्षित किया। For more context on this story, see our ongoing AI trends.

लैपटॉप के दावे के पीछे के नंबर

कंपनी की घोषणा के अनुसार, Edge0-145B निम्नलिखित रिपोर्ट किए गए परिणामों के साथ मैकबुक प्रो जैसे संगत व्यक्तिगत लैपटॉप पर चलता है:

  • 29 जीबी पीक मेमोरी, एक समर्पित सर्वर के बिना उच्च-स्तरीय उपभोक्ता मशीनों पर फिट होने के लिए पर्याप्त कम
  • 1,100+ टोकन प्रति सेकंड प्रीफ़िल, जिससे मॉडल प्रक्रिया जेनरेशन शुरू होने से पहले कोड के दर्जनों पेजों को फैलाने का संकेत देती है
  • 80+ टोकन प्रति सेकंड डिकोड, जिसे कंपनी नोट करती है वह किसी व्यक्ति द्वारा पढ़े जाने की तुलना में तेज़ है
  • लगभग 120W विशिष्ट शक्ति, रिपोर्ट किए गए सेटअप में थ्रॉटलिंग के बिना निरंतर संचालन
  • 128K से 256K संदर्भ, लंबे इनपुट पर अनिवार्य रूप से अपरिवर्तित पीढ़ी की गति के साथ

ये आंकड़े स्वतंत्र परीक्षण के बजाय Edge0 के स्वयं प्रकाशित बेंचमार्क से आते हैं, और कंपनी ने पूर्ण स्टैक - वजन, अनुमान ढांचा और तैनाती उपकरण जारी किए हैं - ताकि डेवलपर्स अपने स्वयं के हार्डवेयर पर माप को पुन: पेश कर सकें।

ऑन-डिवाइस मॉडल छोटे क्यों रह गए हैं

घोषणा में इस बात पर उपयोगी संदर्भ शामिल है कि बड़े मॉडल ऐतिहासिक रूप से लैपटॉप से अनुपस्थित क्यों रहे हैं। सितंबर 2026 से पहले, मेमोरी सीमा अधिकांश ऑन-डिवाइस मॉडल को 10 बिलियन पैरामीटर से नीचे रखती थी। Apple इंटेलिजेंस के ऑन-डिवाइस फाउंडेशन मॉडल में लगभग 3 बिलियन पैरामीटर थे, जबकि Google का जेमिनी नैनो 1.8B और 3.25B संस्करणों में भेजा गया था।

बाधा भौतिक है: ऑपरेटिंग सिस्टम और अन्य अनुप्रयोगों के साथ बैंडविड्थ के लिए प्रतिस्पर्धा करते हुए, प्रत्येक पीढ़ी के चरण के दौरान मॉडल वजन को मेमोरी से पढ़ा जाना चाहिए। यहां तक ​​कि आक्रामक रूप से संपीड़ित 35बी मॉडल को भी लगभग 20 जीबी मेमोरी की आवश्यकता हो सकती है, जो फोन द्वारा आवंटित मेमोरी से कहीं अधिक है।

Edge0 की पिछली रिलीज़ से पता चला कि कंपनी का दृष्टिकोण किस ओर जा रहा था। Edge0-35B फ़ोन मॉडल ने 2.5GB से कम की अधिकतम मेमोरी की सूचना दी, जो iPhone 18 Pro Max पर प्रति सेकंड 37+ टोकन प्रदान करता है। Edge0-145B में उस मॉडल के मापदंडों का लगभग चार गुना है, जबकि इसके लैपटॉप कॉन्फ़िगरेशन की रिपोर्ट 28GB मेमोरी पर डिकोड गति को लगभग दोगुना कर देती है - कंपनी इस बात पर ध्यान देती है कि ये माप विभिन्न मॉडलों और हार्डवेयर पर लागू होते हैं।

एक सहायक जो काम ख़त्म करता है

कच्ची गति से परे, Edge0 मॉडल को चैटबॉट के बजाय एक एजेंट के रूप में रखता है। घोषणा एक ऐसी प्रणाली का वर्णन करती है जो कोड की योजना बनाती है, लिखती है और चलाती है, त्रुटियों को डीबग करती है, और 3डी दृश्यों, गेम, हार्डवेयर प्रोग्राम और पीसीबी डिज़ाइन जैसी परियोजनाओं के लिए परिणामों की दृष्टि से जांच करती है।

कंपनी की रिपोर्ट है कि कोडिंग, तर्क और निर्देश-पालन परिणाम विशिष्ट फ्रंटियर क्लाउड मॉडल के साथ प्रतिस्पर्धी हैं, हालांकि इसकी प्रकाशित तुलनाओं को अभी तक स्वतंत्र रूप से सत्यापित नहीं किया गया है। किसी भी विक्रेता-रिपोर्ट किए गए बेंचमार्क की तरह, डेवलपर्स सीमांत-स्तरीय समता के बारे में निष्कर्ष निकालने से पहले तीसरे पक्ष के मूल्यांकन देखना चाहेंगे।

गोपनीयता और लागत तर्क

क्लाउड वर्कफ़्लोज़ की तुलना में पिच तीन फायदों पर टिकी हुई है। स्थानीय अनुमान के लिए प्रति-टोकन एपीआई शुल्क नहीं लगता है, संवेदनशील डेटा डिवाइस पर रह सकता है, और मुख्य क्षमताएं ऑफ़लाइन काम करती रहती हैं। विनियमित डेटा को संभालने वाले उद्यमों के लिए, और बैंडविड्थ-बाधित वातावरण में डेवलपर्स के लिए, वे गुण होस्ट किए गए फ्रंटियर मॉडल की कच्ची क्षमता से अधिक हो सकते हैं।

निस्संदेह, हार्डवेयर और बिजली मुफ़्त नहीं हैं। Edge0 इसे सीधे स्वीकार करता है, यह देखते हुए कि इसके पावर आंकड़े एक निरंतर ~ 120W ड्रॉ को दर्शाते हैं - एक उच्च-प्रदर्शन वाले लैपटॉप के बराबर है जो एक मांग वाले वर्कलोड को चलाता है, जिसका बैटरी जीवन और थर्मल पर वास्तविक प्रभाव पड़ता है।

स्थानीय एआई पारिस्थितिकी तंत्र के लिए इसका क्या अर्थ है

घोषणा के साथ दिया गया विश्लेषण फोन, लैपटॉप और एआई पीसी के लिए 14 प्रयोगशालाओं से कम से कम 1बी मापदंडों के 67 खुले मॉडल को ट्रैक करता है, और प्रक्षेपवक्र तीव्र है। यदि रिपोर्ट की गई संख्याएं स्वतंत्र समीक्षा के तहत सही रहती हैं, तो Edge0-145B उपभोक्ता हार्डवेयर की मेजबानी में एक कदम बदलाव का प्रतिनिधित्व करेगा: एक मॉडल वर्ग जो अब तक उन मशीनों पर डेटा सेंटर जीपीयू उपलब्ध कराने की मांग करता है जो पहले से ही लोगों के पास हैं।

प्रतियोगी एक ही दिशा में आगे बढ़ रहे हैं। मेटा ने उपभोक्ता जीपीयू पर चलने के लिए निर्मित अपने म्यूज़ ग्लिमर ओपन एजेंटिक मॉडल को शिप किया है, और ऐप्पल के फाउंडेशन मॉडल फ्रेमवर्क ने ऑन-डिवाइस अनुमान में डेवलपर की रुचि को नवीनीकृत किया है। अंतर पैमाने का है: मौजूदा ओपन-वेट इकोसिस्टम में कुछ भी लैपटॉप-क्लास मेमोरी बजट को लक्षित करने वाले 145बी मापदंडों के करीब नहीं आता है।

यह रिहाई केंद्रीकरण के बारे में तीव्र बहस के बीच भी हुई। गोपनीयता-केंद्रित ब्राउज़रों से एजेंटिक भुगतान प्रवाह को स्थानीय-प्रथम अनुमान ढांचे में जोड़ने से, उद्योग के ओपन-वेट कैंप ने यह तर्क देते हुए 2026 खर्च किए हैं कि सक्षम एआई को हाइपरस्केलर के डेटा सेंटर में रहने की आवश्यकता नहीं है। Edge0-145B उस तर्क में अब तक का सबसे आक्रामक डेटापॉइंट है।

डेवलपर्स मॉडल वेट डाउनलोड कर सकते हैं, अनुमान ढांचे का पता लगा सकते हैं, या कंपनी की साइट के माध्यम से Edge0 ऐप आज़मा सकते हैं। क्या बेंचमार्क सामुदायिक जांच से बचे रहेंगे, यह खुला प्रश्न है - लेकिन पुनरुत्पादन के लिए जारी किए गए पूर्ण स्टैक के साथ, उस जांच में अधिक समय नहीं लगना चाहिए।

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →