12 नोव्हेंबर 2026 रोजी Edge0 ओपन-सोर्स्ड Edge0-145B, लहान Edge0-120B, युनिफाइड इन्फरन्स फ्रेमवर्क आणि डिप्लॉयमेंट टूल्ससह. स्टार्टअपने Edge0-145B चे 145 अब्ज पॅरामीटर्सवर पहिले ओपन-सोर्स ऑन-डिव्हाइस AI मॉडेल म्हणून वर्णन केले आहे आणि म्हटले आहे की ते कोडिंग, तर्क आणि एजंट क्षमता आणते जे ग्राहक हार्डवेअरला फ्रंटियर क्लाउड मॉडेलला टक्कर देतात.

हॅकर न्यूजवर 219 पॉईंट्सवर पोहोचले त्याच दिवशी रिलीझ उतरले, जिथे सर्व्हरशिवाय 100B-प्लस पॅरामीटर मॉडेलच्या संभाव्यतेने स्थानिक अनुमानांचे अनुसरण करणाऱ्या विकासकांचे लक्ष वेधून घेतले. For more context on this story, see our ongoing AI trends.

लॅपटॉपच्या दाव्यामागील संख्या

कंपनीच्या घोषणेनुसार, Edge0-145B खालील रिपोर्ट केलेल्या परिणामांसह MacBook Pro सारख्या सुसंगत वैयक्तिक लॅपटॉपवर चालते:

  • 29GB पीक मेमरी, समर्पित सर्व्हरशिवाय हाय-एंड ग्राहक मशीनवर बसण्यासाठी पुरेशी कमी
  • 1,100+ टोकन प्रति सेकंद प्रीफिल, जेनरेशन सुरू होण्याआधी मॉडेल प्रक्रियेला कोडच्या डझनभर पृष्ठांचे प्रॉम्प्ट देऊ देते
  • 80+ टोकन प्रति सेकंद डीकोड, जे एखाद्या व्यक्तीने वाचलेल्यापेक्षा वेगवान असल्याचे कंपनीने नोंदवले आहे.
  • अंदाजे 120W वैशिष्ट्यपूर्ण पॉवर, नोंदवलेल्या सेटअपमध्ये थ्रॉटलिंगशिवाय ऑपरेशन टिकवून ठेवणे
  • 128K ते 256K संदर्भ, दीर्घ इनपुटवर मूलत: अपरिवर्तित जनरेशन गतीसह

हे आकडे स्वतंत्र चाचणीऐवजी Edge0 च्या स्वतःच्या प्रकाशित बेंचमार्कमधून आले आहेत आणि कंपनीने संपूर्ण स्टॅक - वजन, अनुमान फ्रेमवर्क आणि उपयोजन साधने - रिलीझ केले आहेत जेणेकरून विकासक त्यांच्या स्वतःच्या हार्डवेअरवर मोजमाप पुनरुत्पादित करू शकतात.

ऑन-डिव्हाइस मॉडेल्स लहान का राहिली आहेत

लॅपटॉपमधून मोठे मॉडेल ऐतिहासिकदृष्ट्या का अनुपस्थित आहेत यावरील उपयुक्त संदर्भ या घोषणेमध्ये समाविष्ट आहेत. सप्टेंबर 2026 पूर्वी, मेमरी मर्यादा बहुतेक ऑन-डिव्हाइस मॉडेल्स 10 अब्ज पॅरामीटर्सच्या खाली ठेवतात. Apple Intelligence च्या ऑन-डिव्हाइस फाउंडेशन मॉडेलमध्ये अंदाजे 3 अब्ज पॅरामीटर्स होते, तर Google चे जेमिनी नॅनो 1.8B आणि 3.25B आवृत्त्यांमध्ये पाठवले गेले.

मर्यादा भौतिक आहे: ऑपरेटिंग सिस्टम आणि इतर अनुप्रयोगांसह बँडविड्थसाठी स्पर्धा करताना, मॉडेलचे वजन प्रत्येक पिढीच्या चरणात मेमरीमधून वाचले जाणे आवश्यक आहे. अगदी आक्रमकपणे संकुचित केलेल्या 35B मॉडेलला सुमारे 20GB मेमरी आवश्यक असू शकते, जी फोन वाटप करू शकतील त्यापेक्षा खूप जास्त आहे.

Edge0 च्या आधीच्या रिलीझने कंपनीचा दृष्टीकोन कुठे चालला आहे हे दाखवले. Edge0-35B फोन मॉडेलने 2.5GB च्या खाली पीक मेमरी नोंदवली, iPhone 18 Pro Max वर प्रति सेकंद 37+ टोकन वितरित केले. Edge0-145B मध्ये त्या मॉडेलच्या पॅरामीटर्सच्या अंदाजे चार पट आहेत तर त्याचे लॅपटॉप कॉन्फिगरेशन 28GB मेमरीमध्ये डीकोड गती अंदाजे दुप्पट करते — हे मोजमाप वेगवेगळ्या मॉडेल्स आणि हार्डवेअरवर लागू होतात याची कंपनी काळजी घेते.

काम पूर्ण करणारा सहाय्यक

कच्च्या गतीच्या पलीकडे, Edge0 मॉडेलला चॅटबॉट ऐवजी एजंट म्हणून स्थान देते. घोषणा अशा प्रणालीचे वर्णन करते जी कोडची योजना बनवते, लिहिते आणि चालवते, त्रुटी डीबग करते आणि 3D दृश्ये, गेम, हार्डवेअर प्रोग्राम्स आणि PCB डिझाइन्स यासारख्या प्रकल्पांसाठी परिणाम दृष्यदृष्ट्या तपासते.

कंपनीने अहवाल दिला आहे की कोडिंग, तर्क आणि सूचना-नंतरचे परिणाम विशिष्ट फ्रंटियर क्लाउड मॉडेल्ससह स्पर्धात्मक आहेत, जरी त्याच्या प्रकाशित तुलना अद्याप स्वतंत्रपणे सत्यापित केल्या गेल्या नाहीत. कोणत्याही विक्रेत्याने नोंदवलेल्या बेंचमार्कप्रमाणे, विकासकांना सीमा-स्तरीय समता बद्दल निष्कर्ष काढण्यापूर्वी तृतीय-पक्ष मूल्यमापन पहावेसे वाटेल.

गोपनीयता आणि किंमत युक्तिवाद

खेळपट्टी क्लाउड वर्कफ्लोवर तीन फायद्यांवर अवलंबून असते. स्थानिक अनुमानांना प्रति-टोकन API शुल्क लागत नाही, संवेदनशील डेटा डिव्हाइसवर राहू शकतो आणि मुख्य क्षमता ऑफलाइन कार्य करत राहतात. नियमन केलेला डेटा हाताळणाऱ्या उपक्रमांसाठी आणि बँडविड्थ-प्रतिबंधित वातावरणातील विकासकांसाठी, ते गुणधर्म होस्ट केलेल्या फ्रंटियर मॉडेलच्या कच्च्या क्षमतेपेक्षा जास्त असू शकतात.

अर्थातच, हार्डवेअर आणि वीज विनामूल्य नाही. Edge0 हे थेट कबूल करते, हे लक्षात घेऊन की त्याच्या पॉवर आकृत्यांमध्ये सतत ~120W ड्रॉ प्रतिबिंबित होते — उच्च-कार्यक्षमता असलेल्या लॅपटॉपशी तुलना करता, ज्याचा बॅटरी आयुष्य आणि थर्मल्सवर परिणाम होतो.

स्थानिक एआय इकोसिस्टमसाठी याचा अर्थ काय आहे

घोषणेच्या सोबतचे विश्लेषण फोन, लॅपटॉप आणि एआय पीसीसाठी हेतू असलेल्या 14 लॅबमधून किमान 1B पॅरामीटर्सच्या 67 ओपन मॉडेल्सचा मागोवा घेते आणि मार्ग खूप मोठा आहे. जर नोंदवलेले आकडे स्वतंत्र पुनरावलोकनात टिकून राहिल्यास, Edge0-145B ग्राहक हार्डवेअर काय होस्ट करू शकतात यामधील एक पाऊल बदल दर्शवेल: एक मॉडेल वर्ग ज्याने आत्तापर्यंत डेटा सेंटर GPU ची मागणी लोकांच्या आधीच मालकीच्या मशिनवर उपलब्ध व्हावी.

स्पर्धक त्याच दिशेने जात आहेत. Meta ने ग्राहक GPU वर चालण्यासाठी तयार केलेले त्याचे म्युज ग्लिमर ओपन एजंटिक मॉडेल पाठवले आहे आणि ऍपलच्या फाउंडेशन मॉडेल फ्रेमवर्कने ऑन-डिव्हाइस अनुमानामध्ये विकसकांच्या स्वारस्याचे नूतनीकरण केले आहे. फरक स्केल आहे: सध्याच्या ओपन-वेट इकोसिस्टममध्ये लॅपटॉप-क्लास मेमरी बजेट लक्ष्यित 145B पॅरामीटर्सच्या जवळ येत नाही.

केंद्रीकरणाबद्दल तीव्र वादविवादाच्या दरम्यान प्रकाशन देखील होते. स्थानिक-प्रथम अनुमान फ्रेमवर्कमध्ये एजंटिक पेमेंट प्रवाह जोडणाऱ्या गोपनीयता-केंद्रित ब्राउझरपासून, सक्षम AI ला हायपरस्केलरच्या डेटा सेंटरमध्ये राहण्याची आवश्यकता नाही असा युक्तिवाद करण्यासाठी उद्योगाच्या ओपन-वेट कॅम्पने 2026 घालवले. Edge0-145B हा त्या युक्तिवादातील सर्वात आक्रमक डेटापॉइंट आहे.

विकसक मॉडेलचे वजन डाउनलोड करू शकतात, अनुमान फ्रेमवर्क एक्सप्लोर करू शकतात किंवा कंपनीच्या साइटद्वारे Edge0 ॲप वापरून पाहू शकतात. सामुदायिक छाननीमध्ये बेंचमार्क टिकून राहतात की नाही हा खुला प्रश्न आहे — परंतु पुनरुत्पादनासाठी पूर्ण स्टॅक सोडल्यास, त्या छाननीला जास्त वेळ लागू नये.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →