Edge0 cu sursă deschisă Edge0-145B pe 12 noiembrie 2026, alături de un Edge0-120B mai mic, un cadru de inferență unificat și instrumente de implementare. Startup-ul descrie Edge0-145B ca fiind primul model open-source de IA pe dispozitiv, cu 145 de miliarde de parametri, și spune că aduce capabilități de codare, raționament și agent care rivalizează cu modelele cloud de frontieră hardware-ului de consum.

Lansarea a aterizat în aceeași zi în care a urcat la 219 de puncte pe Hacker News, unde perspectiva unui model de parametri de peste 100B care rulează fără un server a atras atenția substanțială din partea dezvoltatorilor care urmează inferența locală. For more context on this story, see our ongoing latest AI developments.

Revendicarea numerelor din spatele laptopului

Conform anunțului companiei, Edge0-145B rulează pe un laptop personal compatibil, cum ar fi un MacBook Pro, cu următoarele rezultate raportate:

  • Memorie maximă de 29 GB, suficient de scăzută pentru a se potrivi pe mașinile de ultimă generație fără un server dedicat
  • 1.100+ de jetoane pe secundă de completare anticipată, permițând procesului modelului solicitări pe zeci de pagini de cod înainte de începerea generării
  • 80+ jetoane pe secundă decodificate, despre care compania observă că este mai rapid decât le citește o persoană
  • Putere tipică de aproximativ 120 W, susținând funcționarea fără accelerare în configurația raportată
  • Context de la 128K la 256K, cu viteză de generare practic neschimbată pe intrări lungi

Aceste cifre provin din propriile benchmark-uri publicate de Edge0, mai degrabă decât din teste independente, iar compania a lansat stiva completă - greutăți, cadru de inferență și instrumente de implementare - astfel încât dezvoltatorii să poată reproduce măsurătorile pe propriul hardware.

De ce modelele de pe dispozitiv au rămas mici

Anunțul include un context util despre motivul pentru care modelele mari au lipsit istoric de pe laptopuri. Înainte de septembrie 2026, limitele de memorie au menținut majoritatea modelelor de pe dispozitiv sub 10 miliarde de parametri. Modelul de bază al dispozitivului Apple Intelligence a avut aproximativ 3 miliarde de parametri, în timp ce Gemini Nano de la Google a fost livrat în versiunile 1.8B și 3.25B.

Constrângerea este fizică: greutățile modelului trebuie citite din memorie în timpul fiecărei etape de generare, concurând pentru lățimea de bandă cu sistemul de operare și alte aplicații. Chiar și un model de 35B comprimat agresiv ar putea necesita aproximativ 20 GB de memorie, ceea ce este cu mult peste ceea ce telefoanele ar putea aloca.

Lansarea anterioară a lui Edge0 a arătat încotro se îndreaptă abordarea companiei. Modelul de telefon Edge0-35B a raportat un vârf de memorie sub 2,5 GB, oferind peste 37 de jetoane pe secundă pe un iPhone 18 Pro Max. Edge0-145B are aproximativ de patru ori mai mari decât parametrii acelui model, în timp ce configurația laptopului său raportează aproximativ dublul vitezei de decodare la 28 GB de memorie - compania are grijă să noteze că aceste măsurători se aplică diferitelor modele și hardware.

Un asistent care termină munca

Dincolo de viteza brută, Edge0 poziționează modelul mai degrabă ca agent decât ca chatbot. Anunțul descrie un sistem care planifică, scrie și rulează cod, depanează erorile și verifică vizual rezultatele pentru proiecte precum scene 3D, jocuri, programe hardware și design PCB.

Compania raportează că rezultatele de codare, raționament și urmărire a instrucțiunilor sunt competitive cu modele specifice cloud de frontieră, deși comparațiile sale publicate nu au fost încă verificate independent. Ca și în cazul oricărui benchmark raportat de furnizor, dezvoltatorii vor dori să vadă evaluări de la terți înainte de a trage concluzii despre paritatea la nivel de frontieră.

Argumentul privind confidențialitatea și costul

Prezentul se bazează pe trei avantaje față de fluxurile de lucru în cloud. Inferența locală nu implică taxe API per token, datele sensibile pot rămâne pe dispozitiv, iar capabilitățile de bază continuă să funcționeze offline. Pentru întreprinderile care manipulează date reglementate și pentru dezvoltatorii din medii cu lățime de bandă restrânsă, aceste proprietăți pot depăși capacitatea brută a unui model de frontieră găzduit.

Hardware-ul și electricitatea nu sunt gratuite, desigur. Edge0 recunoaște acest lucru în mod direct, observând că cifrele sale de putere reflectă un consum susținut de ~120 W - comparabil cu un laptop de înaltă performanță care rulează o sarcină de lucru solicitantă, care are implicații reale pentru durata de viață a bateriei și termice.

Ce înseamnă pentru ecosistemul AI local

Analiza însoțitoare a anunțului urmărește 67 de modele deschise de cel puțin 1B parametri din 14 laboratoare destinate telefoanelor, laptopurilor și PC-urilor AI, iar traiectoria este abruptă. Dacă cifrele raportate rezistă în urma unei revizuiri independente, Edge0-145B ar reprezenta o schimbare de pas în ceea ce poate găzdui hardware-ul de consum: o clasă de model care până acum a cerut ca GPU-urile centrelor de date să devină disponibile pe mașinile pe care oamenii le dețin deja.

Concurenții se mișcă în aceeași direcție. Meta a livrat modelul său agent deschis Muse Glimmer, construit pentru a rula pe GPU-uri pentru consumatori, iar cadrul Apple Models Foundation a reînnoit interesul dezvoltatorilor pentru inferența pe dispozitiv. Diferența este scara: nimic din ecosistemul actual de greutăți deschise nu se apropie de parametrii de 145B care vizează bugetele de memorie de clasă laptop.

Lansarea aterizează, de asemenea, pe fondul unei dezbateri intense despre centralizare. De la browserele axate pe confidențialitate care adaugă fluxuri de plăți agentice la cadrele de inferență locale, tabăra deschisă a industriei a petrecut 2026 argumentând că AI capabilă nu trebuie să trăiască în centrul de date al unui hyperscaler. Edge0-145B este cel mai agresiv punct de date de până acum în acest argument.

Dezvoltatorii pot descărca greutățile modelului, pot explora cadrul de inferență sau pot încerca aplicația Edge0 prin site-ul companiei. Dacă punctele de referință supraviețuiesc controlului comunitar este întrebarea deschisă, dar cu întregul stack eliberat pentru reproducere, acest control nu ar trebui să dureze mult.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →