Edge0 sumber terbuka Edge0-145B pada 12 November 2026, di samping Edge0-120B yang lebih kecil, rangka kerja inferens bersatu dan alatan penggunaan. Permulaan itu menerangkan Edge0-145B sebagai model AI pada peranti sumber terbuka pertama pada 145 bilion parameter, dan mengatakan ia membawa keupayaan pengekodan, penaakulan dan ejen yang menyaingi model awan sempadan dengan perkakasan pengguna.
Keluaran itu mendarat pada hari yang sama ia meningkat kepada 219 mata di Hacker News, di mana prospek model parameter 100B-plus berjalan tanpa pelayan menarik perhatian besar daripada pembangun yang mengikuti inferens tempatan. For more context on this story, see our ongoing AI trends.
Nombor di Sebalik Tuntutan Komputer Riba
Menurut pengumuman syarikat, Edge0-145B berjalan pada komputer riba peribadi yang serasi seperti MacBook Pro dengan hasil yang dilaporkan berikut:
- Memori puncak 29GB, cukup rendah untuk dimuatkan pada mesin pengguna mewah tanpa pelayan khusus
- 1,100+ praisi token sesaat, membiarkan proses model menggesa menjangkau berpuluh-puluh halaman kod sebelum penjanaan bermula
- 80+ token sesaat nyahkod, yang syarikat mencatatkan lebih pantas daripada seseorang membaca
- Kuasa biasa 120W, mengekalkan operasi tanpa pendikitan dalam persediaan yang dilaporkan
- Konteks 128K hingga 256K, dengan kelajuan penjanaan pada asasnya tidak berubah pada input panjang
Angka-angka ini datang daripada penanda aras terbitan Edge0 sendiri dan bukannya ujian bebas, dan syarikat itu telah mengeluarkan tindanan penuh — pemberat, rangka kerja inferens dan alatan penggunaan — supaya pembangun boleh menghasilkan semula ukuran pada perkakasan mereka sendiri.
Mengapa Model Pada Peranti Kekal Kecil
Pengumuman itu termasuk konteks yang berguna tentang sebab model besar secara sejarah tidak hadir dalam komputer riba. Sebelum September 2026, had memori mengekalkan kebanyakan model pada peranti di bawah 10 bilion parameter. Model asas pada peranti Apple Intelligence mempunyai kira-kira 3 bilion parameter, manakala Gemini Nano Google dihantar dalam versi 1.8B dan 3.25B.
Kekangan adalah fizikal: berat model mesti dibaca dari memori semasa setiap langkah generasi, bersaing untuk lebar jalur dengan sistem pengendalian dan aplikasi lain. Malah model 35B yang dimampatkan secara agresif mungkin memerlukan sekitar 20GB memori, yang jauh melebihi apa yang boleh diperuntukkan oleh telefon.
Keluaran awal Edge0 menunjukkan ke mana pendekatan syarikat itu menuju. Model telefon Edge0-35B melaporkan memori puncak di bawah 2.5GB, menyampaikan 37+ token sesaat pada iPhone 18 Pro Max. Edge0-145B mempunyai kira-kira empat kali ganda parameter model itu manakala konfigurasi komputer ribanya melaporkan kira-kira dua kali ganda kelajuan penyahkod pada memori 28GB — syarikat berhati-hati untuk mengambil perhatian bahawa ukuran ini digunakan untuk model dan perkakasan yang berbeza.
Pembantu yang Selesai Kerja
Di luar kelajuan mentah, Edge0 meletakkan model sebagai ejen dan bukannya chatbot. Pengumuman itu menerangkan sistem yang merancang, menulis dan menjalankan kod, menyahpepijat ralat dan menyemak hasil secara visual untuk projek seperti adegan 3D, permainan, atur cara perkakasan dan reka bentuk PCB.
Syarikat itu melaporkan bahawa pengekodan, penaakulan dan keputusan mengikut arahan adalah berdaya saing dengan model awan sempadan tertentu, walaupun perbandingannya yang diterbitkan belum lagi disahkan secara bebas. Seperti mana-mana penanda aras yang dilaporkan vendor, pembangun akan mahu melihat penilaian pihak ketiga sebelum membuat kesimpulan tentang pariti peringkat sempadan.
Privasi dan Hujah Kos
Padang bergantung pada tiga kelebihan berbanding aliran kerja awan. Inferens setempat tidak dikenakan yuran API per-token, data sensitif boleh kekal pada peranti dan keupayaan teras terus berfungsi di luar talian. Untuk perusahaan yang mengendalikan data terkawal, dan untuk pembangun dalam persekitaran terhad lebar jalur, sifat tersebut boleh mengatasi keupayaan mentah model sempadan yang dihoskan.
Perkakasan dan elektrik tidak percuma, sudah tentu. Edge0 mengakui perkara ini secara langsung, dengan menyatakan bahawa angka kuasanya mencerminkan cabutan ~120W yang berterusan — setanding dengan komputer riba berprestasi tinggi yang menjalankan beban kerja yang mencabar, yang mempunyai implikasi sebenar untuk hayat bateri dan haba.
Maksudnya untuk Ekosistem AI Setempat
Analisis yang disertakan pengumuman itu menjejaki 67 model terbuka sekurang-kurangnya 1B parameter daripada 14 makmal yang bertujuan untuk telefon, komputer riba dan PC AI, dan trajektorinya adalah curam. Jika nombor yang dilaporkan bertahan di bawah semakan bebas, Edge0-145B akan mewakili perubahan langkah dalam perkakasan pengguna yang boleh dihoskan: kelas model yang sehingga kini menuntut GPU pusat data tersedia pada mesin yang sudah dimiliki orang.
Pesaing bergerak ke arah yang sama. Meta telah menghantar model agenik terbuka Muse Glimmer yang dibina untuk dijalankan pada GPU pengguna, dan rangka kerja Model Yayasan Apple telah memperbaharui minat pembangun dalam inferens pada peranti. Perbezaannya ialah skala: tiada dalam ekosistem wajaran terbuka semasa yang hampir dengan parameter 145B yang menyasarkan belanjawan memori kelas komputer riba.
Pembebasan itu juga berlaku di tengah-tengah perdebatan yang semakin sengit tentang pemusatan. Daripada penyemak imbas yang memfokuskan privasi yang menambahkan aliran pembayaran ejen kepada rangka kerja inferens pertama tempatan, kem berwajaran terbuka industri telah menghabiskan 2026 dengan alasan bahawa AI yang berkebolehan tidak perlu tinggal di pusat data hyperscaler. Edge0-145B ialah titik data yang paling agresif lagi dalam hujah itu.
Pembangun boleh memuat turun berat model, meneroka rangka kerja inferens atau mencuba Apl Edge0 melalui tapak syarikat. Sama ada penanda aras bertahan dalam penelitian komuniti ialah persoalan terbuka — tetapi dengan timbunan penuh dikeluarkan untuk pengeluaran semula, penelitian itu tidak sepatutnya mengambil masa yang lama.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
