Edge0 melakukan open source Edge0-145B pada 12 November 2026, bersama dengan Edge0-120B yang lebih kecil, kerangka inferensi terpadu, dan alat penerapan. Startup ini menggambarkan Edge0-145B sebagai model AI pada perangkat open-source pertama dengan 145 miliar parameter, dan mengatakan bahwa ia menghadirkan kemampuan pengkodean, penalaran, dan agen yang menyaingi model cloud frontier ke perangkat keras konsumen.
Rilis ini mendarat pada hari yang sama ketika ia naik ke 219 poin di Hacker News, di mana prospek model parameter 100 miliar lebih yang berjalan tanpa server menarik perhatian besar dari pengembang yang mengikuti inferensi lokal. For more context on this story, see our ongoing AI news.
Angka Dibalik Klaim Laptop
Menurut pengumuman perusahaan, Edge0-145B berjalan pada laptop pribadi yang kompatibel seperti MacBook Pro dengan hasil yang dilaporkan sebagai berikut:
- Memori puncak 29GB, cukup rendah untuk muat pada mesin konsumen kelas atas tanpa server khusus
- 1.100+ token per detik pra-pengisian, memungkinkan proses model meminta puluhan halaman kode sebelum pembuatan dimulai
- 80+ token per detik dekode, yang menurut catatan perusahaan lebih cepat daripada yang dibaca seseorang
- Daya tipikal sekitar 120W, mempertahankan pengoperasian tanpa pembatasan dalam pengaturan yang dilaporkan
- Konteks 128K hingga 256K, dengan kecepatan pembangkitan yang pada dasarnya tidak berubah pada input panjang
Angka-angka ini berasal dari tolok ukur Edge0 yang dipublikasikan, bukan pengujian independen, dan perusahaan telah merilis seluruh tumpukan — bobot, kerangka inferensi, dan alat penerapan — sehingga pengembang dapat mereproduksi pengukuran pada perangkat keras mereka sendiri.
Mengapa Model Pada Perangkat Tetap Kecil
Pengumuman tersebut mencakup konteks yang berguna tentang mengapa model besar secara historis tidak ada di laptop. Sebelum September 2026, batas memori membuat sebagian besar model pada perangkat berada di bawah 10 miliar parameter. Model dasar pada perangkat Apple Intelligence memiliki sekitar 3 miliar parameter, sementara Gemini Nano dari Google dikirimkan dalam versi 1,8B dan 3,25B.
Kendalanya bersifat fisik: bobot model harus dibaca dari memori pada setiap langkah pembangkitan, sehingga bersaing untuk mendapatkan bandwidth dengan sistem operasi dan aplikasi lainnya. Bahkan model 35B yang dikompresi secara agresif memerlukan memori sekitar 20 GB, yang jauh melebihi kapasitas yang dapat dialokasikan oleh ponsel.
Rilis Edge0 sebelumnya menunjukkan arah pendekatan perusahaan. Model ponsel Edge0-35B melaporkan memori puncak di bawah 2,5 GB, menghasilkan 37+ token per detik pada iPhone 18 Pro Max. Edge0-145B memiliki parameter sekitar empat kali lipat dari model tersebut, sementara konfigurasi laptopnya melaporkan kecepatan dekode sekitar dua kali lipat pada memori 28 GB — perusahaan berhati-hati untuk mencatat bahwa pengukuran ini berlaku untuk model dan perangkat keras yang berbeda.
Asisten yang Selesai Bekerja
Di luar kecepatan aslinya, Edge0 memposisikan model sebagai agen, bukan chatbot. Pengumuman tersebut menjelaskan sistem yang merencanakan, menulis dan menjalankan kode, men-debug kesalahan, dan memeriksa hasil secara visual untuk proyek-proyek seperti adegan 3D, permainan, program perangkat keras, dan desain PCB.
Perusahaan melaporkan bahwa hasil pengkodean, penalaran, dan mengikuti instruksi bersaing dengan model cloud frontier tertentu, meskipun perbandingan yang dipublikasikan belum diverifikasi secara independen. Seperti halnya tolok ukur yang dilaporkan vendor, pengembang ingin melihat evaluasi pihak ketiga sebelum menarik kesimpulan tentang paritas tingkat batas.
Argumen Privasi dan Biaya
Presentasi ini bertumpu pada tiga keunggulan dibandingkan alur kerja cloud. Inferensi lokal tidak dikenakan biaya API per token, data sensitif dapat tetap berada di perangkat, dan kemampuan inti tetap bekerja secara offline. Untuk perusahaan yang menangani data yang diatur, dan untuk pengembang di lingkungan dengan bandwidth terbatas, properti tersebut dapat melebihi kemampuan mentah model frontier yang dihosting.
Perangkat keras dan listrik tentu saja tidak gratis. Edge0 mengakui hal ini secara langsung, dan mencatat bahwa angka dayanya mencerminkan konsumsi daya yang berkelanjutan sebesar ~120W — sebanding dengan laptop berperforma tinggi yang menjalankan beban kerja berat, yang memiliki implikasi nyata terhadap masa pakai baterai dan suhu termal.
Apa Artinya Bagi Ekosistem AI Lokal
Analisis yang menyertai pengumuman tersebut melacak 67 model terbuka dengan setidaknya parameter 1B dari 14 laboratorium yang ditujukan untuk ponsel, laptop, dan PC AI, dan lintasannya sangat curam. Jika angka-angka yang dilaporkan ini bertahan dalam tinjauan independen, Edge0-145B akan mewakili sebuah langkah perubahan dalam hal apa yang dapat dihosting oleh perangkat keras konsumen: sebuah kelas model yang hingga saat ini menuntut agar GPU pusat data tersedia pada mesin yang sudah dimiliki oleh orang-orang.
Pesaing bergerak ke arah yang sama. Meta telah mengirimkan model agen terbuka Muse Glimmer yang dibuat untuk dijalankan pada GPU konsumen, dan kerangka Model Dasar Apple telah memperbarui minat pengembang terhadap inferensi pada perangkat. Perbedaannya adalah skala: tidak ada ekosistem open-weight saat ini yang mendekati 145 miliar parameter yang menargetkan anggaran memori kelas laptop.
Rilis ini juga terjadi di tengah perdebatan yang semakin intensif mengenai sentralisasi. Dari browser yang berfokus pada privasi yang menambahkan alur pembayaran agen hingga kerangka inferensi yang mengutamakan lokal, kubu industri yang terbuka telah menghabiskan tahun 2026 dengan argumen bahwa AI yang mumpuni tidak perlu berada di pusat data hyperscaler. Edge0-145B adalah titik data paling agresif dalam argumen tersebut.
Pengembang dapat mengunduh bobot model, menjelajahi kerangka inferensi, atau mencoba Aplikasi Edge0 melalui situs perusahaan. Apakah tolok ukur tersebut dapat bertahan dalam pengawasan komunitas masih menjadi pertanyaan terbuka – namun dengan seluruh tumpukan yang dirilis untuk direproduksi, pengawasan tersebut tidak akan memakan waktu lama.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
