Edge0 відкрив вихідний код Edge0-145B 12 листопада 2026 року разом із меншим Edge0-120B, уніфікованою системою висновків та інструментами розгортання. Стартап описує Edge0-145B як першу модель штучного інтелекту на пристрої з відкритим вихідним кодом із 145 мільярдами параметрів і заявляє, що вона надає можливості кодування, міркування та агентів, які конкурують із передовими хмарними моделями для споживчого обладнання.

Реліз вийшов у той самий день, коли він піднявся до 219 балів на Hacker News, де перспектива моделі параметрів 100B+, що працює без сервера, привернула значну увагу розробників, які слідують місцевим висновкам. For more context on this story, see our ongoing AI trends.

Цифри, що стоять за твердженням про ноутбук

Згідно з повідомленням компанії, Edge0-145B працює на сумісному персональному ноутбуці, наприклад MacBook Pro, із такими результатами:

  • 29 ГБ максимального об’єму пам’яті, достатньо мало, щоб розмістити його на споживчих машинах високого класу без виділеного сервера
  • 1100+ токенів на секунду попереднього заповнення, що дозволяє моделі обробляти запити, що охоплюють десятки сторінок коду, перш ніж почнеться генерація
  • Понад 80 токенів на секунду декодується, що, як зазначає компанія, швидше, ніж людина читає
  • Приблизно 120 Вт типової потужності, підтримуючи роботу без дроселювання в наведених налаштуваннях
  • контекст від 128K до 256K із практично незмінною швидкістю генерації на довгих входах

Ці цифри отримано з власних опублікованих еталонних тестів Edge0, а не з незалежного тестування, і компанія випустила повний стек — вагові коефіцієнти, структуру висновків та інструменти розгортання — щоб розробники могли відтворити вимірювання на власному обладнанні.

Чому моделі на пристрої залишаються маленькими

Оголошення містить корисний контекст про те, чому великі моделі історично були відсутні в ноутбуках. До вересня 2026 року обмеження пам’яті більшості моделей пристроїв не перевищували 10 мільярдів параметрів. Основна модель Apple Intelligence на пристрої мала приблизно 3 мільярди параметрів, тоді як Gemini Nano від Google поставлявся у версіях 1,8B та 3,25B.

Обмеження є фізичним: ваги моделі повинні зчитуватися з пам’яті під час кожного кроку генерації, конкуруючи за пропускну здатність з операційною системою та іншими програмами. Навіть для агресивно стисненої моделі 35B може знадобитися близько 20 ГБ пам’яті, що набагато перевищує те, що можуть виділити телефони.

Попередній випуск Edge0 показав, куди рухається підхід компанії. Модель телефону Edge0-35B повідомила про максимальний обсяг пам’яті нижче 2,5 ГБ, надаючи понад 37 токенів за секунду на iPhone 18 Pro Max. Параметри Edge0-145B приблизно в чотири рази перевищують параметри цієї моделі, а його конфігурація ноутбука повідомляє приблизно вдвічі більшу швидкість декодування при 28 ГБ пам’яті — компанія обережно зауважує, що ці вимірювання стосуються різних моделей і апаратного забезпечення.

Помічник, який завершує роботу

Окрім простої швидкості, Edge0 позиціонує модель як агента, а не чат-бота. В оголошенні описується система, яка планує, пише та запускає код, усуває помилки та візуально перевіряє результати для таких проектів, як 3D-сцени, ігри, апаратні програми та проекти друкованих плат.

Компанія повідомляє, що результати кодування, міркування та виконання інструкцій є конкурентоспроможними з конкретними прикордонними моделями хмари, хоча її опубліковані порівняння ще не були незалежно перевірені. Як і у випадку з будь-яким бенчмарком, наданим постачальником, розробники захочуть побачити оцінки третіх сторін, перш ніж робити висновки щодо паритету передового рівня.

Аргумент конфіденційності та вартості

Пропозиція базується на трьох перевагах над хмарними робочими процесами. Локальний висновок не стягує плати за API за маркер, конфіденційні дані можуть залишатися на пристрої, а основні можливості продовжують працювати в автономному режимі. Для підприємств, які обробляють регульовані дані, і для розробників у середовищах з обмеженою пропускною спроможністю ці властивості можуть переважити сирі можливості розміщеної граничної моделі.

Обладнання та електроенергія, звичайно, не безкоштовні. Edge0 це прямо визнає, зазначаючи, що показники його потужності відображають тривале споживання ~120 Вт — це можна порівняти з високопродуктивним ноутбуком, який працює під високим навантаженням, що має реальні наслідки для терміну служби батареї та теплових показників.

Що це означає для локальної екосистеми ШІ

У супровідному аналізі оголошення відстежуються 67 відкритих моделей із принаймні 1B параметрами з 14 лабораторій, призначених для телефонів, ноутбуків і комп’ютерів зі штучним інтелектом, і траєкторія крута. Якщо опубліковані цифри витримають незалежну перевірку, Edge0-145B стане кроком у зміні споживчого апаратного забезпечення: клас моделі, який досі вимагав, щоб графічні процесори центрів обробки даних ставали доступними на машинах, які люди вже мають.

Конкуренти рухаються в одному напрямку. Meta випустила свою відкриту агентну модель Muse Glimmer, створену для роботи на споживчих GPU, а фреймворк Apple Foundation Models відновив інтерес розробників до висновків на пристрої. Різниця полягає в масштабі: ніщо в поточній екосистемі відкритих ваг не наближається до 145B параметрів, орієнтованих на бюджет пам’яті класу ноутбуків.

Випуск також відбувається на тлі загострення дебатів щодо централізації. Від орієнтованих на конфіденційність браузерів, які додають агентські потоки платежів до фреймворків локального висновку, галузь відкритого табору витратила 2026 рік, стверджуючи, що потужний штучний інтелект не повинен жити в центрі обробки даних гіпермасштабувальника. Edge0-145B є найагресивнішою точкою даних у цьому аргументі.

Розробники можуть завантажити вагові коефіцієнти моделі, вивчити структуру висновків або спробувати додаток Edge0 на сайті компанії. Питання, чи витримають тести перевірку спільноти, залишається відкритим, але з повним набором, випущеним для відтворення, перевірка не займе багато часу.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →