Edge0 udostępnił Edge0-145B na otwartym kodzie źródłowym 12 listopada 2026 r. wraz z mniejszym Edge0-120B, ujednoliconą strukturą wnioskowania i narzędziami do wdrażania. Startup opisuje Edge0-145B jako pierwszy model sztucznej inteligencji typu open source na urządzeniu ze 145 miliardami parametrów i twierdzi, że zapewnia on możliwości kodowania, wnioskowania i agenta, które mogą konkurować z pionierskimi modelami chmurowymi ze sprzętem konsumenckim.

Wydanie ukazało się tego samego dnia, w którym osiągnęło 219 punktów w serwisie Hacker News, gdzie perspektywa modelu z parametrami ponad 100B działającego bez serwera przyciągnęła znaczną uwagę programistów, którzy podążają za lokalnymi wnioskowaniami. Więcej kontekstu na ten temat znajdziesz w naszych najnowsze osiągnięcia AI.

Liczby związane z roszczeniem dotyczącym laptopa

Zgodnie z zapowiedzią firmy Edge0-145B działa na kompatybilnym laptopie osobistym, takim jak MacBook Pro, z następującymi raportowanymi wynikami:

  • Pamięć szczytowa 29 GB, wystarczająco mała, aby zmieścić się na wysokiej klasy komputerach konsumenckich bez serwera dedykowanego
  • Ponad 1100 tokenów na sekundę przed wypełnieniem, co pozwala procesowi modelowania wyświetlać monity obejmujące dziesiątki stron kodu przed rozpoczęciem generowania
  • Dekodowanie ponad 80 tokenów na sekundę, co według firmy jest szybsze, niż osoba czyta
  • Typowa moc około 120 W, podtrzymanie pracy bez dławienia w raportowanej konfiguracji
  • Kontekst od 128 tys. do 256 tys., z zasadniczo niezmienioną szybkością generowania na długich wejściach

Liczby te pochodzą z opublikowanych przez Edge0 testów porównawczych, a nie z niezależnych testów, a firma udostępniła pełny stos – wagi, platformę wnioskowania i narzędzia do wdrażania – aby programiści mogli odtworzyć pomiary na własnym sprzęcie.

Dlaczego modele na urządzeniu pozostały małe

Ogłoszenie zawiera przydatny kontekst wyjaśniający, dlaczego duże modele były w przeszłości nieobecne w laptopach. Przed wrześniem 2026 r. limity pamięci utrzymywały większość modeli na urządzeniach poniżej 10 miliardów parametrów. Podstawowy model urządzenia Apple Intelligence miał około 3 miliardy parametrów, podczas gdy model Gemini Nano firmy Google był dostępny w wersjach 1.8B i 3.25B.

Ograniczenie ma charakter fizyczny: wagi modeli muszą być odczytywane z pamięci na każdym etapie generowania, konkurując o przepustowość z systemem operacyjnym i innymi aplikacjami. Nawet agresywnie skompresowany model 35B może wymagać około 20 GB pamięci, czyli znacznie przekraczającej możliwości przydzielenia telefonów.

Wcześniejsza wersja Edge0 pokazała, dokąd zmierza podejście firmy. Model telefonu Edge0-35B odnotował szczytową ilość pamięci poniżej 2,5 GB, dostarczając ponad 37 tokenów na sekundę na iPhonie 18 Pro Max. Edge0-145B ma mniej więcej czterokrotnie lepsze parametry niż ten model, podczas gdy konfiguracja laptopa podaje mniej więcej dwukrotnie większą prędkość dekodowania przy 28 GB pamięci – firma zwraca uwagę, że te pomiary dotyczą różnych modeli i sprzętu.

Asystent, który kończy pracę

Poza samą szybkością Edge0 pozycjonuje model jako agenta, a nie chatbota. W ogłoszeniu opisano system, który planuje, pisze i uruchamia kod, debuguje błędy i wizualnie sprawdza wyniki projektów, takich jak sceny 3D, gry, programy sprzętowe i projekty PCB.

Firma podaje, że wyniki kodowania, wnioskowania i wykonywania instrukcji są konkurencyjne w porównaniu z konkretnymi pionierskimi modelami chmur, chociaż opublikowane porównania nie zostały jeszcze niezależnie zweryfikowane. Podobnie jak w przypadku każdego testu porównawczego zgłaszanego przez dostawcę, programiści będą chcieli zapoznać się z ocenami stron trzecich, zanim wyciągną wnioski na temat parytetu na poziomie pionierskim.

Argument dotyczący prywatności i kosztów

Pomysł opiera się na trzech zaletach w porównaniu z przepływami pracy w chmurze. Wnioskowanie lokalne nie wiąże się z opłatami za interfejs API za token, wrażliwe dane mogą pozostać na urządzeniu, a podstawowe funkcje działają w trybie offline. W przypadku przedsiębiorstw obsługujących dane podlegające regulacjom oraz dla programistów pracujących w środowiskach o ograniczonej przepustowości te właściwości mogą przewyższać surowe możliwości hostowanego modelu granicznego.

Sprzęt i prąd nie są oczywiście darmowe. Edge0 potwierdza to bezpośrednio, zauważając, że jego dane dotyczące mocy odzwierciedlają stały pobór ~120 W – porównywalny z wysokowydajnym laptopem pracującym przy dużym obciążeniu, co ma realny wpływ na żywotność baterii i temperaturę.

Co to oznacza dla lokalnego ekosystemu sztucznej inteligencji

Analiza towarzysząca ogłoszeniu obejmuje 67 otwartych modeli o parametrach co najmniej 1B z 14 laboratoriów przeznaczonych dla telefonów, laptopów i komputerów PC ze sztuczną inteligencją, a trajektoria jest stroma. Jeśli zgłoszone liczby zostaną poddane niezależnej ocenie, Edge0-145B oznaczałoby skokową zmianę w zakresie możliwości obsługi sprzętu konsumenckiego: klasę modeli, która do tej pory wymagała udostępnienia procesorów graficznych dla centrów danych na maszynach, które ludzie już posiadali.

Konkurenci podążają w tym samym kierunku. Meta dostarczyła otwarty model agenta Muse Glimmer zbudowany do działania na konsumenckich procesorach graficznych, a platforma Apple Foundation Models ponownie wzbudziła zainteresowanie programistów wnioskowaniem na urządzeniu. Różnica polega na skali: nic w obecnym ekosystemie otwartych wag nie zbliża się do parametrów 145B przeznaczonych dla budżetów pamięci klasy laptopów.

Komunikat ten wpisuje się także w nasiloną debatę na temat centralizacji. Od przeglądarek zorientowanych na prywatność, które dodają agentyczne przepływy płatności po struktury wnioskowania zorientowane lokalnie, obóz branżowy spędził rok 2026 na argumentowaniu, że wydajna sztuczna inteligencja nie musi znajdować się w centrum danych hiperskalera. Edge0-145B to najbardziej agresywny punkt danych w tym argumencie.

Programiści mogą pobrać wagi modeli, zapoznać się ze strukturą wnioskowania lub wypróbować aplikację Edge0 za pośrednictwem witryny firmy. Kwestią otwartą jest, czy testy porównawcze przetrwają kontrolę społeczności, ale biorąc pod uwagę udostępnienie pełnego stosu do reprodukcji, analiza ta nie powinna zająć dużo czasu.

---

Bądź na Bieżąco z AI

Najnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.

Czytaj więcej wiadomości AI →