Edge0 veröffentlichte am 12. November 2026 den Open-Source-Server Edge0-145B zusammen mit einem kleineren Edge0-120B, einem einheitlichen Inferenz-Framework und Bereitstellungstools. Das Startup beschreibt Edge0-145B als das erste Open-Source-KI-Modell auf dem Gerät mit 145 Milliarden Parametern und sagt, dass es Codierungs-, Argumentations- und Agentenfunktionen auf Verbraucherhardware bringt, die mit Frontier-Cloud-Modellen konkurrieren können.

Die Veröffentlichung landete am selben Tag, an dem sie bei Hacker News auf 219 Punkte kletterte, wo die Aussicht auf ein 100B-Plus-Parametermodell, das ohne Server läuft, erhebliche Aufmerksamkeit von Entwicklern erregte, die lokale Inferenz verfolgen. Weitere Informationen zu dieser Geschichte finden Sie in unserer neueste KI-Entwicklungen.

Die Zahlen hinter der Laptop-Behauptung

Laut der Ankündigung des Unternehmens läuft Edge0-145B auf einem kompatiblen persönlichen Laptop wie einem MacBook Pro mit den folgenden gemeldeten Ergebnissen:

  • 29 GB Spitzenspeicher, niedrig genug, um auf High-End-Verbrauchermaschinen ohne dedizierten Server zu passen
  • Über 1.100 Token pro Sekunde werden vorab ausgefüllt, sodass das Modell Eingabeaufforderungen verarbeiten kann, die sich über Dutzende Codeseiten erstrecken, bevor mit der Generierung begonnen wird
  • Über 80 Token pro Sekunde werden dekodiert, was nach Angaben des Unternehmens schneller ist, als eine Person liest
  • ca. 120 W typische Leistung, Aufrechterhaltung des Betriebs ohne Drosselung im gemeldeten Setup
  • 128K bis 256K Kontext, mit im Wesentlichen unveränderter Generierungsgeschwindigkeit bei langen Eingaben

Diese Zahlen stammen aus den von Edge0 selbst veröffentlichten Benchmarks und nicht aus unabhängigen Tests, und das Unternehmen hat den vollständigen Stack – Gewichtungen, Inferenz-Framework und Bereitstellungstools – veröffentlicht, damit Entwickler die Messungen auf ihrer eigenen Hardware reproduzieren können.

Warum On-Device-Modelle klein geblieben sind

Die Ankündigung enthält nützliche Informationen dazu, warum es in der Vergangenheit keine großen Modelle bei Laptops gab. Vor September 2026 hielten die Speicherbeschränkungen die meisten On-Device-Modelle unter 10 Milliarden Parametern. Das geräteinterne Basismodell von Apple Intelligence verfügte über etwa 3 Milliarden Parameter, während Googles Gemini Nano in den Versionen 1,8B und 3,25B ausgeliefert wurde.

Die Einschränkung ist physischer Natur: Modellgewichte müssen bei jedem Generierungsschritt aus dem Speicher gelesen werden und konkurrieren mit dem Betriebssystem und anderen Anwendungen um Bandbreite. Selbst ein stark komprimiertes 35-B-Modell könnte etwa 20 GB Speicher erfordern, was weit über dem liegt, was Telefone zuweisen könnten.

Die frühere Veröffentlichung von Edge0 zeigte, wohin der Ansatz des Unternehmens führt. Das Telefonmodell Edge0-35B meldete einen Spitzenspeicher von unter 2,5 GB und lieferte 37+ Token pro Sekunde auf einem iPhone 18 Pro Max. Der Edge0-145B hat ungefähr viermal so viele Parameter wie dieses Modell, während die Laptop-Konfiguration bei 28 GB Speicher etwa die doppelte Decodierungsgeschwindigkeit meldet – das Unternehmen achtet darauf, dass diese Messungen für verschiedene Modelle und Hardware gelten.

Ein Assistent, der die Arbeit erledigt

Über die bloße Geschwindigkeit hinaus positioniert Edge0 das Modell als Agent und nicht als Chatbot. Die Ankündigung beschreibt ein System, das Code plant, schreibt und ausführt, Fehler debuggt und Ergebnisse für Projekte wie 3D-Szenen, Spiele, Hardwareprogramme und PCB-Designs visuell überprüft.

Das Unternehmen berichtet, dass die Ergebnisse in den Bereichen Codierung, Argumentation und Befehlsbefolgung mit bestimmten Frontier-Cloud-Modellen konkurrenzfähig sind, obwohl die veröffentlichten Vergleiche noch nicht unabhängig überprüft wurden. Wie bei jedem vom Anbieter gemeldeten Benchmark sollten Entwickler die Bewertungen Dritter einsehen, bevor sie Rückschlüsse auf die Parität auf Grenzebene ziehen.

Das Datenschutz- und Kostenargument

Der Pitch basiert auf drei Vorteilen gegenüber Cloud-Workflows. Für die lokale Inferenz fallen keine API-Gebühren pro Token an, vertrauliche Daten können auf dem Gerät verbleiben und Kernfunktionen funktionieren weiterhin offline. Für Unternehmen, die regulierte Daten verarbeiten, und für Entwickler in Umgebungen mit eingeschränkter Bandbreite können diese Eigenschaften die reine Leistungsfähigkeit eines gehosteten Frontier-Modells überwiegen.

Hardware und Strom sind natürlich nicht kostenlos. Edge0 erkennt dies direkt an und weist darauf hin, dass seine Leistungsangaben einen anhaltenden Stromverbrauch von ~120 W widerspiegeln – vergleichbar mit einem Hochleistungs-Laptop, der eine anspruchsvolle Arbeitslast ausführt, was echte Auswirkungen auf die Akkulaufzeit und die Thermik hat.

Was es für das lokale KI-Ökosystem bedeutet

Die begleitende Analyse der Ankündigung verfolgt 67 offene Modelle mit mindestens 1 Milliarde Parametern aus 14 Laboren, die für Telefone, Laptops und KI-PCs bestimmt sind, und die Entwicklung ist steil. Wenn die gemeldeten Zahlen einer unabhängigen Prüfung standhalten, würde Edge0-145B eine deutliche Änderung dessen darstellen, was Consumer-Hardware hosten kann: eine Modellklasse, die bislang die Verfügbarkeit von Rechenzentrums-GPUs auf Maschinen erforderte, die die Leute bereits besitzen.

Die Konkurrenz bewegt sich in die gleiche Richtung. Meta hat sein offenes Agentenmodell Muse Glimmer ausgeliefert, das für die Ausführung auf Consumer-GPUs entwickelt wurde, und das Foundation Models-Framework von Apple hat das Interesse der Entwickler an Inferenz auf dem Gerät erneut geweckt. Der Unterschied liegt in der Skalierung: Nichts im aktuellen Open-Weight-Ökosystem kommt auch nur annähernd an 145B-Parameter heran, die auf Speicherbudgets der Laptop-Klasse abzielen.

Die Veröffentlichung erfolgt auch inmitten einer sich verschärfenden Debatte über die Zentralisierung. Von datenschutzorientierten Browsern, die Agenten-Zahlungsströme hinzufügen, bis hin zu Local-First-Inferenz-Frameworks hat das offene Lager der Branche das Jahr 2026 damit verbracht, zu argumentieren, dass leistungsfähige KI nicht im Rechenzentrum eines Hyperscalers leben muss. Edge0-145B ist der bislang aggressivste Datenpunkt in dieser Argumentation.

Entwickler können die Modellgewichte herunterladen, das Inferenz-Framework erkunden oder die Edge0-App über die Website des Unternehmens ausprobieren. Ob die Benchmarks der Community-Prüfung standhalten, ist die offene Frage – aber da der vollständige Stack zur Reproduktion freigegeben ist, sollte diese Prüfung nicht lange dauern.

---

Bleib vorne bei KI

Die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Mehr KI-Nachrichten lesen →