In einer Zeit, in der Grenzlabore darum kämpfen, Billionen-Parameter-Modelle zu entwickeln, die Rechenzentren füllen, ist ein Entwickler völlig in die andere Richtung gegangen: ein funktionierendes Frage-Antwort-Sprachmodell, das auf eine einzige Diskette aus den 1980er-Jahren passt und auf einer CPU läuft, die alt genug ist, um in einen 486DX geliefert zu werden.

Das Projekt mit dem Namen Tiny 2.1 wurde von Hackaday entdeckt und diese Woche von Futurism und Tom's Hardware aufgegriffen. Laut der GitHub-Projektseite wiegt das gesamte Modell etwa 380 KB 8-Bit-Gewichte – klein genug, um bequem auf eine MS-DOS-formatierte Diskette zu passen – und benötigt zum Betrieb nur 540 KB Speicher. Tom's Hardware berichtet, dass es seine Antworten sogar über den bescheidenen PC-Lautsprecher spricht. Wenn Sie Geschichten darüber mögen, wie KI Erwartungen übertrifft, dann decken unsere neuesten KI-Entwicklungen alles ab, von Kanteninferenz bis hin zu Grenzsystemen mit Billionen Parametern.

Ein Frage-Antwort-Transformer mit 367.000 Parametern

Tiny 2.1 ist eine kleine Transformatorarchitektur mit etwa 367.000 Parametern – ein Bruchteil der Größe der „leichten“ Modelle, die typischerweise im niedrigen Milliardenbereich liegen. Es wurde in Turbo C 2.0 geschrieben und läuft auf MS-DOS, dem Betriebssystem, das in den 1980er und frühen 1990er Jahren das Personal Computing dominierte und auf Maschinen abzielte, die so alt waren wie der Intel 486DX und die frühen Pentium-Generationen.

Entsprechend klein sind auch die Trainingsdaten: gerade einmal 3.500 Fakten. Diese Einschränkung definiert die Erfahrung bei der Verwendung. In einem auf der Projektseite geteilten Screenshot antwortet das Modell richtig, dass Wale Säugetiere und keine Fische seien, und schreibt Alexander Graham Bell zu Recht die Erfindung des Telefons zu. Auf die Aufforderung, 17 mal 23 zu berechnen, antwortet es jedoch mit „96“. Und auf die Frage, wer der König von Frankreich sei, antwortet er selbstbewusst: „Es war Antarce Newton“ – mit einem Konfidenzniveau von 100 Prozent.

Erwarten Sie keine Claude-ähnliche Leistung

Wie Futurism unverblümt feststellt, erfindet das Modell „fast ständig Antworten“, weil es einfach nicht viel über die Welt weiß. Es gibt keine Abrufschicht, keine Werkzeugnutzung, keine Websuche – nur ein kompaktes neuronales Netzwerk und alle Muster, die es aus seinem 3.500 Fakten umfassenden Trainingssatz übernommen hat.

Was das Projekt bemerkenswert macht, ist weniger, was das Modell kann, als vielmehr, was seine Existenz demonstriert. Moderne LLM-Inferenzen sind mit Gigabyte Speicher, GPU-Beschleunigung und Kilowatt Leistung verbunden. Tiny 2.1 beweist stattdessen das Konzept, dass ein Transformator eine strukturierte Frage-und-Antwort-Interaktion auf Hardware erzeugen kann, ohne nennenswerte Gleitkommaeinheit, ohne Festplattenanforderungen außer einer Diskette und mit einem Audioausgangspfad, der so primitiv ist wie ein Motherboard-Lautsprecher.

KI mit KI gebaut

Es gibt auch einen Meta-Twist. Laut der Projektseite hat der Entwickler nicht jede Zeile von Hand geschrieben: Sie verwendeten Fable 5.2 von Anthropic, um beim Schreiben des Modellcodes zu helfen, und Opus 5.5, um den Trainingsprozess zu unterstützen. Mit anderen Worten: Ein Modell, das klein genug ist, um auf eine Diskette zu passen, wurde selbst mit Hilfe von KI-Systemen im Grenzbereich erstellt und trainiert – ein winziger Nachkomme sehr großer Eltern.

Dieser Arbeitsablauf spiegelt einen breiteren Trend in der KI-Technik wider, bei dem große Modelle zunehmend Systeme generieren, debuggen und optimieren, die auf viel kleinerer Hardware laufen. Das gleiche Muster zeigt sich in modernen Edge-KI-Toolchains, wo Cloud-Modelle dabei helfen, Netzwerke für Telefone, Mikrocontroller und eingebettete Geräte zu komprimieren und zu quantisieren.

Warum kleine Modelle wichtig sind

Tiny 2.1 stellt keine Bedrohung für kommerzielle Chatbots dar. Aber Projekte wie dieses sind eine nützliche Erinnerung daran, wie weit die Modellkomprimierung fortgeschritten ist – und wie viel Aufblähung eher eine Wahl als eine Notwendigkeit ist. Retro-Computing-Enthusiasten haben jahrelang bewiesen, dass jahrzehntealte Hardware immer noch zu überraschenden Aufgaben fähig ist, von browserfähigen Amigas bis hin zu vernetzten 8-Bit-Maschinen. Ein Sprachmodell, das sich dieser Linie anschließt, ist ein Novum und ein spielerisches.

Die technischen Einschränkungen, die Tiny 2.1 geprägt haben, sind auch ein Crashkurs in Sachen Effizienz. Ein 8-Bit-Gewichtsformat, ein auf die Aufgabe zugeschnittenes Vokabular und eine Architektur sowie ein Ausgabepfad, der auf Hardwareeinschränkungen abgestimmt ist, ergeben ein System, bei dem jedes Kilobyte berücksichtigt wird. Vergleichen Sie das mit Mainstream-Bereitstellungen, bei denen Quantisierung, Beschneidung und Destillation rückwirkende Korrekturen sind, die auf Modelle angewendet werden, die in wesentlich größerem Maßstab erstellt wurden – und bei denen eine einzelne Chat-Sitzung mehr Speicher verbrauchen kann, als die gesamte Tiny 2.1-Laufzeit benötigt, einschließlich der Gewichte.

Es fällt auch in eine Zeit, in der der Machthunger von KI unter Umweltgesichtspunkten genau unter die Lupe genommen wird, da sich Forscher und Regulierungsbehörden zunehmend auf die Energiekosten für groß angelegte Schulungen und Schlussfolgerungen konzentrieren und in den gesamten Vereinigten Staaten Streit um die Standortwahl von Rechenzentren ausgetragen wird. Ein Modell, das mit 540 KB Speicher und einem Netzteil aus den 1980er Jahren läuft, ist keine Lösung für dieses Problem – aber es ist ein anschauliches Beispiel für das andere Ende des Spektrums: Schlussfolgerung mit einem Footprint, der in Watt und nicht in Megawatt gemessen wird. Leser, die verfolgen, wie weit das Feld reicht, von Disketten bis hin zu Gigawatt-Campussen, können beide Enden in unseren [aktuellen KI-Nachrichten] (https://aibuzzwire.news) finden.

Derzeit kann der Hersteller von Tiny 2.1 eine wirklich seltene Errungenschaft vorweisen: ein neuronales Netzwerk, das Sie von demselben Medium installieren können, das Sie zum Speichern eines Textverarbeitungsdokuments verwenden würden, und zwar auf einem Computer, der älter als das Internet ist. Es halluziniert ständig, zitiert die Identität des französischen Königshauses mit völliger Sicherheit falsch und kann zweistellige Zahlen nicht zuverlässig multiplizieren. Es läuft auch vollständig auf einer Diskette.

Bleiben Sie der KI immer einen Schritt voraus

Von Diskettenmodellen bis hin zu Grenzlaboren verfolgen wir alles. Weitere KI-Neuigkeiten lesen →