I ett ögonblick när gränslaboratorier tävlar om att bygga biljoner-parametermodeller som fyller datacenter, har en utvecklare gått åt andra hållet: en fungerande språkmodell för svar på frågor som får plats på en enda diskett från 1980-talet och som körs på en CPU som är tillräckligt gammal för att ha levererats inuti en 486DX.
Projektet, kallat Tiny 2.1, upptäcktes av Hackaday och plockades upp denna vecka av Futurism och Tom's Hardware. Enligt GitHub-projektsidan väger hela modellen in på ungefär 380 KB med 8-bitars vikter - tillräckligt liten för att passa bekvämt på en MS-DOS-formaterad diskett - och behöver bara 540 KB minne för att köras. Tom's Hardware rapporterar att den till och med talar sina svar genom den ödmjuka PC-högtalaren. Om du gillar berättelser om att AI bryter mot förväntningarna, täcker vår senaste AI-utvecklingen allt från kantslutningar till gränssystem med biljoner parametrar.
En transformator som besvarar frågor med 367 000 parametrar
Tiny 2.1 är en liten transformatorarkitektur med cirka 367 000 parametrar - en bråkdel av storleken på de "lättvikts" modellerna som vanligtvis mäter i låga miljarder. Det skrevs i Turbo C 2.0 och körs på MS-DOS, operativsystemet som dominerade persondatorer på 1980-talet och början av 1990-talet, riktat mot maskiner så gamla som Intel 486DX och tidiga Pentium-generationer.
Dess träningsdata är på motsvarande sätt liten: bara 3 500 fakta. Den begränsningen definierar upplevelsen av att använda den. I en skärmdump som delas på projektsidan, svarar modellen korrekt att valar är däggdjur snarare än fiskar och korrekt krediterar Alexander Graham Bell med att ha uppfunnit telefonen. Ombedd att beräkna 17 gånger 23, men den svarar "96." Och frågade vem kungen av Frankrike är, svarar den självsäkert "Det var Antarce Newton" - med en konfidensnivå på 100 procent.
Förvänta dig inte Claude-liknande prestanda
Som Futurism konstaterar rakt på sak, "finner modellen på svar i stort sett hela tiden", eftersom den helt enkelt inte vet så mycket om världen. Det finns inget hämtningslager, ingen verktygsanvändning, ingen webbsökning – bara ett kompakt neuralt nätverk och vilka mönster det än absorberade från sin träningsuppsättning med 3 500 fakta.
Det som gör projektet anmärkningsvärt är mindre vad modellen kan än vad dess existens visar. Modern LLM-inferens är associerad med gigabyte minne, GPU-acceleration och kilowatt effekt. Tiny 2.1 bevisar istället konceptet att en transformator kan producera strukturerad, fråga-och-svar-interaktion på hårdvara utan någon flyttalsenhet att tala om, inga hårddiskkrav utöver en diskett och en ljudutgångsväg lika primitiv som en moderkortshögtalare.
AI byggd med AI
Det finns också en meta twist. Enligt projektsidan skrev utvecklaren inte varje rad för hand: de använde Anthropics Fable 5.2 för att hjälpa till att skriva modellens kod och Opus 5.5 för att stödja utbildningsprocessen. Med andra ord, en modell som är tillräckligt liten för att få plats på en diskett skapades och tränades själv med hjälp av AI-system i gränsöverskridande skala - en liten ättling till mycket stora föräldrar.
Det arbetsflödet speglar en bredare trend inom AI-teknik, där stora modeller i allt högre grad genererar, felsöker och optimerar de system som körs på mycket mindre hårdvara. Samma mönster dyker upp i moderna edge-AI-verktygskedjor, där molnskaliga modeller hjälper till att komprimera och kvantisera nätverk för telefoner, mikrokontroller och inbäddade enheter.
Varför små modeller är viktiga
Tiny 2.1 kommer inte att hota någon kommersiell chatbot. Men projekt som det fungerar som en användbar påminnelse om hur långt modellkomprimeringen har kommit - och hur mycket svullnad som är val snarare än nödvändighet. Retro-datorentusiaster har ägnat år åt att visa att decennier gammal hårdvara fortfarande kan överraskande arbete, från webbläsarkompatibla Amigas till nätverksanslutna 8-bitarsmaskiner. En språkmodell som ansluter sig till den här släkten är en första och en lekfull sådan.
De tekniska begränsningarna som formade Tiny 2.1 är också en snabbkurs i effektivitet. Ett 8-bitars viktformat, ett ordförråd och en arkitektur anpassad till uppgiften, och en utgångsväg designad kring hårdvarubegränsningar ger ett system där varje kilobyte tas med. Jämför det med vanliga implementeringar, där kvantisering, beskärning och destillation är retroaktiva korrigeringar som tillämpas på modeller byggda i mycket större skala – och där en enda chattsession kan konsumera mer minne än hela Tiny 2.1-körningsbehovet, inklusive vikter.
Det landar också i en tid av verklig miljögranskning kring AI:s kraftaptit, med forskare och tillsynsmyndigheter som i allt högre grad fokuserar på energikostnaderna för storskalig utbildning och slutsatser, och datacenterkamper som utspelar sig över hela USA. En modell som körs på 540 KB minne och en strömförsörjning från 1980-talet är inte en lösning på det problemet - men det är en levande illustration av den andra änden av spektrumet: slutledning med ett fotavtryck mätt i watt, inte megawatt. Läsare som spårar hur långt fältet sträcker sig, från disketter till gigawatt-campus, kan hitta båda ändarna i våra bristande AI-nyheter.
Tills vidare kan tillverkaren av Tiny 2.1 göra anspråk på en verkligt sällsynt prestation: ett neuralt nätverk som du kan installera från samma medium som du skulle använda för att spara ett ordbehandlingsdokument, på en maskin som är före webben. Den hallucinerar ständigt, felciterar franska kungligheters identitet med totalt självförtroende och kan inte multiplicera tvåsiffriga tal på ett tillförlitligt sätt. Den körs också helt och hållet på en diskett.
Ligg före AI
Från diskettmodeller till frontierlabs, vi spårar allt. Läs mer AI-nyheter →
