Ing wayahe nalika labs wates balapan kanggo mbangun model triliun-parameter sing ngisi pusat data, siji pangembang wis pindhah menyang arah liyane: model basa sing bisa njawab pitakonan sing cocog karo floppy disk 1980-an lan nganggo CPU sing cukup lawas kanggo dikirim ing 486DX.
Proyek kasebut, sing diarani Tiny 2.1, ditemokake dening Hackaday lan dijupuk minggu iki dening Futurism lan Tom's Hardware. Miturut kaca proyek GitHub, model kabeh bobote kira-kira 380 KB bobot 8-dicokot - cukup cilik kanggo pas karo siji floppy disk format MS-DOS - lan mung mbutuhake memori 540 KB kanggo mbukak. Tom's Hardware nglaporake manawa dheweke malah menehi jawaban liwat speaker PC sing andhap asor. Yen sampeyan seneng crita babagan AI nglanggar pangarep-arep, pangembangan AI paling anyar nutupi kabeh saka inferensi pinggiran nganti sistem perbatasan triliun-parameter.
Transformer Njawab Pitakonan Kanthi 367.000 Parameter
Tiny 2.1 minangka arsitektur trafo cilik kanthi kira-kira 367.000 paramèter - ukuran cilik saka model "entheng" sing biasane ukurane kurang milyar. Iki ditulis ing Turbo C 2.0 lan mlaku ing MS-DOS, sistem operasi sing ndominasi komputasi pribadhi ing taun 1980-an lan awal 1990-an, ngarahake mesin sing lawas minangka Intel 486DX lan generasi Pentium awal.
Data latihane mung sithik: mung 3,500 fakta. Watesan kasebut nemtokake pengalaman nggunakake. Ing gambar sing dituduhake ing kaca proyek, model kasebut njawab kanthi bener manawa paus minangka mamalia tinimbang iwak lan kanthi bener menehi kredit marang Alexander Graham Bell kanthi nemokake telpon. Dijaluk ngitung 17 kaping 23, nanging mangsuli "96." Lan takon sapa Raja Prancis, kanthi yakin mangsuli "Iku Antarce Newton" - kanthi tingkat kapercayan 100 persen.
Aja Nyana Kinerja Kaya Claude
Minangka Futurism nyathet blak-blakan, model "nggawe jawaban sing cukup akeh kabeh wektu," amarga mung ora ngerti akeh babagan donya. Ora ana lapisan telusuran, ora ana panggunaan alat, ora ana telusuran web - mung jaringan saraf kompak lan pola apa wae sing diserap saka set latihan 3,500-fakta.
Apa sing ndadekake proyek kasebut ora bisa ditindakake model tinimbang apa sing dituduhake. Inferensi LLM modern digandhengake karo memori gigabyte, akselerasi GPU, lan daya kilowatt. Tiny 2.1 tinimbang mbuktekaken konsep sing trafo bisa gawé kabentuk, interaksi pitakonan-lan-jawaban ing hardware tanpa unit floating-titik kanggo ngomong, ora syarat hard drive ngluwihi floppy, lan path output audio minangka primitif minangka speaker motherboard.
AI Dibangun Kanthi AI
Ana uga meta twist. Miturut kaca proyek, pangembang ora nulis saben baris kanthi tangan: padha nggunakake Anthropic's Fable 5.2 kanggo mbantu nulis kode model lan Opus 5.5 kanggo ndhukung proses latihan. Ing tembung liya, model sing cukup cilik kanggo pas ing floppy disk dhewe digawe lan dilatih kanthi bantuan sistem AI skala perbatasan - keturunan cilik saka wong tuwa sing gedhe banget.
Alur kerja kasebut nggambarake tren sing luwih akeh babagan teknik AI, ing ngendi model gedhe saya akeh ngasilake, debug, lan ngoptimalake sistem sing nganggo hardware sing luwih cilik. Pola sing padha katon ing toolchains edge-AI modern, ing ngendi model skala awan mbantu ngompres lan ngitung jumlah jaringan kanggo telpon, mikrokontroler, lan piranti sing dipasang.
Kenapa Model Cilik Penting
Tiny 2.1 ora bakal ngancam chatbot komersial. Nanging proyèk kaya iku dadi pangeling migunani carane adoh model komprèsi wis teka - lan carane akeh bloat pilihan tinimbang kabutuhan. Penggemar komputasi retro wis pirang-pirang taun kanggo nuduhake manawa hardware sing wis pirang-pirang dekade tetep bisa gawe kaget, saka Amigas sing bisa browser nganti mesin 8-bit jaringan. Model basa sing gabung karo garis keturunan kasebut yaiku sing pertama, lan dolanan.
Watesan teknik sing mbentuk Tiny 2.1 uga minangka kacilakan efisiensi. Format bobot 8-dicokot, kosakata lan arsitektur ukuran kanggo tugas, lan path output dirancang watara watesan hardware nambah nganti sistem ngendi saben kilobyte diitung. Beda karo panyebaran arus utama, ing ngendi kuantisasi, pruning, lan distilasi minangka perbaikan retroaktif sing ditrapake kanggo model sing dibangun kanthi skala sing luwih gedhe - lan ing ngendi sesi obrolan siji bisa nggunakake memori luwih akeh tinimbang kabeh kabutuhan runtime Tiny 2.1, kalebu bobot.
Iku uga ndharat ing wektu nliti lingkungan nyata watara AI kang daya napsu, karo peneliti lan regulator tambah fokus ing biaya energi saka latihan gedhe-gedhe lan inferensi, lan data center site gelut muter metu ing saindhenging Amerika Serikat. Model sing nganggo memori 540 KB lan sumber daya ing taun 1980-an ora dadi solusi kanggo masalah kasebut - nanging minangka ilustrasi sing jelas saka ujung spektrum liyane: inferensi kanthi jejak sing diukur ing watt, dudu megawatt. Pembaca sing nglacak jarak lapangan, saka floppy disk nganti kampus gigawatt, bisa nemokake ujung loro ing [kabar AI] (https://aibuzzwire.news).
Saiki, pembuat Tiny 2.1 bisa ngaku prestasi sing langka banget: jaringan saraf sing bisa diinstal saka medium sing padha sing digunakake kanggo nyimpen dokumen prosesor tembung, ing mesin sing sadurunge web. Halusinasi terus-terusan, salah nyebutake identitas kraton Prancis kanthi kapercayan total, lan ora bisa nggandaake nomer rong digit kanthi andal. Iku uga mlaku, tanggung, ing floppy disk.
Tetep Ahead saka AI
Saka model floppy-disk nganti laboratorium wates, kita nglacak kabeh. Waca liyane AI warta →
