Pada saat laboratorium perbatasan berlomba untuk membangun model triliunan parameter yang memenuhi pusat data, salah satu pengembang telah mengambil arah yang berbeda: model bahasa penjawab pertanyaan yang dapat ditampung pada satu floppy disk tahun 1980-an dan berjalan pada CPU yang cukup tua untuk dikirimkan dalam 486DX.

Proyek tersebut, yang disebut Tiny 2.1, ditemukan oleh Hackaday dan diambil minggu ini oleh Futurism dan Tom's Hardware. Menurut halaman proyek GitHub-nya, keseluruhan model berbobot sekitar 380 KB dengan bobot 8-bit — cukup kecil untuk muat dengan nyaman pada satu floppy disk berformat MS-DOS — dan hanya memerlukan memori 540 KB untuk dijalankan. Tom's Hardware melaporkan bahwa mereka bahkan menyampaikan jawabannya melalui speaker PC yang sederhana. Jika Anda menyukai cerita tentang AI yang melampaui ekspektasi, perkembangan AI terbaru kami mencakup semuanya, mulai dari inferensi edge hingga sistem frontier triliunan parameter.

Transformator Penjawab Pertanyaan Dengan 367.000 Parameter

Tiny 2.1 adalah arsitektur transformator kecil dengan sekitar 367.000 parameter — sebagian kecil dari ukuran model "ringan" yang biasanya berukuran miliaran. Itu ditulis dalam Turbo C 2.0 dan berjalan pada MS-DOS, sistem operasi yang mendominasi komputasi personal pada tahun 1980an dan awal 1990an, menargetkan mesin setua Intel 486DX dan generasi awal Pentium.

Data pelatihannya juga kecil: hanya 3.500 fakta. Batasan itu menentukan pengalaman menggunakannya. Dalam tangkapan layar yang dibagikan di halaman proyek, model tersebut dengan tepat menjawab bahwa paus adalah mamalia, bukan ikan, dan dengan tepat memuji Alexander Graham Bell sebagai penemu telepon. Diminta untuk menghitung 17 kali 23, namun ia menjawab "96". Dan ketika ditanya siapa Raja Perancis, mereka dengan percaya diri menjawab "Itu adalah Antarce Newton" — dengan tingkat kepercayaan 100 persen.

Jangan Mengharapkan Performa Seperti Claude

Seperti yang diungkapkan secara blak-blakan oleh Futurisme, model tersebut "hampir selalu memberikan jawaban", karena model tersebut tidak mengetahui banyak hal tentang dunia. Tidak ada lapisan pengambilan, tidak ada penggunaan alat, tidak ada pencarian web — hanya jaringan saraf kompak dan pola apa pun yang diserapnya dari rangkaian pelatihan 3.500 fakta.

Apa yang membuat proyek ini menonjol bukanlah apa yang dapat dilakukan oleh model tersebut, melainkan apa yang ditunjukkan oleh keberadaannya. Inferensi LLM modern dikaitkan dengan gigabyte memori, akselerasi GPU, dan kilowatt daya. Tiny 2.1 malah membuktikan konsep bahwa transformator dapat menghasilkan interaksi tanya jawab yang terstruktur pada perangkat keras tanpa unit floating-point, tidak ada persyaratan hard drive selain floppy, dan jalur keluaran audio primitif seperti speaker motherboard.

AI Dibangun Dengan AI

Ada juga perubahan meta. Menurut halaman proyek, pengembang tidak menulis setiap baris dengan tangan: mereka menggunakan Fable 5.2 dari Anthropic untuk membantu menulis kode model dan Opus 5.5 untuk mendukung proses pelatihan. Dengan kata lain, model yang cukup kecil untuk dimasukkan ke dalam floppy disk dibuat dan dilatih sendiri dengan bantuan sistem AI skala terdepan – yang merupakan turunan kecil dari induk yang sangat besar.

Alur kerja tersebut mencerminkan tren yang lebih luas dalam rekayasa AI, di mana model-model besar semakin banyak menghasilkan, melakukan debug, dan mengoptimalkan sistem yang berjalan pada perangkat keras yang jauh lebih kecil. Pola yang sama muncul dalam toolchain edge-AI modern, di mana model berskala cloud membantu mengompresi dan mengkuantisasi jaringan untuk ponsel, mikrokontroler, dan perangkat tertanam.

Mengapa Model Mungil Penting

Tiny 2.1 tidak akan mengancam chatbot komersial apa pun. Namun proyek seperti ini berfungsi sebagai pengingat yang berguna tentang sejauh mana kompresi model telah berkembang — dan seberapa banyak penggembungan yang merupakan pilihan, bukan kebutuhan. Penggemar komputasi retro telah menghabiskan waktu bertahun-tahun untuk menunjukkan bahwa perangkat keras berusia puluhan tahun masih mampu melakukan pekerjaan yang mengejutkan, mulai dari Amigas berkemampuan browser hingga mesin 8-bit yang terhubung ke jaringan. Model bahasa yang bergabung dengan garis keturunan tersebut adalah yang pertama dan menyenangkan.

Kendala teknis yang membentuk Tiny 2.1 juga merupakan sebuah kursus kilat dalam hal efisiensi. Format bobot 8-bit, kosa kata dan arsitektur yang disesuaikan dengan tugas, dan jalur keluaran yang dirancang berdasarkan batasan perangkat keras menambah sistem di mana setiap kilobyte diperhitungkan. Bandingkan dengan penerapan arus utama, yang mana kuantisasi, pemangkasan, dan distilasi merupakan perbaikan retroaktif yang diterapkan pada model yang dibuat dalam skala yang jauh lebih besar — ​​dan yang mana satu sesi obrolan dapat menggunakan lebih banyak memori daripada seluruh kebutuhan runtime Tiny 2.1, termasuk bobot.

Hal ini juga terjadi pada saat pengawasan lingkungan nyata terhadap kebutuhan daya AI, dimana para peneliti dan regulator semakin fokus pada biaya energi dari pelatihan dan inferensi berskala besar, dan perebutan lokasi pusat data yang terjadi di seluruh Amerika Serikat. Model yang menggunakan memori 540 KB dan catu daya tahun 1980-an bukanlah solusi untuk masalah tersebut — namun ini adalah ilustrasi nyata dari ujung lain spektrum: inferensi dengan jejak yang diukur dalam watt, bukan megawatt. Pembaca yang menelusuri sejauh mana bidang ini terbentang, mulai dari floppy disk hingga kampus gigawatt, dapat menemukan kedua ujungnya di berita AI terkini.

Untuk saat ini, pembuat Tiny 2.1 dapat mengklaim pencapaian yang benar-benar langka: jaringan saraf yang dapat Anda instal dari media yang sama dengan yang Anda gunakan untuk menyimpan dokumen pengolah kata, pada mesin yang sudah ada sebelum web. Ia terus-menerus berhalusinasi, salah mengutip identitas bangsawan Prancis dengan penuh keyakinan, dan tidak dapat mengalikan angka dua digit dengan andal. Ini juga berjalan seluruhnya pada floppy disk.

Tetap Terdepan dalam AI

Dari model floppy disk hingga laboratorium perbatasan, kami melacak semuanya. Baca berita AI selengkapnya →