Wakati ambapo maabara za mipakani zinakimbia kujenga miundo ya trilioni ya vigezo inayojaza vituo vya data, msanidi mmoja ameenda upande mwingine kabisa: modeli ya lugha ya kujibu maswali ambayo inafaa kwenye diski moja ya floppy ya miaka ya 1980 na inaendeshwa kwenye CPU ya zamani ya kutosha kusafirishwa ndani ya 486DX.

Mradi huo, unaoitwa Tiny 2.1, ulionekana na Hackaday na kuchukuliwa wiki hii na Futurism na Tom's Hardware. Kulingana na ukurasa wake wa mradi wa GitHub, modeli nzima ina uzani wa takriban 380 KB ya uzani wa 8-bit - ndogo ya kutosha kutoshea vizuri kwenye diski moja iliyoumbizwa na MS-DOS - na inahitaji kumbukumbu ya KB 540 tu ili kuendeshwa. Tom's Hardware inaripoti kwamba hata inazungumza majibu yake kupitia spika ya PC ya unyenyekevu. Ikiwa unafurahia hadithi kuhusu matarajio ya AI, maendeleo yetu ya hivi punde ya AI yanashughulikia kila kitu kuanzia makisio makali hadi mifumo ya mipaka ya vigezo trilioni.

Transfoma Yenye Kujibu Swali Yenye Vigezo 367,000

Tiny 2.1 ni usanifu mdogo wa transfoma yenye takriban vigezo 367,000 - sehemu ya saizi ya miundo "nyepesi" ambayo kwa kawaida hupimwa katika mabilioni ya chini. Iliandikwa katika Turbo C 2.0 na inaendeshwa kwenye MS-DOS, mfumo wa uendeshaji ambao ulitawala kompyuta ya kibinafsi katika miaka ya 1980 na mapema miaka ya 1990, ikilenga mashine za zamani kama Intel 486DX na vizazi vya mapema vya Pentium.

Data yake ya mafunzo ni ndogo sawa: ukweli 3,500 tu. Kizuizi hicho kinafafanua uzoefu wa kuitumia. Katika picha ya skrini iliyoshirikiwa kwenye ukurasa wa mradi, modeli hiyo inajibu kwa usahihi kwamba nyangumi ni mamalia badala ya samaki na inampa Alexander Graham Bell kwa usahihi kwa kuvumbua simu. Imeombwa kukokotoa 17 mara 23, hata hivyo, inajibu "96." Na kuulizwa ni nani Mfalme wa Ufaransa, inajibu kwa ujasiri "Alikuwa Antarce Newton" - kwa kiwango cha kujiamini cha asilimia 100.

Usitarajie Utendaji Kama wa Claude

Kama Futurism inavyosema wazi, mtindo "hutoa majibu kila wakati," kwa sababu haujui mengi juu ya ulimwengu. Hakuna safu ya urejeshaji, hakuna matumizi ya zana, hakuna utaftaji wa wavuti - mtandao wa neva na muundo wowote ambao ulichukua kutoka kwa seti yake ya mafunzo ya ukweli 3,500.

Kinachofanya mradi kujulikana ni kidogo kile ambacho mtindo unaweza kufanya kuliko kile ambacho uwepo wake unaonyesha. Uelekezaji wa kisasa wa LLM unahusishwa na gigabaiti za kumbukumbu, kuongeza kasi ya GPU, na kilowati za nguvu. Tiny 2.1 badala yake inathibitisha dhana kwamba transfoma inaweza kutoa mwingiliano uliopangwa, wa maswali na majibu kwenye maunzi bila sehemu ya kuelea ya kuzungumzia, hakuna mahitaji ya diski kuu zaidi ya floppy, na njia ya kutoa sauti kama ya awali kama spika ya ubao mama.

AI Imejengwa kwa AI

Kuna pia meta twist. Kulingana na ukurasa wa mradi, msanidi programu hakuandika kila mstari kwa mkono: walitumia Fable 5.2 ya Anthropic kusaidia kuandika msimbo wa modeli na Opus 5.5 kusaidia mchakato wa mafunzo. Kwa maneno mengine, kielelezo kidogo cha kutosha kutoshea kwenye diski ya floppy kiliandikwa na kufunzwa kwa usaidizi wa mifumo ya AI ya kiwango cha mpaka - kizazi kidogo cha wazazi wakubwa sana.

Mtiririko huo wa kazi unaonyesha mwelekeo mpana zaidi katika uhandisi wa AI, ambapo miundo mikubwa inazidi kutoa, kurekebisha, na kuboresha mifumo inayotumia maunzi madogo zaidi. Mchoro sawa unaonekana katika minyororo ya kisasa ya AI, ambapo miundo ya mizani ya wingu husaidia kubana na kukadiria mitandao ya simu, vidhibiti vidogo na vifaa vilivyopachikwa.

Kwa Nini Modeli Ndogo Ni Muhimu

Tiny 2.1 haitatishia chatbot yoyote ya kibiashara. Lakini miradi kama hiyo hutumika kama ukumbusho muhimu wa jinsi mfinyazo wa kielelezo umefika - na ni kiasi gani cha bloat ni chaguo badala ya umuhimu. Wapenzi wa kompyuta ya retro wametumia miaka mingi kuonyesha kwamba maunzi ya miongo kadhaa bado yana uwezo wa kufanya kazi ya kustaajabisha, kutoka kwa Amigas inayoweza kutumia kivinjari hadi mashine 8 za mtandao. Kielelezo cha lugha kinachojiunga na ukoo huo ni cha kwanza, na cha kucheza.

Vikwazo vya uhandisi vilivyounda Tiny 2.1 pia ni kozi ya kuacha kufanya kazi kwa ufanisi. Umbizo la uzani wa biti 8, msamiati na usanifu ulio na ukubwa wa kazi, na njia ya kutoa iliyoundwa karibu na mapungufu ya maunzi huongeza kwenye mfumo ambapo kila kilobaiti inahesabiwa. Linganisha hiyo na uwekaji wa kawaida, ambapo ujanibishaji, upogoaji na kunereka ni marekebisho yanayorudiwa kutumika kwa miundo iliyojengwa kwa kiwango kikubwa zaidi - na ambapo kipindi kimoja cha gumzo kinaweza kutumia kumbukumbu zaidi kuliko mahitaji yote ya Tiny 2.1 wakati wa utekelezaji, uzani umejumuishwa.

Pia hutua wakati wa uchunguzi halisi wa mazingira karibu na hamu ya nishati ya AI, na watafiti na wadhibiti wanazidi kuzingatia gharama ya nishati ya mafunzo ya kiwango kikubwa na uelekezaji, na mapigano ya kituo cha data yanayochezwa kote Merika. Muundo unaotumia kumbukumbu ya KB 540 na usambazaji wa nishati ya miaka ya 1980 sio suluhisho la tatizo hilo - lakini ni kielelezo wazi cha mwisho mwingine wa wigo: makisio yenye alama ya miguu iliyopimwa kwa wati, si megawati. Wasomaji wanaofuatilia urefu wa uwanja, kutoka kwa diski za kuelea hadi vyuo vikuu vya gigawati, wanaweza kupata ncha zote mbili katika habari zetu zinazochipuka za AI.

Kwa sasa, mtengenezaji wa Tiny 2.1 anaweza kudai mafanikio adimu sana: mtandao wa neva unaoweza kusakinisha kutoka kwa njia ile ile ambayo ungetumia kuhifadhi hati ya kichakataji maneno, kwenye mashine iliyotanguliwa na wavuti. Inavutia kila mara, inanukuu vibaya utambulisho wa mrahaba wa Ufaransa kwa imani kamili, na haiwezi kuzidisha nambari za tarakimu mbili kwa uhakika. Pia inaendesha, kabisa, kwenye diski ya floppy.

Kaa Mbele ya AI

Kuanzia mifano ya floppy-disk hadi maabara za mipakani, tunafuatilia yote. Soma habari zaidi za AI →