Watafiti Walifunza LLM Kwenye Nyenzo ya Daraja la Tano Pekee - na Wakapata Uwezo Wake wa Kuweka Dari

Ni nini kinatokea wakati mtindo mkubwa wa lugha hauoni nyenzo zaidi ya daraja la tano? Timu ya watafiti saba walijibu swali hilo kihalisi: walitengeneza LittleLearner, LLM ya kigezo cha bilioni 5 iliyofunzwa kutoka mwanzo kwenye shirika lililochujwa hadi mtaala wa shule ya msingi ya U.S., na kisha wakajaribu ikiwa kuna chochote - vigezo zaidi, vidokezo zaidi vya baada ya mafunzo, vielelezo vya werevu zaidi - vinaweza kusukuma data ya mafunzo kabla ya kile ilichofundisha. Jibu, wanaripoti, ni hapana.

Karatasi, "Mwanafunzi Mdogo: Miundo ya Lugha Chini ya Ufichuaji wa Maarifa Yanayodhibitiwa Kialimu," iliwasilishwa kwa arXiv mnamo Agosti 13 na Fanfei Li, Jana Zeller, Manuel Prada-Corral, Thaddäus Wiedemer, Prasanna Mayilvahanan, Ryan Cotterell, na Wieland Brendel. Kufikia Agosti 16 ilikuwa mada ya mjadala wa haraka sana wa Habari za Mdukuzi na zaidi ya kura 200, huku watafiti na watendaji wakijadili maana ya dhana pendwa ya tasnia - kwamba mafunzo ya baada ya mafunzo yanaweza kuibua uwezo nje ya hewa nyembamba. Ni aina hasa ya majaribio makini na ya kinyume tunayotazama katika changamoto yetu ya utafiti wa AI.

Sanduku la Mchanga lenye Mpaka wa Maarifa

LLM za kisasa zimefunzwa kimsingi juu ya kila kitu, jambo ambalo hufanya iwe karibu kutowezekana kusema kama ujuzi ulioonyeshwa ulijifunza kwa dhati wakati wa mafunzo au ulichochewa tu na haraka sahihi. Suluhisho la timu lilikuwa kudhibiti usambazaji wa mafunzo yenyewe. Kuanzia FineWeb-Edu, walitengeneza corpus ya ishara ya bilioni 88 - iliyopewa jina LittleCurriculum - kupitia bomba la kuchuja la hatua tano lililounganishwa na viwango vya Common Core kwa shule ya chekechea hadi daraja la 5. Dhana, ukweli, na msamiati uliofunzwa juu ya daraja la 5 haukujumuishwa wazi.

Kwenye kosi hii walifunza modeli katika mizani mitatu (vigezo 0.6B, 1.3B, na 5B) kutoka mwanzo, kila moja ikisafirishwa pamoja na kielelezo cha udhibiti kinacholingana kilichofunzwa kwenye data ambayo haijachujwa yenye usanifu sawa na bajeti ya ishara. Matokeo yake ni kielelezo ambacho ni fasaha vya kutosha kwa tathmini ya wazi - unaweza kupiga gumzo na toleo la 5B lililopangishwa kwenye kivinjari - lakini lina mpaka mkali wa maarifa unaoweza kufasiriwa: ikiwa haukuwa katika mtaala wa kimsingi, mtindo huo haukuwahi kuuona.

Utoaji, Sio Upataji

Ugunduzi wa kimsingi haueleweki: zana ya kawaida ya kufanya modeli kuwa nadhifu ilikuza kile ambacho LittleLearner tayari alijua, lakini hakuna kilichoboresha utendakazi nje ya upeo.

Kuongeza kuliboresha usahihi ndani ya maarifa yaliyodhibitiwa ya modeli na kupanuliwa kwa kiasi katika mwelekeo ule ule wa kujifunza, lakini haikusaidia sana matatizo yaliyohitaji uwezo zaidi ya nyenzo za daraja la 5. Mafunzo ya baada na GRPO - mbinu ya uimarishaji-mafunzo nyuma ya ukuzaji mwingi wa muundo wa kufikiria - iliboresha kwa kiasi kikubwa uwezo wa K-5 wa ndani, lakini imeshindwa kurejesha uwezo zaidi wa K-5 hata ilipofunzwa kwa data isiyo na upeo. Na kujifunza katika muktadha, uchawi wa kila siku wa kuingiza maarifa kwenye haraka, ulisaidia kielelezo kutumia kile ambacho kilikuwa nacho lakini hakikufungua hoja mpya zaidi ya mipaka.

Kichujio cha utayarishaji, kwa kifupi, huweka dari ya uwezo wa ufanisi. Waandishi huweka matokeo kama ushahidi wa tofauti uga hukua kila wakati: mafunzo ya baada ya mafunzo na ushawishi; mafunzo ya awali hupata.

Vidhibiti Safi, Vituo vya ukaguzi vya Umma

Mbinu ndiyo inayoyapa madai hayo nguvu yake. Kwa sababu kila kielelezo cha LittleLearner husafirishwa na kidhibiti kisichochujwa kulingana - usanifu sawa, hesabu sawa ya tokeni, kichocheo sawa cha mafunzo - timu inaweza kuhusisha tofauti yoyote ya kitabia kwenye kichujio cha mtaala pekee. Wataalamu wa Hisabati waliofunzwa baada ya mafunzo kwenye kigezo cha MathCAMPS huwaruhusu watafiti kukadiria ufaulu kulingana na daraja la shule, wakifuatilia haswa ambapo uwezo wa ndani wa mawanda unaishia. Na tofauti na karatasi nyingi za mipakani, kila kitu ni cha umma: shirika, vituo vya ukaguzi vya msingi na baada ya mafunzo katika mizani yote mitatu kwenye HuggingFace, na onyesho la gumzo lililopangishwa, ili timu huru ziweze kuchunguza mpaka zenyewe.

Uwazi huo unachochea mjadala wa Hacker News. Watoa maoni wamekuwa wakijaribu tabia ya mwanamitindo mwenyeji katika ukingo wake wa maarifa - iwe anajiepusha, kubahatisha, au kudanganya anaposukuma daraja la 5 - na kubishana juu ya athari: wengine walisoma matokeo kama habari mbaya kwa uvumi wa modeli ya kufikiria, wengine wanasisitiza kuwa data ya mafunzo ya awali ya kiwango cha wavuti ina zaidi ya dhana za shule ya msingi, kwa hivyo mifano ya juu zaidi ya dari. Waandishi wa karatasi wenyewe ni waangalifu juu ya jambo hili: madai yao ni juu ya kile hatua za kawaida hazikuweza kufanya kwa mfano na elimu inayojulikana, iliyodhibitiwa, sio utabiri wa moja kwa moja kuhusu maabara ya mipaka.

Kwa Nini Ni Muhimu Zaidi Ya Darasani

Jaribio linazungumza moja kwa moja kwa mijadala ya moja kwa moja katika AI. Maabara za AI hutumia mabilioni kwa regimen za baada ya mafunzo zinazotokana na wazo kwamba ujifunzaji wa uimarishaji unaweza kusukuma modeli ya msingi zaidi ya uwezo wake mbichi. LittleLearner anapendekeza kwamba faida hizo zinaweza kuishi ndani - na kufungwa na - kile ambacho data ya mafunzo ya awali inasaidia. Hiyo ni hoja ya kujali zaidi juu ya uhifadhi wa data, na kwa kutibu madai ya uwezo "unaojitokeza" wa baada ya mafunzo kwa mashaka.

Toleo hilo pia ni chombo cha kweli cha utafiti, sio karatasi tu. Timu ilichapisha LittleCurriculum na vituo vyote vya ukaguzi vya modeli kwa uwazi, na ukurasa wa mradi unachora majaribio ambayo sanduku la mchanga linawasha: ikiwa RL inaweza kuunda uwezo badala ya kuituza, jinsi sampuli kwa ufanisi hujifunza dhana mpya kama vile nambari hasi inapoanzishwa, na kama mashine na watoto wanahitaji kufichuliwa sawa - au kufanya makosa sawa - wakati wa kujifunza sehemu.

Kwa uwanja ambao mara chache hupata vidhibiti safi, kielelezo kilicho na elimu iliyobainishwa wazi ni zawadi adimu. Na kwa kila mtu mwingine, ni kikumbusho kinachofaa kubandikwa juu ya dawati: hakuna kielelezo - au mtu - anayeweza kufikiria njia yake kutoka kwa kile ambacho hawakufundishwa kamwe.

Kaa Mbele ya AI

Utoaji wa daraja la ukaguzi wa rika la utafiti wa kuunda upya AI, unaotolewa kila siku. Alamisha kitovu chetu kwa maendeleo ya hivi punde ya AI.

Soma habari zaidi za AI →