Gharama inayokua kwa kasi zaidi katika akili ya bandia inaweza isiwe chipsi - inaweza kuwa ni umeme unaowalisha. Mnamo Oktoba 12, Chuo Kikuu cha Michigan kilitangaza kwamba NVIDIA, kampuni kubwa duniani ya kompyuta ya AI, inatathmini jinsi ya kuongeza zana mbili za U-M za kuokoa nishati kwa Megatron-LM, jukwaa la chanzo-wazi la NVIDIA linalotumiwa sana kwa ajili ya kufunza miundo mikubwa ya lugha. Kulingana na chuo kikuu, programu inaweza kupunguza nishati inayohitajika kufunza AI hadi 50% - bila kuathiri kasi ya mafunzo au utendaji wa mfano.
Habari ni muhimu zaidi ya rekodi ya uchapishaji ya maabara moja. Megatron-LM si msingi wa utafiti: makampuni yanaweza kuutumia moja kwa moja au kama msingi wa majukwaa yao ya kibinafsi, ya mafunzo yaliyobinafsishwa, na ni jukwaa linalotumiwa kufunza miundo ya Nemotron ya NVIDIA, ambayo watumiaji wanaweza kuipakua kwenye maunzi yao wenyewe. Iwapo zana za U-M zitafanya Megatron-LM, maboresho ya ufanisi yaliyotengenezwa katika maabara ya kitaaluma yataenea katika sehemu kubwa ya mafunzo ya AI duniani. Kwa chanjo inayoendelea ya mbio za miundombinu nyuma ya AI, fuata maendeleo ya hivi punde ya AI kwenye ukurasa wetu wa nyumbani.
Nini Kareus na Perseus Wanafanya Kweli
Zana hizi mbili hushambulia vyanzo tofauti vya taka katika mafunzo yaliyosambazwa, na safu zao za akiba.
Perseus: Kusimamia Kasi ya Kichakataji
Perseus anashughulikia kokotoo lililotolewa zaidi. Katika mafunzo mengi, sio kila kichakataji hufanya kazi muhimu kila wakati, lakini zote huchota nguvu. Kwa kudhibiti kasi ya kichakataji ili kuendana na kazi halisi inayopatikana katika kila sehemu ya mafunzo, Perseus hupunguza nishati inayohitajika kutoa mafunzo kwa AI hadi 30%, kulingana na U-M.
Kareus: Muda Bora Zaidi kwa Kompyuta na Mawasiliano
Kareus analenga tatizo la hila. Kufunza miundo ya kisasa kunahitaji kuratibu mamia kwa maelfu ya vichakataji, na kazi hugawanyika kati ya hesabu na mawasiliano ya chip-to-chip. Kareus hupunguza nishati ya mafunzo kwa nyongeza ya 15% hadi 30% kwa kutafuta muda bora zaidi na ugavi wa rasilimali kati ya kazi hizo za mafunzo na mawasiliano - kuratibu kila moja ili hakuna mtu anayekaa bila kufanya kitu akimngojea mwingine.
Kwa pamoja, chuo kikuu kinasema, zana zinaweza kuokoa karibu nusu ya nishati inayotumiwa kufundisha AI wakati wa kutoa kasi sawa ya mafunzo na utendaji wa mwisho wa mfano. Kareus pia ni matokeo yaliyopitiwa na rika: zana iliwasilishwa katika Kongamano la USENIX la Usanifu na Utekelezaji wa Mifumo ya Uendeshaji (OSDI) mwezi Julai, mojawapo ya maeneo makuu ya utafiti wa mifumo.
Kwa Nini Maslahi ya NVIDIA Ndio Hadithi Halisi
Utafiti wa ufanisi wa kitaaluma kawaida unakabiliwa na barabara ndefu ya uzalishaji. Huyu anaweza kuwa tofauti, kwa sababu ya mahali ilipotua. Mwanafunzi wa shahada ya udaktari, Ruofan Wu, alitumia majira ya kiangazi iliyopita huko NVIDIA akiunganisha programu ya U-M kwenye Megatron-LM kama sehemu ya mafunzo ya kazi - kumaanisha kuwa zana si pendekezo lakini msimbo wa kufanya kazi ndani ya safu ya mafunzo ya NVIDIA, ambayo sasa inatathminiwa rasmi.
"AI inakabiliwa na nguvu kadiri wanamitindo wanavyozidi kuwa wakubwa na watu wengi wanataka kutoa mafunzo kwa wanamitindo, lakini tunaweza kufikia kasi sawa ya mafunzo na utendaji kwa kutumia nishati kidogo," alisema Wu, mwanafunzi wa udaktari katika sayansi ya kompyuta na uhandisi katika U-M, katika tangazo la chuo kikuu. "Kuna fursa nyingi za kuongeza matumizi ya nishati ya AI katika kiwango cha programu na vifaa, na moja ya sehemu ya kufurahisha zaidi ya mafunzo hayo ilikuwa fursa ya kuleta maoni kutoka kwa utafiti wangu katika mifumo ya uzalishaji," aliongeza.
Neno hilo - linakabiliwa na nguvu - ndilo neno jipya la tasnia. Timu ya utafiti ya U-M, ambayo pia inajumuisha wanafunzi wa udaktari Jeff Ma na Jae-Won Chung pamoja na profesa mshiriki Mosharaf Chowdhury, inafanya kazi na NVIDIA kuhusu ujumuishaji huo. Uundaji wa timu ni wa moja kwa moja: lengo ni kuruhusu AI kufanya kazi muhimu zaidi kwa nishati na gharama kidogo kwa kutafuta njia bora zaidi ya kuratibu mafunzo kati ya mamia hadi maelfu ya vichakataji.
Nishati Sasa Ni Kikwazo cha Daraja la Kwanza
Kiwango cha mafunzo ya mipakani ndicho kinachobadilisha asilimia ya akiba kuwa nambari za kimkakati. Meta alisema wiki hii kwamba aina zake mpya za Muse Wonder zilifunzwa huko Prometheus, ambayo inaelezea kama kituo cha data cha kiwango cha gigawati. Wakati kampeni moja ya mafunzo inaendeshwa kwa kiwango hicho, upunguzaji wa nishati kwa kiwango cha asilimia sio kosa la kuzunguka; ni tofauti kati ya kufaa mafunzo yanayoendeshwa ndani ya bajeti ya nguvu au la.
Uchumi unafuata fizikia. Nishati imekuwa mojawapo ya rasilimali za upanuzi wa AI. Programu ambayo hupunguza bili ya umeme ya muda wa mafunzo kwa nusu - kwa kutumia maunzi yaliyopo - hubadilisha calculus kwa kila kampuni inayofunza miundo yake, na hasa kwa wachezaji wadogo ambao gharama za nishati ni kikwazo cha lazima kwao.
Pia inaangazia upya mjadala wa mazingira karibu na AI. Mengi ya majadiliano ya umma yamelenga nishati ya uelekezaji - nguvu inayotumiwa na kila swali la gumzo. Lakini mafunzo ni pale ambapo sehemu kubwa zaidi za nishati hujilimbikizia, na mbinu ya programu iliyopitiwa na rika, muuzaji-agnostiki ambayo huipunguza kwa hadi nusu inatoa kitu adimu kuliko ramani ya njia ya maunzi: faida za ufanisi ambazo zinaweza kufikiwa na toleo la chanzo-wazi linalofuata badala ya ujenzi wa kituo cha data kinachofuata.
Nini Kitaendelea
Chuo kikuu kinasema NVIDIA inatathmini jinsi ya kuongeza programu kwenye jukwaa lake la mafunzo la chanzo huria. Iwapo itasafirishwa katika Megatron-LM, kupitishwa kunaweza kuenea haraka ikizingatiwa jinsi mfumo huo unavyotumika kote katika tasnia na katika taaluma. Mpango mpana zaidi wa utafiti wa timu ya U-M unaendelea kutafuta uokoaji wa nishati kwenye programu na programu ya maunzi - ajenda ambayo ilionekana kuwa ya kuvutia miaka michache iliyopita na sasa inaonekana kama kitovu cha mchezo.
