Uchumi wa miundombinu ya AI umebadilika. Takriban theluthi mbili ya mzigo wa kazi unaoendeshwa kupitia miundombinu ya AI leo ni makisio badala ya mafunzo, kulingana na mtendaji mkuu wa Positron AI Cameron McCaskill, ambaye alishiriki takwimu hiyo katika mahojiano na Utafiti waCUBE katika mkutano wa kompyuta mkuu wa SC26. Miaka mitatu iliyopita, mgawanyiko ulikuwa karibu kinyume kabisa: karibu asilimia 85 ya mafunzo na uelekezaji wa asilimia 15.

Mabadiliko hayo ni kuchora tena kwa utulivu ramani ya mahali ambapo hesabu ya AI inaishi - na inaelezea kwa nini kizazi kipya cha watengenezaji chipu wa inference-kwanza wanashinda kwa ghafla mikataba ya wingu kutoka kwa kampuni kubwa zaidi kuliko wao wenyewe.

Nambari za Nyuma ya Flip

"Tuko katika wakati ambapo karibu theluthi mbili ya mzigo wa kazi unaoendeshwa kupitia miundombinu hii ya AI ni makisio dhidi ya theluthi moja ni mafunzo," McCaskill, mkuu wa mauzo na maendeleo ya biashara huko Positron, katika mahojiano na Rebecca Knight wa Utafiti waCUBE na John Furrier. "Hapo nyuma mnamo 2023, ilikuwa kama mafunzo ya 85%, uelekezaji wa 15%. Kwa hivyo sasa unaweza kuona ni kwa nini makisio yanaendesha maamuzi ya kiuchumi ya jinsi watakavyojenga miundombinu yao."

Kuhama kunaleta maana angavu. Mafunzo hufanyika katika maabara chache za mipakani zilizo na vikundi vya dola bilioni. Makisio hutokea kila mahali, kila wakati mtumiaji anapouliza modeli - na jinsi utumiaji wa watumiaji na biashara umelipuka, mahitaji ya jumla ya tokeni yamelemea miundombinu iliyojengwa kwa enzi ya mafunzo. Nishati, kupoeza na ugavi wa kumbukumbu sasa huunda mahali ambapo tokeni huzalishwa kama vile utendaji wa chip ghafi hufanya, na hiyo hubadilisha ni vifaa vipi vinavyoshinda ofa.

Dau la Positron kwenye Kumbukumbu ya Bidhaa

Positron AI, ambayo ilikusanya dola milioni 875 kwa hesabu ya dola bilioni 5 mnamo Septemba, imeunda mkakati wake wote karibu na enzi ya uelekezaji. Chaguo kuu la muundo wa kampuni: ruka kumbukumbu ya upelekaji data wa hali ya juu (HBM), aina ya kumbukumbu adimu na ya gharama kubwa ambayo huweka vichapuzi vingi vya AI, na badala yake utengeneze vifaa vya uelekezaji karibu na kumbukumbu ya bidhaa.

"Kila mtu mwingine mzuri sana katika tasnia anatumia kile kinachoitwa HBM au kumbukumbu ya data ya juu. Ni mdogo sana katika usambazaji, ni ghali sana," McCaskill alisema. "Tulienda na kumbukumbu ya bidhaa."

Makubaliano ya biashara ni ya makusudi. Kumbukumbu ya bidhaa ni ya bei nafuu na ni rahisi zaidi kupata, na usanifu wa Positron huweka nguvu chini ya kutosha kwa vyumba vilivyopozwa hewa - hakuna upoaji wa kioevu wa kigeni unaohitajika. Seva moja ya Positron huchota takriban wati 4,500, na safu kamili ya seva zinazokuja za kampuni ya Titan inafaa ndani ya kilowati 40.

Ramani ya barabara inaendelea haraka. Seva ya Atlas ya kizazi cha kwanza ya Positron iliendeshwa kwenye chipu inayoweza kuratibiwa, na kampuni inapanga kutega silikoni yake mapema mwaka ujao kwa seva ya Titan. Kampuni tayari imetuma kupelekwa kwa marquee: Oracle inaleta takriban seva 340 za Atlas moja kwa moja katika wingu lake robo hii, kulingana na McCaskill, na mtoa huduma wa neocloud ametia saini kwa Atlas huku akijitolea kwa kizazi kijacho cha Titan.

Vituo vya Data vya Msimu Hukuwa Nyumba ya Asili ya Makisio

Labda sehemu muhimu zaidi ya mahojiano ni pale McCaskill anasema mahitaji yanatoka: sio vyuo vikuu vya hali ya juu, lakini vifaa vidogo, vya haraka, vya kawaida.

"Moja ya vikundi vya kampuni ambazo tunaona kuongezeka kwa sasa na kuja kwetu kwa bidhaa ni hizi vituo vya data vya kawaida, ambapo vina nusu ya megawati au, megawati 1 au kituo cha data cha megawati 2.5, na hizo zinaweza kupelekwa haraka sana," alisema. "Lengo la wachezaji wengi wa maongezi ni kuwa nataka kupata kutoka ardhini na mamlaka hadi tokeni za uchumaji ndani ya siku 90 hadi 120."

Ratiba hiyo ya matukio - takriban robo moja kutoka mwanzo hadi mapato - haiwezekani kwa kampasi ya mafunzo ya kiwango cha gigawati, ambayo inaweza kuchukua miaka kuruhusu, kujenga, na kutia nguvu. Mizigo ya kazi ya uelekezaji ni ndogo, inanyumbulika zaidi kijiografia, na inastahimili tovuti ambapo waendeshaji wanaweza kupata megawati chache za nishati nafuu bila vikwazo vizito vya udhibiti. Matokeo yake ni kiwango kinachoibuka cha miundombinu ya uelekezaji iliyosambazwa iliyo katika tovuti za mawasiliano ya simu, vituo vya kugawa maeneo, na vitengo vya kawaida karibu na pale mahitaji yanapohitajika.

Nini Maana Kwa Tasnia

Kwa wachuuzi wa chip, ujumbe ni kwamba soko la vifaa vya AI ni mbili. Mafunzo yanaendelea kutuza vichapuzi vya hali ya juu zaidi na mifuko ya ndani kabisa. Ukisio huthawabisha sifa tofauti: ufanisi wa nishati, gharama ya kumbukumbu, kasi ya utumaji, na uwezo wa kukimbia katika majengo ya kawaida yaliyopozwa na hewa. Wachuuzi walioboreshwa kwa ajili ya mbio za mafunzo pekee wanaweza kupata idadi kubwa zaidi ya maamuzi ya utumaji wa siku zijazo - ambapo tokeni huchuma mapato - zinazofanyika kwenye maunzi yaliyoundwa kwa ajili ya seti tofauti ya vikwazo.

Kwa makampuni ya biashara na wateja wa mtandaoni, mabadiliko hayaonekani sana lakini yanazidi kuwa muhimu: uwezo wa uelekezaji unaofika katika nyongeza za siku 90 hadi 120 unamaanisha bei ya ushindani zaidi na chaguo zaidi za kijiografia kwa mifano inayoendesha karibu na watumiaji na data.

Na kwa masimulizi ya ujenzi wa tasnia ya AI - mara nyingi huandaliwa kama mbio zisizo na mwisho za kampasi za gigawati - ubadilishaji wa marejeleo ni ukumbusho kwamba safu ya mahitaji inapanuka, sio kuongeza tu. Hatua ya theluthi mbili iliyotajwa katika SC26 ni makadirio ya mtendaji mmoja, lakini inalingana na mwelekeo ambao kila mwendeshaji mkuu wa wingu ameripoti: kituo cha uvutano cha AI kinahama kutoka kutoa mafunzo kwa wanamitindo hadi kuwahudumia.

Kaa Mbele ya AI

Fuatilia maendeleo ya hivi punde ya AI kadri yanavyofanyika kwa AI Buzz Wire, chanzo chako cha habari za maunzi ya AI na miundombinu.

Soma habari zaidi za AI →