Maabara ya AI ya Uchina Z.ai imechapisha akaunti ya kina ya kiufundi ya jinsi ilivyoweka miundo ya GLM kufanya kazi kuboresha mifumo inayoihudumia, ikielezea "Ajenti wa Infra" ambaye hupata na kurekebisha vikwazo vya utendakazi katika miundombinu ya makisio ya kampuni na uingiliaji kati mdogo wa binadamu.
Chapisho la blogu, lenye kichwa "Kuelekea Uboreshaji wa Kujirudia: Jinsi GLM Ilivyojijengea Miundombinu ya Maelekezo Yake," lilichapishwa kwenye tovuti ya kampuni hiyo Jumatano na kwa haraka likawa mojawapo ya hadithi za teknolojia zilizojadiliwa zaidi kwenye Hacker News, ambapo ilichota zaidi ya pointi 200 kutoka kwa jumuiya ya wasanidi programu. For more context on this story, see our ongoing artificial intelligence updates.
"Tunapokuza GLM, mtindo wakati mwingine huonyesha uwezo ambao unatushangaza, na hata kutusumbua," kampuni iliandika kwenye mistari ya ufunguzi wa chapisho.
Kutoka Utafiti wa Usalama wa Mtandao hadi Mifumo ya Kujiboresha
Kazi hii inaanzia Oktoba 2025, wakati Z.ai ilipoanza kutafiti jinsi ya kuimarisha uwezo wa usalama wa mtandao wa GLM. Hoja, kampuni hiyo inasema, ilikuwa ya moja kwa moja: usalama wa mtandao ni upanuzi wa asili wa usimbaji, na mifano ambayo inaweza kuvinjari misingi mikubwa ya kanuni inaweza hatimaye kuvinjari msimbo wa mifumo ya kiwango cha chini ambayo wahandisi wengi huepuka.
Msingi huo ulibadilika na kuwa kitu cha kutamani zaidi. Badala ya kutumia miundo kuandika tu msimbo, Z.ai alijitolea kujibu swali la uhandisi wa mifumo: je, wakala wa AI anaweza kuchukua jukumu la utendakazi wa mkusanyiko wa makisio ya uzalishaji, safu ya uratibu wa programu na maunzi ambayo hugeuza uzani wa modeli kuwa majibu ya haraka na ya bei nafuu?
Jibu la kampuni lilihusisha kurekebisha tatizo. Vipimo vya kuanzia mwisho hadi mwisho pekee, chapisho linasema, haziwezi kuongoza wakala wa uboreshaji. Ripoti kwamba ishara ya muda hadi ya kwanza iliongezeka kwa asilimia 30 au matokeo ya pato yameshuka kwa asilimia 20 inamwambia wakala kuwa kuna kitu kimekuwa mbaya zaidi, lakini sio safu gani inayowajibika, kwa nini nadharia yake haikufaulu, au nini cha kujaribu baadaye.
"Tunawezaje kugeuza matokeo machache ya mwisho hadi mwisho kuwa maoni ya uhandisi yakinifu, yanayohusishwa ambayo yanaongoza moja kwa moja hatua inayofuata?" kampuni inauliza kwenye chapisho, ikielezea swali kama ufunguo wa juhudi nzima.
Kanuni Tatu za Maoni Yanayosomeka kwa Wakala
Jibu la Z.ai ni nidhamu ya maoni iliyojengwa juu ya sifa tatu. Kwanza, maoni lazima yawe ya ndani vya kutosha, yakiambatana na vigezo mahususi vya uzinduzi wa injini, mabadiliko ya misimbo, viini, hali ya ingizo, nyuzi, vipindi vya utekelezaji, au njia za msimbo, ili wakala aweze kupunguza wigo wa tatizo lolote. Pili, lazima iwe ya gharama nafuu na kwa wakati ili kupata: swali linalojibiwa na jaribio la kernel au alama ndogo ya ndani haipaswi kuhitaji uwekaji wa huduma kamili. Tatu, uthibitishaji unapaswa kuendana na dhana ya sasa, na kila jaribio limeundwa kujibu swali mahususi badala ya kufuata mlolongo uliowekwa.
Kampuni hiyo inasema mzunguko huu mzito wa maoni ndio unaoruhusu Wakala wa Infra kufanya kazi kidogo kama kukamilisha kiotomatiki kwa wahandisi na zaidi kama mfanyakazi mwenzako anayeweza kufanya majaribio mara moja.
Uchunguzi Kisa Tatu, Kutoka Nambari hadi Mdudu wa Kuunganisha
Chapisho hilo linapitia vipindi vitatu halisi kutoka kwa uboreshaji wa safu ya huduma ya kampuni ya GLM-5.3-Flash, modeli ya uzani wazi Z.ai iliyotolewa chini ya leseni ya MIT mnamo Agosti.
Ya kwanza inahusisha usahihi. Kwa sababu uboreshaji wa makisio huchanganua upya jinsi hesabu zinavyolinganishwa, wakala alihitaji kuthibitisha kuwa punje hutoa matokeo sawa chini ya hali zilizogawanywa na zisizogawanywa. Katika hali moja, timu ilichanganya oparesheni tatu za TF32 Tensor Core kutoa matokeo ya usahihi wa hali ya juu, na kupunguza hitilafu ya nambari iliyokusanywa huku ikihifadhi manufaa mengi ya utendaji wa Tensor Core. Jaribio la kulinganisha kati ya mikakati ya kugawa lilifichua utofauti uliochochea urekebishaji.
Ya pili ni hadithi ya utatuzi wa mifumo ambayo itafahamika kwa mhandisi yeyote wa utendaji. Vigezo vya kukubalika vilihitaji kwamba kuongeza uhamishaji wa akiba ya KV kwenye njia inayotumika kusishushe utendakazi wa kujaza mapema kwa zaidi ya asilimia 5 chini ya mizigo ya kazi inayofanana. Wakala aligundua pengo lilizidi asilimia 20 katika baadhi ya matukio, ambayo yalipunguza uchunguzi hadi tabia ya upatanishi ya uhamishaji wa KV yenyewe. Akikagua kalenda za utekelezaji, wakala aligundua hitilafu: katika hali ya tatizo, utekelezaji wa uhamishaji wa KV wa Python-side haukuwahi kupishana na utumaji na kuchanganya vipindi vya maktaba ya mawasiliano ya DeepEP. Marekebisho yalikuwa kuachilia kufuli ya mkalimani ya kimataifa ya Python wakati wa vipindi husika vya utekelezaji wa C++, ikiruhusu uzi wa uhamishaji unaotumikia Mooncake, duka la kache la KV, kuendelea sambamba na ukokotoaji. Pengo la utendakazi baadaye lilianguka ndani ya kizingiti cha kukubalika.
Kipindi cha tatu kinaonyesha urekebishaji wa kernel. Tunawaletea ReplaySSM, mbinu ambayo hufanya biashara kukokotoa kumbukumbu, hapo awali iliongeza muda wa utekelezaji wa kerneli ya kusimbua KDA. Uboreshaji wa mgawanyiko wa wakala kisha ulipunguza muda wa utekelezaji wa kernel kwa asilimia 9.6. Baada ya kupokea maoni kwamba hesabu ilisalia kuwa kizuizi kikuu, wakala aligundua utekelezaji wa awali uliowekwa vigae kwenye kipimo cha V, na kusababisha urekebishaji sawa wa FP32 na hesabu za lango kurudiwa bila lazima.
Rafu Nyuma ya GLM-5.3-Flash
Uboreshaji upo juu ya usanifu wa utumishi wa fujo ambao Z.ai anaelezea katika chapisho: usawa wa tensor ya ndani ya nodi kwa umakini wa mstari na kichwa cha mfano wa lugha, biashara ya compute-for-memory ya ReplaySSM, ujazo wa W8A8, ujanibishaji wa kache wa usahihi-mchanganyiko kwa kutumia INT8, FPs8 umbizo, mpango wa BF, Layer 16 na Layer. Encode-Prefill-Ambua usanifu uliogawanywa ambao unaendesha hatua za huduma kwenye rasilimali tofauti.
Kampuni inatayarisha mkusanyiko wa mbinu hizi, zilizogunduliwa na kuthibitishwa kwa kiasi kikubwa na wakala mwenyewe, kama hatua ya kuelekea uboreshaji unaojirudia: Mifumo ya AI inaboresha miundombinu ambayo inaifanya iwe ya haraka na ya bei nafuu kuendesha, ambayo kwa hiyo hufanya awamu inayofuata ya uboreshaji unaoendeshwa na wakala kuwa nafuu zaidi.
Kwanini Ni Muhimu
Gharama ya uelekezaji ni moja wapo ya uchumi madhubuti wa tasnia ya AI. Maabara zinazoweza kutoa mifano ya hali ya juu kwa gharama ya chini kwa kila tokeni zinaweza bei mbaya, kutoa ruzuku kwa mawakala wanaopiga maelfu ya simu kwa kila kazi, na kufadhili mafunzo zaidi kutokana na kutoa mapato. Z.ai imekuwa mkali katika nyanja zote tatu, na ufichuzi wa muda wa kifedha wa kampuni mapema mwaka huu ulionyesha mapato yakikua kwa kasi hata kadiri hasara ilivyopungua.
Chapisho pia ni ishara kuhusu wapi uhandisi wa upande wa maabara unaelekea. Mgawanyiko wa kitamaduni wa kazi, huku wahandisi wa utendaji wa binadamu wakitengeneza kengele na vipanga ratiba huku miundo ikishughulikia maombi ya watumiaji, inabadilishwa katika Z.ai na kitanzi ambacho muundo unapendekeza mabadiliko, majaribio ya bei nafuu yanaidhinisha, na maoni mnene huelekeza jaribio linalofuata.
Madai ya uboreshaji wa uhuru kamili yanapaswa kusomwa kwa uangalifu. Chapisho lenyewe linaweka wazi kuwa wahandisi wa kibinadamu walifafanua hali za majaribio, kuweka vigezo vya kukubalika, na kuunda mazingira ya maoni ambayo wakala hufanya kazi ndani yake. Kile ambacho kampuni inafafanua ni uwekaji otomatiki wa kitanzi cha uboreshaji kilicho na zana nzuri, sio mfumo usiodhibitiwa unaojiunda upya.
Hata hivyo, mwelekeo ni wazi. Iwapo uchumi wa AI katika miaka michache ijayo utaamuliwa na nani anayeweza kutoa huduma za akili kwa bei nafuu zaidi, maabara zinazofundisha miundo yao kuboresha miundomsingi yao zinaweza kuweka kasi, na Z.ai inataka tasnia ijue inanuia kuwa mojawapo.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
