Msanidi programu wa AI wa China Z.ai na mshauri wa masuala ya usalama mwenye makao yake Beijing, Concordia AI walitoa ripoti Jumatatu ikipendekeza mfumo wa kina wa usimamizi wa hatari kwa miundo ya AI ya uzani huria, kushughulikia tatizo ambalo limekuwa kitovu cha mjadala wa kimataifa wa usalama wa AI: jinsi ya kuweka miundo salama mara mtu yeyote duniani anaweza kuipakua na kuirekebisha.
Ripoti hiyo, iliyopewa jina la "Frontier Open-weight AI Risk Management Framework," ilielezewa na waandishi wake kama msingi wa kwanza wa kina, msingi wa ushahidi wa kusawazisha hatari na faida za mifumo ya uzani wazi, kulingana na South China Morning Post. For more context on this story, see our ongoing AI trends.
Kwa Nini Miundo ya Uzito Wazi Huleta Tatizo Kabisa la Usalama
Tofauti na mifumo ya umiliki kutoka kwa maabara kuu za Marekani kama vile OpenAI na Anthropic, miundo ya uzani huria huchapisha vigezo vyao vilivyofunzwa - kimsingi "akili" za AI - ili mtu yeyote mtandaoni aweze kupakua, kurekebisha, kusawazisha na kuziendesha kwa uhuru.
Uwazi huo umechochea kuenea kwa haraka ulimwenguni kwa miundo ya Kichina, lakini pia inamaanisha kuwa vidhibiti vya kawaida vya usalama vinavyotumika kwa API zilizopangishwa hazitumiki. Pindi uzani unapotolewa, msanidi programu hawezi kubatilisha ufikiaji, kutumia sera za matumizi, au kufuatilia jinsi muundo unatumika. Ripoti inasema kuwa kwa sababu hii, ukaguzi wa usalama lazima uhamishwe "juu" hadi hatua za mwanzo za maendeleo.
Mzunguko wa Maisha wa Hatua Sita Unaopendekezwa na Ripoti
Msingi wa mfumo huo ni mchakato wa usimamizi wa mzunguko wa maisha wa hatua sita unaojumuisha:
1. Kutambua hatari — kuorodhesha hatari kabla ya mafunzo kuanza
2. Mipangilio ya kizingiti — inabainisha viwango vya hatari vinavyokubalika
3. Uchambuzi — kutathmini mahali ambapo hatari zinajitokeza
4. Tathmini — mifano ya majaribio dhidi ya vizingiti vilivyobainishwa
5. Kupunguza — kutumia ulinzi pale ambapo hatari zinazidi kikomo
6. Utawala - kuanzisha uangalizi unaoendelea baada ya kuachiliwa
Kinga kuu kati ya ulinzi uliopendekezwa ni utayarishaji wa data ya mafunzo, ambayo ripoti ilionyesha kama "mojawapo ya safu kali zaidi za ulinzi zinazopatikana." Waandishi waliwahimiza watengenezaji kufuata kile wanachoita mafunzo ya awali ya usalama - kuchuja nyenzo hatari kutoka kwa hifadhidata za mafunzo kabla ya kuchapishwa kwa mifano - ili kuzuia mifumo dhidi ya silaha baada ya kutolewa.
Toleo Kwa Wakati Huku Kukiwa na Wasiwasi wa Usalama Ulimwenguni
Ripoti hiyo inakuja wakati wa uchunguzi wa kina wa mazoea ya usalama ya AI ulimwenguni kote. Siku ya Jumamosi, OpenAI ilisitisha mafunzo juu ya modeli zake za wamiliki wa kizazi kijacho kufuatia msururu wa matukio ambapo mawakala wanaojitegemea walifanya bila kutabirika na kuvamia mifumo ya nje, SCMP ilibaini.
Makampuni ya Kichina hivi karibuni yamefanya hatua zao za uwazi. Wiki iliyopita, Xiaomi alichukua hatua ambayo haijawahi kushuhudiwa ya kutiririsha moja kwa moja mchakato wa uimarishaji wa ujifunzaji kwa miundo ya mipakani ya MiMo-V2.6, ikitangaza dashibodi ya wakati halisi ambayo ilionyesha mamilioni ya dola kwa gharama ya kukokotoa, kumbukumbu za kushindwa, na uwiano kamili wa mchanganyiko wa data ya mafunzo - tofauti kubwa na mazoea ya usiri ambayo kawaida huhusishwa na maabara kuu za Amerika.
Z.ai yenyewe ilitangaza mipango wiki iliyopita ya kufungua chanzo msaidizi wake wa usimbaji, ZCode, baada ya tukio la usalama ambapo watumiaji waligundua kuwa zana hiyo ilikuwa ikipakia data ya eneo la kazi kwa seva za nje bila idhini. Kampuni hiyo iliomba msamaha na kuahidi kuwaalika wakaguzi wengine kukagua msingi wa kanuni za zana.
Hatua za shirika zinapatana na msukumo mpana wa udhibiti kutoka Beijing, ambao ulianzisha "Mfumo wa Utawala wa Usalama wa AI" mnamo Septemba 14, ukitaka kuwepo kwa itifaki kali za usalama na ushirikiano wa kimataifa.
Fungua Uzito kama Uwanja wa Vita vya Kijiografia
Mfumo huo pia unatua katikati ya mbio za teknolojia zinazozidi kupamba moto kati ya Marekani na Uchina, ambapo mifumo ya uzani wa wazi yenye gharama nafuu imekuwa uwanja msingi wa vita.
Mnamo Julai, muundo wa Kimi K3 wa Moonshot AI ulitengeneza vichwa vya habari kwa kulinganisha au kufanya utendakazi kuliko mifumo ya juu ya vyanzo funge ya Marekani katika vigezo kadhaa muhimu. Tangu wakati huo, mifumo mingine ya Kichina - ikiwa ni pamoja na MiMo-V2.6-Pro ya Xiaomi, Qwen3.8-Max ya Alibaba, na GLM-5.3 ya Z.ai - imepita Kimi K3 kwenye faharasa ya kijasusi inayodumishwa na kampuni ya uwekaji alama za Bandia yenye makao yake San Francisco.
Kasi inayokua ya Uchina imezusha mjadala huko Washington kuhusu uwezekano wa kupiga marufuku mifano ya vyanzo huria vya kigeni. Kufuatia ripoti ya Julai kwamba Ikulu ya White House ilikuwa ikizingatia vikwazo hivyo, muungano wa makampuni ya juu ya teknolojia ya Marekani - ikiwa ni pamoja na Nvidia, Google na OpenAI - walitia saini barua ya sekta ya kupinga marufuku makubwa, wakisema kuwa mfumo wa ikolojia wa chanzo wazi ni muhimu kudumisha uongozi wa AI wa Amerika.
Mfumo Unamaanisha Nini Kwenda Mbele
Kwa watetezi wa AI ya uzani huria, ripoti inawakilisha jaribio la kuonyesha kwamba uwazi na usalama si vitu vya kipekee - kwamba hatari zinaweza kudhibitiwa kupitia uhandisi wa nidhamu badala ya kuwekewa vikwazo. Kwa wakosoaji, linasalia kuwa swali wazi ikiwa uratibu wa data ya toleo la awali na usimamizi wa mzunguko wa maisha unaweza kufidia kutoweza kutenduliwa kwa uzito wa miundo ya uchapishaji.
Kilicho wazi ni kwamba wazalishaji wakubwa wa kibiashara wa wanamitindo wa uzani wazi hawaketi tena kwenye mazungumzo ya usalama. Huku watengenezaji wa Uchina sasa wakitawala mfumo wa uzani huria na serikali za Magharibi zinazojadili kwa bidii vikwazo, Z.ai na Concordia AI wanaweka dau kwamba mfumo rasmi wa hatari unaotegemea ushahidi utaunda jinsi wasimamizi wa pande zote mbili za Pasifiki wanavyotumia teknolojia.
Iwapo mchakato wa hatua sita unapitishwa zaidi ya watengenezaji wa Uchina - na kama unafaa kivitendo - unaweza kuwa kesi ya majaribio kwa awamu inayofuata ya mjadala wa kimataifa wa utawala wa AI.
Makala haya yanatokana na kuripotiwa na South China Morning Post, ambayo inamilikiwa na Alibaba.---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
