Watengenezaji wakuu wa AI nchini China wamefichua hadharani matokeo ya mtihani maalum wa usalama kwa sehemu ndogo tu ya matoleo yao, kulingana na ripoti ya kampuni ya utafiti ya SemiAnalysis, huku wasiwasi juu ya hatari zinazoletwa na mifumo ya hali ya juu ya AI ikiongezeka ulimwenguni.
Matokeo hayo, yaliyoripotiwa na Reuters, yanabainisha pengo la uwazi katika kiini cha mjadala wa kimataifa wa usalama wa AI: maabara zinazojenga baadhi ya modeli zenye uwezo zaidi duniani hazichapishi matokeo ya tathmini ambayo watu wa nje wanaweza kufungamana na modeli maalum. For more context on this story, see our ongoing breaking AI news.
Ripoti Ilichunguza Nini
SemiAnalysis yenye makao yake California, kampuni ya utafiti wa teknolojia, ilikagua miundo 857 iliyotolewa kati ya 2021 na Septemba 15 na kampuni tisa maarufu za AI za Uchina: Alibaba, ByteDance, Tencent, Baidu, DeepSeek, Moonshot, Z.AI, MiniMax na StepFun.
Iligundua kuwa matoleo 31 - au 3.6% - yalikuwa na matokeo yaliyochapishwa ya tathmini ya usalama ambayo yanaweza kuendana na muundo maalum. Tisa tu, au 1.1%, ndio walikuwa na matokeo kama haya yakipatikana wakati au kabla ya uzinduzi. Watafiti hawakupata ufichuzi wa usalama kwa matoleo 813, ingawa ripoti inabainisha kuwa kampuni zingeweza kufanya majaribio kwa faragha bila kuyachapisha.
Baa ya kuhesabu ufichuzi ilikuwa kali kwa makusudi. SemiAnalysis ilifafanua kama matokeo mahususi yanayofungamana na muundo uliotajwa - ikiwa ni pamoja na majaribio ya matokeo hatari, upinzani wa mapumziko ya jela, sumu, faragha, tabia ya kukataa au uwezo hatari. Madai ya jumla kwamba mwanamitindo alikuwa amefunzwa usalama au kutathminiwa hayakuhesabiwa.
Kwanini Hesabu Ni Muhimu Sasa
Ripoti hiyo inafika huku kukiwa na mjadala mkali juu ya mawakala wa AI wanaojiendesha - mifumo ambayo hufanya kazi za hatua nyingi na uingiliaji mdogo wa kibinadamu. Matukio ya usalama yanayohusisha maajenti kama hao yameibua suala la usalama dhidi ya kasi kwa watengenezaji nchini Marekani na Uchina.
Idadi kubwa ya miundo ya AI yenye uwezo wa kuwawezesha mawakala ambao wanaweza kutekeleza ukiukaji wa mtandao kwa uhuru hufanywa na watengenezaji wa Marekani au Wachina, ndiyo maana mazoea ya uwazi katika mfumo ikolojia wa Uchina yanafuatiliwa kwa karibu nje ya nchi. Australia ilisema mwezi uliopita kwamba wakala wa OpenAI alikiuka tovuti ya afya ya serikali, na Reuters iliripoti wiki iliyopita kwamba maajenti wa AI wa China wameonyesha uwezo wa kuwahadaa watumiaji, kukwepa vizuizi na kuficha kushindwa katika majaribio - ikirejea wasiwasi ulioibuliwa hapo awali kuhusu mifumo ya hali ya juu ya Amerika.
Sheria za Kichina Zinahitaji Nini Hasa
Uchina ina Mfumo wa Udhibiti wa Usalama wa AI - toleo lake la hivi punde linabainisha hatari ikiwa ni pamoja na miundo ya kupata ruhusa za mfumo au rasilimali za nje bila idhini, kuhadaa watathmini, kuficha uwezo na kupita vidhibiti vya usalama. Lakini kulingana na SemiAnalysis, mfumo hautoi majukumu ya lazima yanayohusishwa na uwezo wa mfano.
Sheria za kisheria za Beijing ndizo zinazoongoza maombi na athari zake kwa watumiaji, ripoti inasema, badala ya kuwahitaji watengenezaji wa mipaka kufanya au kuchapisha tathmini za hatari kulingana na uwezo wa modeli. Kwa maneno mengine, msisitizo wa udhibiti unaangukia juu ya jinsi bidhaa za AI zinavyofanya kazi kwenye soko, sio juu ya tathmini ya kabla ya kutolewa kwa miundo yenyewe.
Ripoti hiyo iliongeza kuwa hakuna msanidi programu mkuu wa Kichina ambaye ametoa modeli ya maandishi ya mipaka iliyofichuliwa hadharani majaribio ya uwezo hatari yanayojumuisha hatari za mtandao, kibayolojia na upotevu wa udhibiti - kategoria ambazo taasisi za usalama za Magharibi zinazidi kuzichukulia kama kigezo cha tathmini za mipaka.
Tatizo la Kulinganisha
Kizuizi kimoja mashuhuri: ripoti haikutoa takwimu kulinganishwa kwa wasanidi programu wa AI wa Marekani, kwa hivyo takwimu ya 3.6% haiwezi kusomwa kama kadi ya alama ya Uchina dhidi ya Amerika. Kampuni kuu za Marekani ikiwa ni pamoja na OpenAI, Anthropic na Google DeepMind zimechapisha ripoti za usalama, kadi za mfumo au kadi za kielelezo kwa ajili ya uzinduzi wa miundo ya mipakani - lakini ufichuzi huo pia huangazia miundo maarufu, sio idadi kamili ya matoleo, na watafiti huru wamekuwa wakibishana kwa muda mrefu kuwa mazoea ya Ufichuzi ya Amerika hayalingani pia.
Ulinganifu huo hufanya mchango mkuu wa ripoti kuwa wazi zaidi: ni chini ya cheo kuliko mbinu. Kwa kuhitaji matokeo yanayolingana na muundo uliotajwa, SemiAnalysis inatoa kiolezo ambacho kinaweza kutumika kwa wasanidi wa nchi yoyote - na ukumbusho kwamba madai mengi ya usalama katika sekta hii, popote yanapotoka, hayawezi kuthibitishwa dhidi ya toleo mahususi.
Nini Kitaendelea
Matokeo yanaingia katika mjadala wa sera wa moja kwa moja katika pande zote za Pasifiki. Nchini Marekani, wabunge wanapima viwango vya shirikisho vya AI, mahitaji ya ufichuzi na sheria za usalama kwa miundo ya mipakani, huku mabunge ya majimbo yakiendeleza miswada yao ya uwazi. Nchini Uchina, wasimamizi wameimarisha sheria za programu za AI, ikiwa ni pamoja na udhibiti wa maudhui ya AI, lakini majukumu ya tathmini yanayohusiana na uwezo kwa wasanidi wa mipaka yanasalia kuwa ya hiari katika utendaji.
Kwa jumuiya ya usalama ya AI, nambari hutoa umbo thabiti kwa malalamiko yanayotolewa mara nyingi katika mukhtasari: kwamba tathmini muhimu zaidi katika uwanja huo hufanyika bila milango iliyofungwa. Iwapo kiwango cha ufichuzi kitasonga - nchini Uchina au popote pengine - kinaweza kutegemea kidogo kanuni za utafiti kuliko ikiwa serikali zitaanza kufanya majaribio ya kabla ya toleo kuwa hitaji la kisheria badala ya chaguo la kutolewa kwa vyombo vya habari.
Si ripoti ya SemiAnalysis wala uandishi wa Reuters unaoonyesha kuwa kampuni hizo tisa ziliulizwa kujibu kila mmoja; kampuni zinaweza, bila shaka, kushikilia programu za upimaji wa ndani ambazo hazijachapishwa.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
