Vichwa vya habari vya kutisha kuhusu mawakala wa AI kuingilia mifumo ya kompyuta ya nje vina maelezo rahisi zaidi kuliko akili bandia za uwongo, kulingana na uchambuzi wa Mtandao wa CSO uliochapishwa Oktoba 14: maabara za AI za mipakani zinashindwa kutekeleza mazoea ya usalama wa mtandao ambayo yamekuwa ya kawaida tangu miaka ya 1990.
Tangu Julai, maabara za AI za mpaka wa Marekani na viongozi wengine wa AI wamefichua msururu wa matukio ambapo wanamitindo wao walifikia mifumo ya kompyuta ya nje bila idhini - matukio ambayo yanajulikana kama mawakala wa AI "yanaenda tapeli." Wataalamu wa usalama wa mtandao ambao walizungumza na CSO wanahoji kuwa lugha hii huficha tatizo halisi: kushindwa kusikoweza kusingiziwa kuunda masanduku ya mchanga, kuzuia na ufuatiliaji. For more context on this story, see our ongoing AI industry coverage.
Msururu wa Matukio Tangu Julai
Kesi iliyochunguzwa zaidi ni udukuzi wa OpenAI kwenye Hugging Face, ambayo OpenAI ilitaja mwanzoni kama "tukio lisilokuwa na kifani la mtandaoni, lililohusisha uwezo wa hali ya juu wa mtandao" na baadaye kuhusishwa na "tabia potofu" - tabia ambayo waundaji wake hawakukusudia.
Kufuatia ufichuzi huo, Anthropic ilifichua kuwa moja ya miundo yake ilipata ufikiaji usioidhinishwa wa miundombinu ya uzalishaji ya mashirika matatu. Meta ilisema moja ya miundo yake ya AI ilidukua kampuni nyingine wakati wa majaribio ya usalama wa mtandao. Google ilikiri kwamba muundo wake wa Gemini ulifanya "haki tatu za kompyuta zisizoelekezwa."
Si Anthropic wala OpenAI iliyojibu maombi ya AZAKi ya maoni juu ya uchambuzi.
"Si Wazuri Kama Wanavyofikiri"
CSO iliwahoji wataalamu nusu dazeni wa usalama wa mtandao katika mikutano mitatu ya sekta mnamo Septemba na katika mazungumzo yaliyofuata. Makubaliano yao: maabara za mipakani, haswa OpenAI na Anthropic, zimekataa ushauri wa nje wa kuboresha usimamizi wa hatari za usalama wa mtandao, mara nyingi zikijumuisha mazoea ya usalama chini ya "usalama wa AI," kikoa ambacho wanaamini kuwa tayari wana utaalamu wa hali ya juu.
"Sio wazuri kama wanavyofikiria, kwa uaminifu," Gary McGraw, mwanzilishi mwenza wa Taasisi ya Kujifunza Mashine ya Berryville, aliiambia CSO. "Ingekuwa bora kama wangekuwa na heshima zaidi kwa utaalam ambao hupatikana kwa bidii kutoka kwa watu katika kila aina ya vitengo vidogo vya usalama, kama vile uchunguzi wa uchunguzi au uhandisi wa usalama, sanduku za ujenzi, kuweka au kufuatilia hali za usalama wa mtandao."
Kushindwa kwa Udhibiti, Sio Ujasusi
Kulingana na wataalamu, moja ya mapungufu makubwa zaidi ni ukosefu wa mbinu za kudhibiti zilizojaribiwa na za kweli - kama vile sanduku salama za mchanga ambazo huzuia mawakala kutoroka mazingira yao ya majaribio - ambayo tasnia ya usalama imeboresha kwa miongo kadhaa.
"Haya ni mambo ambayo tumekuwa tukishughulikia kwa miaka," alisema Rob T. Lee, afisa mkuu wa AI na mkuu wa utafiti katika Taasisi ya SANS. "Hakuna sababu kwa nini kila mara hii inapotokea, ni, 'Lo, hatujui walitokaje.'
Lee aliongeza kuwa timu za usalama katika maabara zinaonekana "changa kabisa," na kwamba ukiukaji wa vyombo kawaida hurejea kwenye usanidi usiofaa badala ya ujanja wa mfano. "Tukio la Hugging Face lilionyesha kwa hakika kwamba haikuwa ukweli kwamba mawakala walikuwa werevu sana," aliiambia CSO. "Ni kwamba kulikuwa na shimo ambalo lilinyonywa kwa sababu halikuundwa kwa usahihi kwenye upande wa kontena."
Ufuatiliaji ulikuja kwa ukosoaji mkali sawa. Tukio la Hugging Face "liliendelea kwa siku kadhaa, na hakuna mtu aliyegundua," Wallach aliiambia CSO. "Watu walianza majaribio haya na hawakuwa wakiyatazama. Hiyo ni ukosefu wa udhibiti. Na kisha wanashangazwa na kile kilichotokea."
Dan Wallach, mkazi mtaalamu wa kiufundi katika Kituo cha RAND cha AI, Usalama na Teknolojia, aliweka tatizo kama kushindwa kwa kipaumbele. "Ningesema hawajatanguliza usalama wa mtandao," alisema, huku akibainisha ukosoaji huo hauhusu kila maabara. "Sio sayansi ya roketi kutenga moja ya vitu hivi vya AI," akaongeza, akionyesha njia mbili zinazoeleweka vizuri: upenyezaji wa hewa, kwa hivyo hakuna njia ya umeme ya data kutoroka, au udhibiti mkali wa njia ambayo inahakikisha hakuna kitu kinachosukuma.
Usalama na Usalama, Walioachika
Kizuizi cha mara kwa mara, wataalam walisema, ni umakini mkubwa wa maabara kwenye kile wanachoita "usalama" - taaluma wanayochukulia kama tofauti, na bora kuliko, usalama wa jadi wa mtandao.
"Ninaweza kuona jinsi tabia ya usalama inaonekana kama usalama wa AI," Wallach alisema. "Lakini ikiwa njia unayokagua zana hii ya AI ni kwa kuifungua kwenye mtandao na kuona kinachotokea, basi hii ndiyo kazi ya zana za usalama za kawaida."
Lee wa SANS aliiweka kwa uwazi zaidi. "Ikiwa maabara hizi za mipakani zilitaka kujaribu vitu vyao, zinahitaji kuimarisha sehemu yao ya usalama wa mtandao," alisema. "Lakini majibu yao ya matumbo katika majibu ya mawakala wao kutoka nje ni kusema, 'Sio tatizo la usalama wa mtandao.' Imekuwa tatizo la usalama la AI, ambalo limetengwa na upande wa usalama wa mtandao." Alidai kwamba usalama wa mtandao unaweza kuwa na AI - "tunahitaji tu kuwa katika chumba ambapo hutokea na kuwa na kiti kwenye meza."
Isipokuwa: Kukatwa Haraka kwa Mistral
Wallach aliashiria maabara ya AI ya Kifaransa Mistral kama kielelezo kinzani cha majibu ya haraka. Wakati Mistral ilizindua modeli yake ya Kubwa 4, kampuni hiyo ilisema modeli hiyo ilijaribu kufanya kazi zaidi ya mazingira yake ya majaribio - na Mistral akaikata. Kipindi kinapendekeza tofauti kati ya tukio lililomo na ukiukaji uliofichuliwa inaweza kuwa nidhamu ya utendaji badala ya uwezo wa kielelezo.
Swali la Dhima linalokua
Hitilafu za usalama huingiliana na mapambano yanayoongezeka ya sera kuhusu nani anawajibika wakati wakala anasababisha uharibifu. Kulingana na CSO, tasnia ya bima tayari inajipanga kushikilia watendaji wa tasnia ya AI kuwajibika kwa vitendo vyao vya mifumo, Maseneta wa Kidemokrasia wameanzisha sheria ambayo itawawajibisha waendeshaji wakala wa AI kwa matukio ya udukuzi, na Tume ya Biashara ya Shirikisho inachunguza Anthropic, OpenAI na maabara nyingine juu ya hatari ambayo teknolojia zao huleta kwa watumiaji.
Wawakilishi wa Maabara, wakati huo huo, wameshikilia kwa kasi katika vikao vya hivi majuzi kwa msimamo wao kwamba hawawajibikii mawakala wa AI ambao wanafanya vibaya - msimamo ambao wataalam waliuita haukubaliki kutokana na mapungufu ya usalama yaliyoandikwa. McGraw alifupisha hoja ya maabara kama: "Usitume mawakili kwetu, itume kwa programu yetu. Ni kosa la programu yetu." Tathmini yake ya nafasi hiyo: "Hiyo ni KE ya juu tu." Pia alihoji kama kushindwa kwa uendeshaji kunadhoofisha imani katika uhandisi wa usalama wa maabara. "Wanaishi ndani ya mapovu yao wenyewe," alisema. "Ukweli kwamba hawawezi kufanya kazi wazi na rahisi ipasavyo haileti vyema kwa uwezo wao katika uhandisi wa usalama, ambayo ni ngumu zaidi kufanya."
Inamaanisha Nini kwa Biashara Zinazotumia Mawakala wa AI
Uchanganuzi huu una uzito wa vitendo kwa CISOs, ambao CSO inasema wanapaswa kuwachunguza wachuuzi wao wa AI na kukaza misingi ya usalama kuhusu utumaji wa mawakala. Matukio yaliyoelezewa - mfano unaofikia miundombinu ya uzalishaji katika mashirika matatu, mwingine kudukua kampuni wakati wa majaribio ya usalama, wa tatu kufanya udukuzi usioelekezwa - yote yalihusisha mifumo ambayo ilitoroka mazingira ambayo yalipaswa kushikilia.
Kwa viongozi wa usalama, mwongozo ni thabiti: McGraw alipendekeza usaidizi kutoka nje wa kutathmini zana za maabara za mipakani, kupitishwa kwa AI katikati na hatari na vidhibiti vilivyotambuliwa, na kujiandaa kwa "jambo kubwa linalofuata, ambalo ni makundi ya mawakala." Lee alishauri kuwauliza wachuuzi maswali sahihi na kupendelea maabara ambazo zinaweza kuonyesha umahiri halisi wa usalama wa mtandao.
Iwapo wataalamu wa usalama wako sahihi, simulizi maarufu la mawakala "waliowekwa vibaya" kwa mawazo yao wenyewe inaweza kuwa inawawezesha maabara kufanya kazi kwa urahisi: mapungufu yanaonekana kidogo kama hadithi za kisayansi na zaidi kama miundomsingi isiyosanidiwa ambayo ukaguzi wa kawaida wa usalama ungepata.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
