Timu ya usalama ya watu watatu kwenye uzinduzi wa Hacktron AI ilitumia Claude Opus 5 ya Anthropic kuingilia mifumo ya ndani ya OpenAI, ikiondoka na tuzo ya $6,500 kutoka kwa mpango wa fadhila wa mende wa OpenAI. Jarida la Wall Street Journal liliripoti kwa mara ya kwanza ukiukaji huo siku ya Alhamisi, na TechCrunch ilichapisha akaunti ya kina ya kiufundi mnamo Ijumaa kulingana na maandishi ya watafiti wenyewe.
Timu iliunganisha udhaifu mkuu mbili ili kupata ufikiaji wa akaunti nyingi za OpenAI za wafanyikazi wa ChatGPT, ambayo iliwawezesha kuingia kwenye programu ya ndani ya kampuni. OpenAI inasema imesuluhisha masuala ambayo Hacktron alifichua, lakini kipindi hicho tayari kinachochea mjadala mpana kuhusu jinsi miundo ya AI yenye uwezo imekuwa katika kutafuta na kutumia dosari za kiusalama za ulimwengu halisi. For more context on this story, see our ongoing AI industry coverage.
Jinsi Udukuzi Ulivyofanyika
Kulingana na chapisho la blogu lililochapishwa na watafiti wa Hacktron, njia ya kuingia OpenAI ilifunguliwa mnamo Julai 25 kupitia dosari katika Discourse, programu ya mtu wa tatu ambayo inasimamia jukwaa la jamii la OpenAI.
Sehemu ya kuingilia ilikuwa ya kawaida sana: upakiaji wa picha. Watumiaji walipochapisha faili za HEIF au HEIC - miundo ya picha inayotumiwa na iPhone kwa chaguomsingi - Majadiliano yalizipitisha kwenye msururu wa zana za usuli ili kuzibadilisha kuwa JPEG za kawaida. Kituo cha kwanza kilikuwa ImageMagick, matumizi ya chanzo wazi cha miongo kadhaa ya kubadilisha ukubwa wa picha. Kwa sababu ImageMagick haiwezi kushughulikia fomati za Apple peke yake, ilikabidhi faili hiyo kwa maktaba nyingine, libheif.
Kuzikwa ndani ya libheif kulikuwa na mdudu wa kumbukumbu. Kulisha maktaba picha iliyoundwa mahususi kuliifanya ikose hesabu ambapo safu moja ya picha iliwekwa juu ya nyingine - kiasi cha kuteka nyara seva.
Kinachofanya dosari hiyo kuwa mbaya kwa jumuiya ya usalama ni kwamba watengenezaji wa libheif walikuwa tayari wamerekebisha hitilafu hiyo miezi kadhaa mapema. Lakini kwa sababu urekebishaji haukuwahi kuripotiwa rasmi kama athari, haukupokea nambari ya CVE, kitambulisho cha kawaida cha sekta ya udhaifu uliofuatiliwa wa usalama. Hacktron anasema hiyo inaweza kueleza kwa nini toleo la programu iliyotumiwa na Discourse bado lilikuwa hatarini.
Claude Aliingia wapi
Jukumu la mfano wa AI lilikuwa la maamuzi. Watafiti walisema toleo la Claude ambalo wamekuwa wakitumia - muundo maalum wa Opus 4.8 uliopatikana kwa watafiti wa usalama wa mtandao - haukuweza kutoa unyonyaji wa kufanya kazi licha ya majaribio ya mara kwa mara. Hiyo ilibadilika wakati Anthropic ilipotoa Opus 5.
"Opus 4.8 ilijitahidi katika vipindi kadhaa kutoa unyonyaji wa kufanya kazi," Hacktron aliandika katika chapisho lake la blogi. "Ndani ya saa chache baada ya kutolewa kwa Opus 5, tuliipa shida sawa na ilifanikiwa."
Wakiwa ndani ya seva ya Discourse, timu ilipata dosari ya pili iliyowaruhusu kuchukua akaunti za watumiaji za ChatGPT na Codex, ikijumuisha akaunti za wafanyakazi wa OpenAI. "Kisha tulichukua akaunti ya mfanyakazi wa OpenAI, ambaye Codex iliunganishwa na shirika la OpenAI la GitHub," watafiti waliandika. Wakati huo walitahadharisha OpenAI na Discourse, ambayo ilisafirisha marekebisho mnamo Julai 27.
'Ikiweza Kutokea Kwao, Inaweza Kumpata Yeyote'
Wataalamu wa usalama wanasema kuchukua sio kwamba OpenAI haikujali, lakini udukuzi unaosaidiwa na AI umekuwa wa bei nafuu na unaoweza kufikiwa. "Kwa $200 kwa mwezi, mtu yeyote anaweza kutumia zana hizi na kuingia kwenye kampuni kama OpenAI," Matt Fredrikson, Mkurugenzi Mtendaji wa kampuni ya usalama ya AI Gray Swan, aliiambia TechCrunch. "Ikiwa inaweza kutokea kwao - na sidhani kama wamekuwa wakizembea hivi karibuni juu ya usafi wa mtandao - inaweza kutokea kwa mtu yeyote."
TechCrunch pia ilitaja mwitikio mmoja wa mtaalamu wa AI kwenye mitandao ya kijamii: ikiwa watafiti watatu walio na usajili wa Claude wanaweza kuondoa hili, swali huwa ni nini adui wa taifa angeweza kufanya kwa zana sawa.
Kuruka kwa uwezo kunavutia jinsi mifano ya mipaka inawekwa lango. Watafiti walibaini kuwa Claude Opus 5, modeli ambayo hatimaye iliharibu mdudu, haijakabiliwa na aina ya vizuizi vya usafirishaji wa usalama ambavyo Anthropic ilitumia kwa mtindo wake mpya wa Mythos 5, ambao ulifungwa kwa muda kwa sababu ya wasiwasi juu ya uwezo wake wa udukuzi. Kwa upande wa uzani huria, shirika lisilo la faida la usalama la SaferAI hivi majuzi liligundua kuwa GLM-5.2 ya Z.ai ilikuwa miezi michache tu nyuma ya mipaka ya uwezo wa mtandao.
Mchoro wa Mapungufu ya Usalama yanayoendeshwa na AI
Ufichuzi hutua kwa wakati nyeti. Inakuja wiki kadhaa baada ya mawakala wa OpenAI wenyewe wa AI kuvunja kizuizi wakati wa tathmini ya usalama wa mtandao na kudukua Hugging Face, tukio ambalo lilionyesha mawakala wa mipakani wakifanya kazi kwa hiari yao wenyewe dhidi ya miundombinu halisi. Anthropic, kwa upande wake, ilifichua mnamo Julai kuwa wanamitindo wake wa Claude walifikia mtandao wakati wa tathmini kutokana na usanidi usio sahihi ndani ya mazingira ya majaribio ya watu wengine - hali ambayo kampuni hiyo ilitokana na kushindwa kwa usalama wa uendeshaji, pamoja na masuala mawili ya upatanishi.
Vidhibiti vinajibu kwa wakati halisi. Siku ya Ijumaa, Gavana wa California Gavin Newsom alitia saini agizo kuu la kuharakisha uangalizi huru wa kampuni za AI na kuendeleza uundaji wa "switch ya kuua" ya dharura kwa mifano ya mipaka, akitaja matukio ya hivi karibuni - ikiwa ni pamoja na shambulio la Hugging Face - kama ushahidi kwamba ulinzi wa hiari hauendi kasi.
Kwa upande wake, OpenAI ililipa fadhila, ikaweka dosari, na imeweka kipindi kama mpango wake wa ufichuzi unaowajibika kufanya kazi kama ilivyokusudiwa. Lakini hesabu ya msingi ni ngumu kupuuza: gharama ya kando ya kazi ya usalama ya kiwango cha juu imeshuka hadi bei ya usajili wa kwanza wa gumzo, na miundo inayofanya kazi hiyo inaboresha kutolewa baada ya kutolewa.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
