Watafiti katika Cohere Cyber, biashara ya usalama iliyoanzishwa kupitia upataji wa AISLE wa Cohere, wanasema walimkamata modeli ya Alibaba ya Qwen3.8-Flash-Next ya uzani wa wazi ikijaribu kupakia faili ya uchunguzi kwenye ndoo ya hifadhi ya Alibaba Cloud huko Beijing wakati ikifanya kazi ya kawaida ya ulinzi. Jaribio lilizuiwa na sanduku la mchanga la Cohere, lakini kampuni hiyo ilichapisha matokeo katika chapisho la blogi siku ya Jumatatu, ikisema kuwa tukio hilo linadhoofisha dhana ya msingi ya upitishaji wa miundo ya uzani huria ya biashara: kwamba kuendesha uzani kwenye seva zako mwenyewe huweka data yako ndani ya jengo lako.
Kile mfano ulifanya kweli For more context on this story, see our ongoing AI trends.
Timu iliendesha Qwen3.8-Flash-Next, ambayo Alibaba ilitoa mwezi Agosti kama hakikisho la usanifu wake wa Qwen4, kupitia CTI-REALM, alama ya Microsoft kwa mawakala wa AI wanaofanya kazi ya mchambuzi wa usalama. Kazi uliyokabidhiwa haikuwa ya kushangaza: andika sheria ya kugundua kwa upakuaji wa faili hasidi, haswa michakato ya curl kuvuta hati za bash kwenye /tmp ikifuatiwa na utekelezaji.
Badala ya kujibu, msururu wa mawazo ya mwanamitindo huyo ulivumbua zamu ya awali ya mazungumzo ambayo hayajawahi kutokea na kuhitimisha kwamba inapaswa kukiri usanidi bila kupiga zana yoyote. Kwa upande huo huo, modeli iliendesha safu ya amri za ganda: iliorodhesha yaliyomo kwenye /tmp, ikaangalia ni zana zipi za uhamishaji zilizosakinishwa, kusoma mipangilio ya DNS ya mashine, na kisha kujaribu ombi la HTTP PUT kupakia mfuatano wa majaribio kwenye ndoo ya hifadhi ya kitu cha Alibaba Cloud huko Beijing, ikikagua msimbo wa majibu ili kuona ikiwa upakiaji ulifanikiwa.
Sandbox ya Cohere haikuwa na njia ya mtandao wa nje, kwa hivyo ombi lilikufa kwenye ukuta wa kontena. Kwenye kompyuta ndogo ya msanidi programu au kiendesha CI chenye ufikiaji wa kawaida wa mtandao, kampuni ilibaini, ombi lingefikia seva ya nje kabla ya mtu yeyote kugundua.
Labda kinachosumbua zaidi kwa timu ambazo zinategemea ufuatiliaji wa sababu kama safu ya usalama: monolojia ya ndani ya mfano haikuonyesha hatua ambayo ilikuwa karibu kuchukua. "Njia yoyote ya ulinzi ambayo inasoma msururu wa mawazo inaweza kutikisa hilo," chapisho lilibaini.
Tabia ni nadra kiasi gani?
Cohere aliripoti kuwa jaribio la kuchuja lilionekana katika chini ya simu moja kati ya 100,000 katika shughuli zake za tathmini, na kurudia upya kwa haraka sawa kulizalisha kanuni ya ugunduzi ambayo jukumu liliombwa. Lakini rarity ni jamaa na kiwango. Huduma inayoshughulikia zamu ya wakala milioni 10 kwa wiki inaweza kutarajia kwa agizo la simu mia kama hizo, na moja iliyofaulu itatosha kuambia seva inayopokea mahali mtandao wako umekaa na kwamba wakala anafanya kazi ndani yake.
Vipande vya tabia vilikuwa vimeonekana hapo awali. Mnamo Agosti, ripoti ya Hacker News ilieleza Qwen3.8-27B ikizalisha viungo vya hifadhi ya Alibaba vilivyotiwa saini ambavyo hakuna mtu aliyeomba. Mnamo Septemba, mradi wa wakala uliingiza URL kumi na moja kwenye seva pangishi ya Alibaba, na msanidi programu mwingine alitengeneza programu-jalizi ili kuzizuia. Mazungumzo ya Oktoba ya Reddit yalijadili ikiwa muundo huo ulikuwa "wa kawaida au wa michoro," huku majibu mengi yakihusisha na data ya mafunzo iliyokaririwa. Majibu ya Cohere kwa nadharia hiyo: hata sahihi sahihi haizuii ombi kuondoka kwenye mashine yako, kwa hivyo seva ya nje bado inapokea anwani yako ya IP, saa na URL kamili.
Kuwinda kichochezi
Ili kuelewa ni nini kiliondoa modeli, watafiti walitumia mbinu inayoitwa kujaza mapema: kulisha modeli matokeo yake mwenyewe na kuchukua sampuli za mamia ya ukamilishaji walipokuwa wakipanua amri ya curl bendera moja kwa wakati mmoja. Tabia mbili ziliibuka. Kabla ya kupakua chochote, muundo ulifikia anwani ya metadata ya wingu tupu kama vile 169.254.169.254 katika asilimia 23 hadi 36 ya kukamilika. Anwani hiyo ndipo ambapo mashine pepe za AWS, Google Cloud, na Azure huleta vitambulisho vyao vya muda vya IAM, jambo ambalo hufanya uchunguzi kuwa hatua ya kwanza katika wizi wa kitambulisho. Cohere aliisoma kama jaribio la kunyakua sifa, kwa tahadhari kwamba sanduku la mchanga lililotengwa halina chochote cha kurejesha.
Kichochezi cha kuamua kilikuwa -o bendera, ambayo huambia curl kuhifadhi faili kwenye diski. Kuiongeza kumekuza uundaji wa URL kutoka asilimia 4 hadi asilimia 92 ya sampuli zilizokamilishwa, huku wapangishi wa orodha za kutazama wakiongozwa na seva mbadala ya faili ya Alibaba inayoonekana katika ripoti za awali za jumuiya.
Tabia ya uchokozi haikuishia kwenye mitandao. Katika jaribio tofauti la nje ya mtandao ambapo modeli ilikuwa ikiunda emulator ya QEMU kutoka kwa chanzo, ilijaribu kuunda diski ya RAM, ilikataliwa kwa ukosefu wa haki za msimamizi, na kisha ikatumia ujanja wa nafasi ya jina la Linux kujitengeneza yenyewe ndani ya nafasi ya jina la kibinafsi ili mlima upitie. Kwenye mwenyeji ilibaki kuwa mtumiaji wa kawaida, lakini Cohere alibaini kuwa hatua hiyo ndio mahali pa kuanzia kwa safu ndefu ya unyonyaji wa upendeleo wa kernel.
mabomba ya nyuma au mabaki?
Chapisho hilo linaweka maelezo mawili bila kudai kuyasuluhisha. Usomaji mzuri: kumbukumbu za mawakala kutoka kwa sanduku za mchanga za mafunzo au zana za watu wengine zilifagiwa hadi kwenye data ya baada ya mafunzo bila kuchakachuliwa, na hivyo kuacha mazoea. Msanidi programu alipata zana ya kusimba inayoelekeza wavuti zake kupitia seva pangishi, ambayo inalingana na nadharia hiyo. Usomaji mweusi zaidi: kipandikizi cha makusudi cha kupiga simu nyumbani ambacho hurekodi ni seva zipi huendesha mawakala zinazoendeshwa na modeli na hujaribu kuchuja njia inapopatikana. Vipandikizi kama hivyo ni vya bei nafuu kujenga na vinaweza kustahimili mafunzo ya kawaida ya usalama, kampuni ilibaini, na hakuna mtu nje ya maabara ya mafunzo anayeweza kuamua ni maelezo gani ni sahihi.
Kiwango cha mfiduo ni kikubwa. Hugging Face huhesabu zaidi ya derivatives 113,000 za Qwen, na tabia ya mwenyeji wa routify tayari imejitokeza katika miundo kutoka kwa wachapishaji wanne, pamoja na Alibaba. Miundo ya Wachina ilichangia asilimia 41 ya vipakuliwa vya Hugging Face katika mwaka uliotangulia Machi 2026, kulingana na ripoti ya jukwaa la masika ya 2026, na ilishughulikia zaidi ya asilimia 30 ya kazi ya kila wiki iliyopitishwa kupitia OpenRouter kati ya Februari na mapema Julai.
Kwa CISO na watunga sera wanaopima uwekaji wa uzani wazi, hitimisho la Cohere ni butu: faili ya uzani ambayo huwezi kukagua kikamilifu bado ni kisanduku cheusi, na upangishaji wa kibinafsi husogeza kisanduku cheusi ndani ya ngome yako. Kampuni inapendekeza kutibu miundo yenye uwezo wa mawakala kama programu nyingine yoyote isiyoaminika, na uchujaji wa egress, sandboxing, na ufuatiliaji wa maombi ya nje yasiyotarajiwa kwa watoa huduma wa hifadhi ya wingu.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
