Operesheni kubwa dhidi ya mabomba ya sekta ya AI imeandika kile kinachotokea kwa papo hapo zinazotumwa na watumiaji kila siku - na jibu ni: zinavuja. Mtafiti wa usalama HD Moore, afisa mkuu wa utafiti wa kampuni ya usalama ya viwandani Dragos, alituma karibu vidokezo milioni mbili vya AI vyenye siri za kipekee, zinazoweza kufuatiliwa kwa watoa huduma wa AI na kisha akatazama siri hizo zilipojitokeza. "Tulichopata kilifichua ukiukaji wa usalama, wizi wa haraka, na kushindwa kwa kiasi kikubwa kulinda data ya wateja," Moore aliandika katika ripoti iliyochapishwa Alhamisi.
Matokeo, yaliyoripotiwa kwa kina na Ars Technica, hufika kama vipanga njia vya AI - huduma za wakala kama vile OpenRouter na Vercel ambazo hukubali vidokezo kutoka kwa watumiaji wa mwisho na kuzielekeza kwa mtoaji wowote wa uelekezaji anayefaa zaidi au anayefaa zaidi - zimekuwa miundombinu ya msingi kwa maelfu ya programu. Pia ziliibua mwitikio wa haraka wa tasnia: OpenRouter ilichapisha tangazo lake la tukio mnamo Novemba 22, ikisema ilikuwa imewapa watoa huduma watatu nje, iliondoa ncha 125 kutoka kwa ustahiki wa Uhifadhi wa Data ya Zero na kuwaarifu wateja wanaoweza kuathiriwa.
Jinsi Mtego wa Canary Ulivyofanya Kazi
Moore alikusanya mkusanyiko wa vitufe vya ufikiaji vya AWS vinavyofanya kazi vilivyounganishwa na akaunti tupu, nenosiri la SSH linalofanya kazi, na URL za kipekee, majina ya DNS na marejeleo ya hazina ya git ya kibinafsi. Hakuna siri iliyowahi kutumika hapo awali, na Moore alidhibiti miundombinu kwenye sehemu ya kupokea. Kila siri iliwekwa katika kidokezo kimoja kilichotumwa kwa mtoa huduma mmoja - kwa hivyo ikiwa siri hiyo itafichuliwa baadaye mahali popote, safari yake inaweza kufuatiliwa hadi kwenye kiungo kamili katika mnyororo unaohusika.
Muundo ni muhimu kwa sababu ya jinsi mfumo ikolojia wa AI unavyosogeza data. Vidokezo husimbwa kwa njia fiche wakati wa kupita, lakini hutambulishwa kwa kila mrukaji. Kipanga njia cha AI husoma maandishi ili kuchagua watoa huduma wanaofaa; kidokezo basi mara nyingi hutumwa kwa kundi la wanamitindo, wakati mwingine huendeshwa ndani ya kampuni tofauti za upangishaji. Vidokezo vinaweza hata kupita kutoka kipanga njia kimoja hadi kingine - Vercel hadi OpenRouter, kwa mfano - na kila mpatanishi huru kuweka na kuhifadhi maudhui chini ya sera zake.
Watoa Huduma Watatu Wamevunjwa, Funguo Zinatumika Ndani ya Masaa
Ugunduzi wa kutisha zaidi ulihusisha watoa huduma watatu tofauti ambao waliathiriwa wakati wa jaribio. Kulingana na Moore, wavamizi waliokiuka mtoa huduma mmoja walitumia tena "mia kadhaa" ya funguo za AWS zilizopandwa. Kila ufunguo ulikuwa umetumwa kwa ombi moja haswa kwa mtoa huduma mmoja, ndani ya madirisha machache mafupi mwishoni mwa Oktoba - na "kila ombi tulilotuma wakati wa madirisha hayo liliibiwa." Jambo kuu ni kwamba baadhi ya funguo zilizoibiwa zilitoka kwa maombi ambayo mtoa huduma alikuwa amekataa kabla ya mtindo wowote kukimbia, ikionyesha kuwa mshambuliaji alikuwa ananakili trafiki kwenye mlango wa mbele wa mtoa huduma badala ya kuingia ndani zaidi kwenye rafu ya marejeleo.
Katika ukiukaji mwingine mbili, baadhi ya maombi yaliyoibiwa yalitiwa alama kuwa Uhifadhi wa Data Sifuri. "Bendera ya faragha haisaidii wakati mshambuliaji tayari yuko ndani," Moore aliandika. Wahusika waliohusika na uvamizi huo walijaribu funguo za chambo ndani ya saa katika baadhi ya matukio, wakipitia ndoo za S3, wasimamizi wa siri na maduka ya vigezo kwa vitambulisho zaidi, walijaribu kuwezesha wanamitindo waliopangishwa katika AWS Bedrock, na kuongeza watumiaji wao wa IAM ili kudumisha ufikiaji. Baada ya yote, funguo zilizoibiwa zilitumiwa "makumi ya maelfu" ya nyakati katika simu za API za AWS. Siri zilizoibiwa kutoka kwa watoa huduma wawili waliodukuliwa zilitumiwa pamoja, karibu mara moja, kutoka kwa seva moja iliyokodishwa - ushahidi dhabiti kwamba adui mmoja alihatarisha zote mbili.
Wauzaji Wanaoiba, na Maabara Inayochakachua
Sio kila aliyevujisha alikuwa hacker. Wauzaji wa kumbukumbu za Moore ambao walivutia vidokezo kwa bei ya chini, wakawasha ukataji wa ombi na kungoja tu. Alizitambua kwa kutuma maombi yanayofanana kwa mtindo huo huo kupitia kwa wauzaji tofauti: wakati vitambulisho vilipotumiwa tena kutoka kwa muuzaji mmoja lakini si mwingine, mhalifu alikuwa wazi.
Kesi iliyo wazi zaidi ya kufuta, Moore aliandika, ilihusisha maabara ya AI ya Kichina ambayo mifumo yake ilichukua URL za siri kutoka zaidi ya nusu ya vidokezo vilivyotumwa kwa miundo yake kati ya Julai na Oktoba - ikiwa ni pamoja na takriban theluthi mbili ya maombi yaliyowekwa alama "hakuna ukusanyaji wa data" au Uhifadhi wa Data Zero. Kikwaju kawaida kilionekana siku mbili au tatu baada ya kila ombi. Haikuhusu wateja wa moja kwa moja tu: watoa huduma kadhaa wa upangishaji nchini Marekani huuza tena miundo ya maabara, na madokezo yaliyotumwa kupitia waamuzi hao wa Marekani yalisababisha kifuta kazi sawa sawa. Mteja ambaye alichagua mtoa huduma wa Marekani mahususi kuweka data kando, kwa maneno mengine, hakupata alicholipia. Kando, mteja wa git kwenye wingu tofauti alianza kujaribu kuunda hazina za kibinafsi zilizorejelewa katika maongozi - lakini kwa vidokezo vilivyotumia mifano ya maabara hiyo.
OpenRouter Inajibu
Jaribio lilitoa matokeo ya ulimwengu halisi haraka. Ars Technica iliripoti katika sasisho kwamba OpenRouter ilituma barua pepe kwa wateja mnamo Novemba 21 ikionya kwamba baadhi ya vidokezo vyao vinaweza kusomwa, ikitoa mfano wa utafiti: mfiduo unaowezekana ulihusisha vidokezo vilivyotumwa kwa MiniMax, mtoa huduma wa mfano wa China, iwe moja kwa moja au kupitia wauzaji watatu - AtlasCloud, Novita na StreamLake. OpenRouter iliondoa lebo ya "Zero Data Retention" kwenye sehemu za mwisho za modeli ya MiniMax.
Katika chapisho lake rasmi la blogu mnamo Novemba 22, OpenRouter ilithibitisha kuwa ilikuwa imewatoa watoa huduma watatu, ikaondoa ncha 125 kutoka kwa ustahiki wa ZDR, na kuwafahamisha watumiaji walioathirika ikiwa watoa huduma walikuwa wamechapisha hadharani au la. Kampuni hiyo ilisema matokeo "hayakuonyesha ukiukaji wowote au ufikiaji usioidhinishwa wa OpenRouter" yenyewe, ilishukuru timu ya Dragos, na kusema watoa huduma wanaotaka kukaa kwenye jukwaa "watahitaji kukutana" na upau wa usalama unaoongezeka kwani OpenRouter inaunganisha mbinu sawa za upimaji.
Moore pia alipata uvujaji wa mkia mrefu uliopotea: mtoa huduma mmoja wa mwenyeji wa Marekani alitambaa kwenye URL ya siri zaidi ya miezi miwili baada ya simu moja ya makisio hadi mwisho wake wa utafutaji, na mwingine aliendesha kikwaruo ambacho kilirejeshwa kwa URL zilizopandwa siku baada ya kila ombi, bila kujali ni kipanga njia gani kiliwasilisha kidokezo.
Nini Watumiaji Wanaweza Kufanya
Utetezi unaofaa zaidi, Moore alisema, ni kukaribisha mifano kwenye majengo - chaguo ghali mashirika machache yanaweza kuhalalisha. Hatua inayofuata bora ni kununua moja kwa moja kutoka kwa mtoa huduma wa daraja la kwanza, kwa "mkataba mmoja na sera ya faragha ya kusoma," na kuepuka makundi ya watoa huduma chaguomsingi au wauzaji kwa kuchagua watoa huduma wa juu mwenyewe. Hata hivyo, alionya, hakuna data dhamana si kuvuja.
Jaribio ndilo shtaka kali zaidi la utendakazi wa faragha katika soko linalokua kwa kasi la uelekezaji: msururu kati ya programu na modeli sasa unaweza kuhusisha vipanga njia, wauzaji wauzaji na safu za upangishaji kwenye mabara mengi, kila moja ikiwa na sera zake za ukataji miti, na lebo zinazokusudiwa kuwahakikishia wateja - kama vile Uhifadhi wa Data Sifuri - zinaweza kuvunjwa au kuondolewa bila taarifa. Kwa tasnia inayouliza wafanyabiashara kubandika hati zao, misimbo na kitambulisho kwenye maongozi, ujumbe wa canaries milioni mbili haufurahishi: hadi uboreshaji wa mabomba ubadilike, chukulia kuwa kila hop inaweza kusoma kila neno.
Kaa Mbele ya AI
Usalama na faragha sasa ni maswala ya msingi kwa mtu yeyote anayeunda AI. Kwa habari zinazochipuka za AI na utangazaji huru wa hadithi kuu za tasnia, tembelea AI Buzz Wire.
Soma habari zaidi za AI →