Msaidizi wa Meta's Muse AI alisafirishwa akiwa na athari kubwa ya siku sifuri ambayo iliruhusu programu yoyote iliyosakinishwa ndani kuiba tokeni ya akaunti ya Muse ya mtumiaji na kumiliki haki pana zisizo za kawaida za wakala, kulingana na ripoti ya Ars Technica.
Dosari hiyo iligunduliwa na Patrick Wardle, mtafiti mkongwe wa usalama wa MacOS, mwanzilishi wa Objective-See Foundation na mfanyakazi wa zamani wa NASA na Shirika la Usalama la Kitaifa. Ufichuzi wake unatua katika wakati mgumu kwa Meta: takribani saa 12 kabla ya Wardle kutangazwa hadharani, Amazon ilikuwa tayari imeanza kuwazuia watu kutumia Muse kufanya manunuzi kwenye tovuti yake, ikiiita "wakala wa AI asiyeidhinishwa" ambayo inakiuka Masharti ya Matumizi ya Amazon. For more context on this story, see our ongoing breaking AI news.
Jinsi Siku ya Sifuri ya Muse Ilivyofanya Kazi
Muse, ambayo Meta ilianzisha wiki chache zilizopita, imeundwa kuwa msaidizi wa kibinafsi mkali. Kulingana na Ars Technica, "huweka miadi, kujaza fomu na kushughulikia huduma kwa wateja," "huondoa majukumu kwa uangalifu," na inaweza "kununua, kutengeneza picha, kuunda hati, na kuunganishwa na programu na huduma unazopenda." Programu inaendeshwa kwenye macOS - kuna, cha kushangaza, hakuna toleo la Windows - na inaunganishwa na akaunti ya mtumiaji ya WhatsApp, barua pepe, kalenda na mitandao ya kijamii.
Kiwango hicho cha ufikiaji ndicho kinachofanya uwezekano wa kuathiriwa kuwa muhimu. Ili Muse ifanye kazi, ni lazima watumiaji waithibitishe kwa kila huduma na kuipa ruhusa ya kufagia ya mfumo wa uendeshaji: kuandika faili kwenye diski, kufikia maikrofoni na kamera, na kufuatilia eneo na kalenda.
Wardle waligundua kuwa wasanidi programu wa Meta walitengeneza programu ya mratibu ili programu yoyote iliyosakinishwa ndani ya nchi au amri inayotekelezwa - bila kujali ruhusa zake za MacOS - inaweza kubadilisha orodha ndefu ya mipangilio isiyo na hati. Mingi ya mipangilio hiyo haikuwa na hatia, kama vile kugeuza hali ya giza. Moja, hata hivyo, inadhibitiwa ambapo hotuba nyeti ya mtumiaji inachakatwa, na utaratibu huo huo unaweza kufichua ishara inayothibitisha mtumiaji kwenye akaunti yake ya Muse.
"Tunaweza kumdanganya wakala na kutumia fursa zake kufanya chochote tunachotaka," Wardle aliiambia Ars Technica. "Kwa hivyo badala ya sisi kuandika kiibaji cha programu hasidi ya Mac, tunaweza tu kuongeza msaidizi wa AI yenyewe."
Katika mazoezi, Wardle alisema aliunda mashambulizi kadhaa ya uthibitisho wa dhana, ikiwa ni pamoja na yale ambayo huandika faili mbaya kwenye diski. Njia moja ya uvamizi iliyofafanuliwa inahusisha seva ya mshambulizi inayofanya kazi kama proksi kati ya mtumiaji wa Muse na mwisho wa Meta: mara tu mtumiaji anapozungumza kidokezo cha sauti, seva ya mvamizi huingiza amri hasidi - kwa mfano, kutuma kumbukumbu ya jumbe zote za WhatsApp kwa mshambulizi - na kupata udhibiti wa kudumu kwenye akaunti ya Muse.
Maamuzi ya Kubuni Chini ya Hadubini
Wardle alihusisha matumizi hayo na chaguo kadhaa maalum za muundo. Moja ilikuwa uamuzi wa Meta kushughulikia maagizo ya Muse kwenye wingu, ambapo kampuni inaweza kuiweka, badala ya kutumia unukuzi wa kifaa wa MacOS ulioungwa mkono kwa muda mrefu. Iwapo njia iliyo salama zaidi ya eneo hilo ingechaguliwa, alisema, shambulio hilo lisingewezekana.
Nyingine ilikuwa ikiruhusu programu yoyote kudhibiti sehemu ya mwisho ya mipangilio isiyo na hati. Wardle alipendekeza Meta ambayo huenda ilikusudiwa programu za washirika kurekebisha mapendeleo ya kiolesura, lakini kupanua udhibiti huo hadi pale ambapo hotuba nyeti inachakatwa, kuligeuza kipengele cha urahisishaji kuwa sehemu ya mashambulizi.
"Kwangu mimi, upau uko juu sana katika suala la usalama wa programu hizi," Wardle alisema. "Sio lazima wawe wakamilifu, lakini unapomtazama Muse, ni kama hawakufikiria, kwa maoni yangu, kuhusu usalama, jambo ambalo linatia wasiwasi sana. Angalau, wanapaswa kufikiria kuhusu usalama tangu mwanzo, na sivyo."
Meta ilichapisha machapisho mawili ndani ya wiki nyingi ikiandika maamuzi ya usalama na usanifu wa faragha nyuma ya msaidizi aliye na ufikiaji mpana kwa data ya mtumiaji - kalenda ya matukio ambayo sasa inasomeka tofauti kulingana na ufichuzi. Ars Technica pia ilibainisha mandhari pana: ufichuzi kwamba majaribio ya ndani ya miundo kutoka Anthropic na Google yalisababisha ukiukaji wa usalama wa mitandao ya nje, ya wahusika wengine ambayo wahandisi hawakukusudia kugusa.
Hotfix, na Onyo kwa Agenti AI
Zaidi ya saa 12 baada ya ripoti hiyo kuonyeshwa moja kwa moja, Meta ilisema ilitoa toleo la mtandaoni ambalo liliweka viraka siku ya sifuri. Meta haikujibu mara moja ombi la maoni juu ya ratiba ya kurekebisha.
Wataalamu wa usalama wamebishana kwa muda mrefu kuwa kifaa kikiingiliwa, dau zote huzimwa - hoja ambayo wachuuzi wa programu maalum mara nyingi hutegemea. Wardle alirudisha nyuma uundaji huo wa Muse: utofauti rahisi wa mbinu ya uhandisi wa kijamii ya ClickFix, ambayo imekuwa na ufanisi wa ajabu katika kuwahadaa watu waambukize vifaa vyao wenyewe, yote ni mshambulizi anahitaji kupata msimbo hasidi unaoendeshwa kwenye Mac ya mlengwa.
Wardle anapanga kujadili uwezekano wa kuathirika na vitisho vingine vya msaidizi wa AI kwa undani zaidi katika mkutano wa Objective by the Sea security mnamo Novemba.
Kipindi hiki ni uchunguzi wa kifani katika deni la usalama ambalo bidhaa za mawakala za AI zinaweza kujilimbikiza zinapokimbilia sokoni. Mratibu anayeweza kusoma ujumbe wako, kulipia ununuzi na kuchukua hatua kwenye akaunti zako zote, ni kwa mtazamo wa mshambulizi, lengo moja la thamani ya juu - na kuhatarisha ni nafuu zaidi kuliko kuunda programu hasidi inayojulikana kwa kila huduma inayogusa.
Kwa watumiaji, masomo ya vitendo yanajulikana lakini ni ya dharura hivi karibuni: punguza kile ambacho msaidizi wa AI anaruhusiwa kufikia, chukulia haki zake kwa uzito kama unavyoshughulikia kitambulisho chako mwenyewe, na usiwe na shaka na bidhaa zinazoelekeza ingizo nyeti kama vile kuamuru kwa sauti kupitia seva za watu wengine kwa chaguomsingi. Kwa tasnia, ujumbe kutoka kwa watafiti haueleweki - usalama hauwezi kuwa kiraka cha baada ya uzinduzi kwa programu ambayo ina funguo za maisha ya kidijitali ya mtu.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
