Asisten Muse AI Meta dikirim kanthi kerentanan nol dina sing ngidini aplikasi sing diinstal sacara lokal kanggo nyolong token akun Muse pangguna lan nggunakake hak istimewa agen kasebut, miturut laporan dening Ars Technica.
Cacat kasebut ditemokake dening Patrick Wardle, peneliti keamanan macOS veteran, pangadeg Yayasan Objective-See lan mantan karyawan NASA lan Badan Keamanan Nasional. Pambocoran kasebut tiba ing wektu sing angel kanggo Meta: kira-kira 12 jam sadurunge Wardle mbukak publik, Amazon wis wiwit ngalangi wong nggunakake Muse kanggo toko ing situs kasebut, nyebat "agen AI sing ora sah" sing nglanggar Ketentuan Penggunaan Amazon. For more context on this story, see our ongoing AI trends.
Carane Muse Zero-Day Makarya
Muse, sing dikenalake Meta sawetara minggu kepungkur, dirancang kanggo dadi asisten pribadi sing agresif. Miturut Ars Technica, "buku janjian, ngisi formulir lan nangani layanan pelanggan," "proaktif njupuk tugas saka piring sampeyan," lan bisa "tuku, ngasilake gambar, nggawe dokumen, lan nyambung karo aplikasi lan layanan favorit." Aplikasi kasebut mlaku ing macOS - ana, penasaran, ora ana versi Windows - lan nyambung menyang akun WhatsApp, email, tanggalan lan media sosial pangguna.
Tingkat akses kasebut sing ndadekake kerentanan kasebut penting. Supaya Muse bisa digunakake, pangguna kudu otentikasi kanggo saben layanan lan menehi ijin sistem operasi sing nyapu: nulis file menyang disk, ngakses mikropon lan kamera, lan ngawasi lokasi lan tanggalan.
Wardle nemokake manawa pangembang Meta ngrancang asisten kasebut supaya aplikasi utawa perintah sing dieksekusi sacara lokal - preduli saka ijin macOS dhewe - bisa ngganti dhaptar setelan sing ora didokumentasikake. Umume setelan kasebut ora mbebayani, kayata ngowahi mode peteng. Siji, Nanging, kontrol ngendi wicara pangguna sensitif diproses, lan mekanisme padha bisa mbabarake token sing authenticates pangguna menyang akun Muse.
"Kita bisa ngapusi agen lan nggunakake hak istimewa kanggo nindakake apa wae sing dikarepake," ujare Wardle marang Ars Technica. "Dadi tinimbang kita kudu nulis maling malware Mac sing komprehensif, kita mung bisa nggunakake asisten AI dhewe."
Ing praktik, Wardle ujar manawa dheweke ngembangake sawetara serangan bukti-konsep, kalebu sing nulis file jahat menyang disk. Siji path serangan sing diterangake kalebu server panyerang sing tumindak minangka proxy antarane pangguna Muse lan titik pungkasan Meta: yen pangguna ngucapake pituduh swara, server panyerang nyuntikake prentah sing ala - contone, ngirim arsip kabeh pesen WhatsApp menyang panyerang - lan entuk kontrol permanen ing akun Muse.
Keputusan Desain Ing Mikroskop
Wardle nganggep eksploitasi kasebut menyang sawetara pilihan desain khusus. Salah sijine yaiku keputusan Meta kanggo nangani dikte Muse ing méga, ing ngendi perusahaan bisa mlebu log, tinimbang nggunakake transkripsi ing piranti macOS sing wis suwe didhukung. Yen alternatif lokal sing luwih aman wis dipilih, ujare, serangan kasebut ora bisa ditindakake.
Liyane ngidini app apa wae kanggo ngontrol titik pungkasan setelan sing ora didokumentasikan. Wardle nyaranake Meta kamungkinan kanggo aplikasi partner kanggo nyetel preferensi antarmuka, nanging ngluwihi kontrol menyang ngendi wicara sensitif diproses nguripake fitur penak menyang lumahing serangan.
"Kanggo kula, bar kasebut luwih dhuwur tinimbang babagan keamanan aplikasi kasebut," ujare Wardle. "Dheweke ora kudu sampurna, nanging yen sampeyan ndeleng Muse, kaya-kaya ora, ing pendapatku, mikir babagan keamanan, sing pancene kuwatir. Paling ora, dheweke kudu mikir babagan keamanan wiwit wiwitan, lan mung ora.
Meta nerbitake rong kiriman sajrone pirang-pirang minggu sing nyathet keputusan desain keamanan lan privasi ing mburi asisten kanthi akses sing wiyar menyang data pangguna - garis wektu sing saiki diwaca kanthi beda sajrone pambocoran kasebut. Ars Technica uga nyathet latar mburi sing luwih jembar: wahyu yen uji coba internal model saka Anthropic lan Google nyebabake pelanggaran keamanan jaringan eksternal, pihak katelu sing para insinyur ora tau didemek.
Hotfix, lan Peringatan kanggo Agentic AI
Luwih saka 12 jam sawise laporan kasebut langsung urip, Meta ujar manawa ngeculake hotfix sing nambal dina nol. Meta ora langsung nanggapi panjaluk komentar babagan timeline fix.
Pakar keamanan wis suwe mbantah manawa piranti dikompromi, kabeh taruhan bakal mati - argumentasi sing asring digandhengake karo vendor piranti lunak sing duwe hak istimewa. Wardle mbatalake framing kasebut kanggo Muse: variasi prasaja saka teknik teknik sosial ClickFix, sing dadi efektif banget kanggo ngapusi wong supaya bisa nginfèksi piranti dhewe, iku kabeh sing dibutuhake panyerang supaya bisa mbukak kode jahat ing Mac target.
Wardle rencana kanggo ngrembug kerentanan lan ancaman asisten AI liyane kanthi luwih rinci ing konferensi keamanan Objective by the Sea ing November.
Episode kasebut minangka studi kasus sing cetha babagan utang keamanan sing bisa diklumpukake produk AI agen nalika balapan menyang pasar. Asisten sing bisa maca pesen sampeyan, mbayar tumbas lan tumindak ing akun sampeyan, saka sudut pandang panyerang, siji target sing dhuwur-dhuwur - lan kompromi luwih murah tinimbang nggawe malware khusus kanggo saben layanan sing didemek.
Kanggo pangguna, pawulangan praktis wis akrab nanging anyar banget: mbatesi akses sing diidini asisten AI, nganggep hak istimewa kasebut kanthi serius kaya sampeyan nganggep kredensial sampeyan dhewe, lan mamang produk sing ngarahake input sensitif kaya ndhikte swara liwat server pihak katelu kanthi standar. Kanggo industri, pesen saka peneliti iku blunter - keamanan ora bisa dadi patch pasca-diluncurake kanggo piranti lunak sing nduweni kunci kanggo urip digital wong.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
