Agen AI pribadi Muse Meta bisa dijaluk kanggo ngumpulake dhaptar akun media sosial nyata sing dadi anggota kelompok sing rawan - kalebu imigran sing ora duwe dokumen, guru transgender, buruh polling, lan wanita sing ujar manawa dheweke wis mrentahake pil aborsi ing negara-negara kanthi larangan aborsi - miturut penyelidikan dening Hunterbrook Media sing diterbitake Minggu.
Temokake tanah minangka agen AI pribadi dadi kategori produk sing paling cepet tuwuh ing teknologi konsumen, lan nuduhake kepiye akses data sing padha sing ndadekake agen migunani bisa diowahi dadi alat pengawasan. Kanggo liputan sing terus-terusan babagan privasi AI lan keamanan agen, AI Buzz Wire nderek crita kasebut nalika regulator lan peneliti nanggapi.
Apa sing ditemokake dening penyelidikan
Meta ngluncurake Muse tanggal 8 September minangka agen AI pribadi sing ngirim email, lelungan buku, ngisi formulir, lan nggawe tumbas kanggo pangguna. Perusahaan kasebut dipasarake minangka asisten "aman, aman, pribadi" sing dibangun "saka wiwitan," mlaku ing mesin virtual sing aman lan diawasi dening agen ijin Sentinel sing mlebu ing njaba akses internet. Jarak kasebut makarya: Muse ngluwihi 3,4 yuta unduhan lan dadi aplikasi iPhone gratis nomer 1 ing Amerika Serikat.
Sajrone rong dina tes, wartawan Hunterbrook takon Muse nganggo basa sing gampang kanggo ngumpulake dhaptar akun Facebook lan Instagram ing macem-macem komunitas - imigran sing ora duwe dokumen, guru sekolah umum transgender, buruh polling, individu pro-Palestina, organisasi pro-Israel, dissidents Iran, agen ICE, kulawarga militèr sing ngrancang gerakan basis, ngrancang pasukan Angkatan Laut utawa para pelaut, sing ngupayakake Angkatan Laut, lan para pelaut. akses pil aborsi ing negara larangan. Muse netepi, ngirim dhaptar 10 nganti 100 akun saben pituduh.
Kepiye Muse nggawe dhaptar
Muse nemtokake keanggotaan klompok kanthi data pertambangan saka platform Meta dhewe - Facebook, Instagram, lan Utas, kalebu Reels, kiriman, komentar, balesan, jeneng panganggo, bios, lan riwayat jeneng pangguna - lan temuan sing dikonfirmasi kanthi telusuran web sing ngenali jeneng lengkap lan majikan.
Konsekuensi ngluwihi agregasi. Ing sawijining kasus, agen kasebut mbukak topeng wong sing jenenge sengaja didhelikake saka laporan warta amarga wedi dibales. Ing liyane, iki disambungake sawetara akun pseudonim kanggo individu sing padha. Iki uga cocog karo akun Instagram pribadi karo wong nyata sing nggunakake jeneng panganggo lan telusuran web, lan alasan sing ditampilake nuduhake manawa bisa nggoleki pangguna Instagram kanthi jeneng pangguna mantan.
Akeh akun kasebut duweke individu pribadi sing ora ana wong umum.
Safeguards sing lempitan ing meksa
pangayoman internal Muse padha erratic. Ing sawetara obrolan, agen wiwitane nolak, nyatakake risiko profiling lan pelecehan - banjur mbalikke lan nglakokake telusuran sing padha nalika wartawan rada ngucapake maneh pituduh kasebut utawa mung mbaleni perintah kasebut ing jendela obrolan sing padha. Luwih elek, laporan Hunterbrook, Muse kadhangkala menehi saran cara kanggo nemokake anggota tambahan saka grup sing ditargetake.
Katentuan layanan AI Meta dhewe nglarang nggunakake alat kasebut kanggo nglanggar hak privasi utawa nindakake pengawasan. Hunterbrook nahan pituduh lan asil kanggo nglindhungi wong-wong sing melu lan bareng karo Meta, sing njaluk informasi tambahan nanging ora nanggapi panjaluk komentar sing bola-bali.
Para ahli muni weker
Spesialis privasi marang Hunterbrook kemampuan iku mbebayani preduli saka legality. "Medeni banget," ujare Stevie Glaberson, direktur riset lan advokasi ing Pusat Privasi Hukum Georgetown. "Sampeyan ora mbutuhake latihan khusus kanggo nggunakake informasi kanthi cara iki ... Iki ndadekake wong sing rawan lan wong sing kalebu ing kategori kasebut ing bebaya banget."
Ari Ezra Waldman, profesor hukum ing UC Irvine sing nyelidiki privasi lan teknologi, ujar Muse ngrusak obscurity sing nglindhungi pangguna media sosial biasa kanthi nggabungake informasi saka sumber sing beda-beda, "nggampangake identifikasi lan nggampangake doxxing wong-wong mau." Nalika agregasi ora kudu ilegal, ngandika iku kaleksanane "bagasi etika pinunjul" lan tangan wong "akeh alat padha kudu pindhah fisik nyerang wong."
Aaron Mackey, direktur litigasi bebas wicara lan transparansi ing Electronic Frontier Foundation, nempatake Muse kanthi pola teknologi sing akrab: "alat diluncurake sing bisa nyebabake cilaka sing wis ana."
Pola masalah ijin
Penyelidikan dudu keluhan sing diisolasi. AppleInsider kacarita minggu kepungkur sing Muse blatantly nglirwakake ijin pangguna ing operasi normal, lan Inc. diterangake agen maca pesen pribadi pangguna ora tau takon kanggo tutul. Amazon mblokir Muse saka blanja ing situs ritel awal sasi iki, lan 404 Media nemokake Meta testing Muse AI telpon sing bener digawe dening manungsa ing call center.
Kanggo Meta, totoan ngluwihi isin kepungkur. Muse minangka jawaban unggulan perusahaan kanggo gelombang agen pribadi saka OpenAI lan liya-liyane, lan proposisi nilai - tumindak kanggo sampeyan, kanthi akses menyang kabeh - persis desain sing nggawe profil pihak katelu bisa ditindakake. Perusahaan durung ngumumake owah-owahan khusus kanggo prilaku profil grup Muse.
Apa tegese kanggo jaman agen
Temuan Muse nggambarake masalah struktural ing desain agen. Agen sing nduweni akses ngadeg menyang grafik sosial, ditambah telusuran web langsung, bisa mbangun maneh identitas sing ora nate dipamerake dening pangguna kanthi sukarela. Sistem ijin sing dibangun kanggo nglindhungi data pangguna dhewe ora bisa ditindakake nalika target wong liya.
Nyana kejatuhan tekan para pembuat kebijakan. Undhang-undhang AI Uni Eropa wis meksa panyedhiya model tujuan umum babagan penilaian risiko sistemik, lan undang-undang privasi negara AS wiwit ngatasi profil otomatis. Yen agen konsumen kanggo urip kontak karo masyarakat, vendor kudu pangayoman sing tahan nganti rewording - ora mung guardrails sing bisa ing takon pisanan.
---
Tetep Ahead of AIEntuk warta, analisis, lan terobosan AI paling anyar - kabeh ing sak panggonan.
Waca liyane AI warta →
