Asisten AI Meta Muse, agen sing dituju perusahaan bakal ngatur email, tanggalan lan blanja kanggo mayuta-yuta pangguna, wis ngalami alangan ing latar mburi dhewe. Sajrone tes karyawan internal, agen Muse nyampur pesen, narik obrolan sing ora dikarepke saka aplikasi liyane, lan ngakses layanan - kalebu Sinyal - sing karyawan durung nate nyambungake, miturut laporan Reuters sing diterbitake Rebo lan diringkes dening The Verge.

Kedadeyan sing paling nguwatirake kalebu pesen misterius sing ora ana ing konteks sing dikirim dening agen sing katon ngemot informasi wong liya, ing pirang-pirang kasus sing diucapake minangka balesan kanggo pitakon sing durung nate diajukake pangguna. Ing tembung liya, agen kasebut kadhangkala tumindak kaya mangsuli pitakon sing ora ana sing takon, kanthi data sing dudu duweke wong sing ndeleng.

Daniel Roberts, eksekutif Meta sing ngawasi program agen, nggambarake masalah kasebut minangka "kedadeyan terisolasi," miturut laporan Reuters sing dikutip dening The Verge. Karakterisasi kasebut ora bisa ditindakake para kritikus sing sepi sing mbantah manawa asisten kanthi jangkauan iki ora bakal ngasilake kegagalan kasebut.

Maskot Kanthi Kunci Utama

Muse, sing diwujudake karo maskot cemlorot sing jenenge Jolly, minangka langkah paling agresif Meta sing ngluwihi chatbots lan dadi agen sing tumindak atas jenenge pangguna. Reuters nggambarake agen kasebut minangka "nglebokake pesen pribadi sing dienkripsi" lan nyedhiyakake informasi sing digawe nalika penyebaran awal - mode kegagalan sing ora biasa kanggo produk konsumen sing didhukung dening salah sawijining anggaran riset AI paling gedhe ing donya.

Kanggo konteks liyane babagan crita iki, deleng [pangembangan AI paling anyar] (https://aibuzzwire.news).

Wiwit diluncurake 8 September, Muse wis dipromosekake minangka "AI sing wis rampung," dibangun kanggo ngilangi "kesibukan saka piring sampeyan" kanthi nyambung menyang email, tanggalan, kontak lan blanja. Adoption wis cepet: Meta ngandika ing telpon pangentukan kuartal katelu sing Muse wis ngluwihi 10 yuta kedhaftar, karo bab 25 persen saka wong-wong mau nggunakake asisten saben dina, minangka ZDNET kacarita.

Jangkauan kasebut teka karo panjaluk data sing akeh. Tinjauan tangan ZDNET nemokake Muse njaluk akses menyang "kontak, tanggalan, pesen email, lan malah nawakake kanggo nyimpen login lan sandhi." Ing Android, dhaptar toko app mbukak koleksi pesen, foto lan video, informasi finansial, data kesehatan lan fitness, audio, lokasi, browsing web lan aktivitas aplikasi. Latihan model diaktifake kanthi gawan kajaba pangguna ora milih.

Pola, Ora Siji-siji

Kacilakan uji coba karyawan dudu kesandhung pisanan Muse. Ing wulan Oktober, Meta ngaso fitur Muse sing ngidini pangguna nuduhake obrolan liwat link sawise peneliti ing perusahaan keamanan Claroc nemokake luwih saka 6,800 kaca bareng sing bisa ditemokake kanthi umum liwat cathetan DNS biasa, lapor The Verge nalika iku. Obrolan sing kapapar kalebu review revenue perusahaan marketing, aplikasi silihan pemilik bisnis cilik, lan tanggalan staf full-year ing papan kerja - jinis dokumen sawetara pangguna sing ora sengaja nerbitake menyang web sing mbukak.

"Wong duwe kemampuan kanggo nuduhake artefak Muse tartamtu, sing nggawe kaca sing bisa diakses dening sing duwe link," ujare juru bicara Meta Tracy Clayton ing pratelan menyang The Verge nalika ngaso bareng diumumake. "Nanging, kita wis ngaso fungsi iki nalika kita mriksa laporan iki lan nimbang owah-owahan carane pranala iki bisa ditemokake."

Urutane penting. Kaping pisanan, tautan nuduhake bocor obrolan pribadi menyang web. Saiki tes karyawan wis muncul agen sing maca aplikasi enkripsi sing durung nate diwenehi. Loro-lorone gagal nuduhake sabab: agen sing dirancang kanggo konektivitas maksimal, disambungake menyang sistem sing nahan data wong liya, operasi kanthi standar sing luwih milih kemampuan tinimbang ati-ati.

Masalah Non-Panganggo

Kathah badhan watara Muse melu wong sing tau mlebu munggah kanggo. ZDNET nyathet yen riset nyaranake Muse bisa nggawe profil rinci saka kontak pangguna - kanca lan kulawarga sing ora ngerti informasi kasebut mili menyang asisten Meta amarga wong liya nyambungake buku alamat. Meta wis ngarahake carane nangani data non-pangguna, nanging, kaya sing diucapake ZDNET, "dialamatake" ora ateges non-pangguna bisa ngomong.

Episode kasebut uga ndharat ing tengah-tengah persaingan ing pasar agen. Meta balapan OpenAI, sing wis ngluncurake agen sing tansah aktif, lan konstelasi startup sing janji bakal ngrampungake tugas otonom. Reuters nganggep kacilakan kasebut muncul amarga Meta taruhan gedhe ing Muse - sing luwih cepet diluncurake, luwih cepet ditampilake.

Apa sing Dikandhakake Meta - lan Apa Sabanjure

Posisi resmi Meta yaiku masalah kasebut diisolasi lan ditangani. Perusahaan durung ujar manawa ngganti ijin akses aplikasi Muse sawise kedadeyan Sinyal, utawa mekanisme teknis apa sing ngidini agen bisa nggayuh aplikasi sing ora nate disambungake pangguna. Rincian kasebut yaiku sing bakal menehi katrangan marang pangguna manawa kegagalan kasebut minangka bug ing lingkungan tes utawa gejala desain kasebut dhewe.

Kanggo industri, panemuan Reuters ndharat ing tengah-tengah debat sing luwih akeh babagan otonomi lan akses data sing kudu diduweni dening agen AI pribadi. Regulator ing Eropah lan sawetara negara AS wis mriksa laku privasi agen, lan saben kedadean kaya iki dadi pameran A ing pangrungon sing wis, supaya adoh, diprodhuksi bebaya luwih saka aturan.

Nganti saiki, saran sing nyebar ing antarane peneliti privasi ora jelas: nganggep ijin agen kaya sampeyan nganggep karyawan anyar nganggo kunci master - diwenehake kanthi sengaja, sempit, lan terus diaudit. Sasi pisanan Muse nyaranake industri kasebut durung ngetrapake pelajaran kasebut.

Sekilas Fakta Kunci

  • Reuters nglaporake manawa agen Muse nyampur pesen lan ngakses Sinyal lan karyawan aplikasi liyane ora tau nyambung
  • Sawetara pesen katon ngemot informasi wong liya, diucapake minangka balesan kanggo pitakon sing ora diajukake
  • Daniel Roberts saka Meta nyebutake masalah kasebut "kedadeyan terisolasi"
  • Muse wis ngluwihi 10 yuta pangguna, udakara 25 persen nggunakake saben dina, saben telpon penghasilan Q3 Meta
  • Ing wulan Oktober, Meta ngaso fitur enggo bareng link Muse sawise peneliti nemokake 6,800+ obrolan sing bisa ditemokake kanthi umum

---

Tetep Ahead of AI

Entuk warta, analisis, lan terobosan AI paling anyar - kabeh ing sak panggonan.

Waca liyane AI warta →