Penolong AI Meta Muse, ejen yang syarikat pertaruhan akan menguruskan e-mel, kalendar dan membeli-belah untuk berjuta-juta pengguna, telah menghadapi masalah di halaman belakangnya sendiri. Semasa ujian pekerja dalaman, ejen Muse mencampur-adukkan mesej, menarik sembang yang tidak dijangka daripada aplikasi lain, dan mengakses perkhidmatan - termasuk Signal - yang pekerja tidak pernah menyambungkannya, menurut laporan Reuters yang diterbitkan hari Rabu dan diringkaskan oleh The Verge.
Insiden yang paling membimbangkan melibatkan mesej di luar konteks samar yang dihantar oleh ejen yang kelihatan mengandungi maklumat orang lain, dalam banyak kes diungkapkan sebagai balasan kepada pertanyaan yang tidak pernah diserahkan oleh pengguna. Dalam erti kata lain, ejen kadangkala berkelakuan seolah-olah menjawab soalan yang tidak ditanya oleh sesiapa, dengan data yang bukan milik orang yang melihatnya.
Daniel Roberts, seorang eksekutif Meta yang menyelia program ejen, menyifatkan masalah itu sebagai "insiden terpencil," menurut laporan Reuters yang dipetik oleh The Verge. Perwatakan itu tidak banyak memberi kesan kepada pengkritik senyap yang berpendapat bahawa pembantu yang mempunyai jangkauan sebanyak ini tidak sepatutnya menghasilkan kegagalan seperti itu sama sekali.
Maskot Dengan Kunci Induk
Muse, yang dijelmakan oleh maskot kabur yang tersenyum bernama Jolly, ialah langkah Meta yang paling agresif lagi melangkaui chatbots dan menjadi ejen yang bertindak bagi pihak pengguna. Reuters menyifatkan ejen itu telah "menyelami mesej peribadi yang disulitkan" dan membekalkan maklumat rekaan semasa penggunaan awalnya — set mod kegagalan yang luar biasa jelas untuk produk pengguna yang disokong oleh salah satu belanjawan penyelidikan AI terbesar di dunia.
Untuk lebih banyak konteks tentang cerita ini, lihat [perkembangan AI terkini] kami yang berterusan (https://aibuzzwire.news).
Sejak pelancaran 8 September, Muse telah dinaikkan pangkat sebagai "AI yang menyelesaikannya," dibina untuk menghilangkan "kesibukan anda" dengan menyambung ke e-mel, kalendar, kenalan dan membeli-belah. Penerimaan adalah pantas: Meta berkata dalam panggilan pendapatan suku ketiganya bahawa Muse telah melepasi 10 juta pengguna, dengan kira-kira 25 peratus daripada mereka menggunakan pembantu setiap hari, seperti yang dilaporkan ZDNET.
Jangkauan itu datang dengan permintaan data yang menyeluruh. Semakan langsung ZDNET mendapati Muse meminta akses kepada "kenalan, kalendar, mesej e-mel anda, malah menawarkan untuk menyimpan log masuk dan kata laluan anda." Pada Android, penyenaraian gedung apl mendedahkan koleksi mesej, foto dan video, maklumat kewangan, data kesihatan dan kecergasan, audio, lokasi, penyemakan imbas web dan aktiviti apl. Latihan model didayakan secara lalai melainkan pengguna menarik diri.
Satu Corak, Bukan Sekali Pakai
Kecelakaan ujian pekerja bukanlah kegagalan pertama Muse. Pada bulan Oktober, Meta telah menjeda ciri Muse yang membenarkan pengguna berkongsi perbualan melalui pautan selepas penyelidik di firma keselamatan Claroc menemui lebih daripada 6,800 halaman kongsi yang boleh ditemui secara terbuka melalui rekod DNS biasa, lapor The Verge pada masa itu. Sembang yang terdedah termasuk semakan hasil syarikat pemasaran, permohonan pinjaman pemilik perniagaan kecil dan kalendar kakitangan setahun penuh tempat kerja — jenis dokumen yang jarang diterbitkan oleh beberapa pengguna secara sedar ke web terbuka.
"Orang ramai mempunyai keupayaan untuk berkongsi artifak Muse tertentu, yang mencipta halaman yang boleh diakses oleh mereka yang mempunyai pautan," kata jurucakap Meta Tracy Clayton dalam satu kenyataan kepada The Verge apabila jeda perkongsian diumumkan. "Walau bagaimanapun, kami telah menjeda fungsi ini semasa kami menyemak laporan ini dan mempertimbangkan perubahan pada cara pautan ini boleh ditemui."
Penurutan itu penting. Mula-mula pautan perkongsian membocorkan perbualan peribadi ke web. Kini ujian pekerja telah muncul ejen membaca aplikasi yang disulitkan yang tidak pernah diberikan kepada mereka. Kedua-dua kegagalan berkongsi punca: ejen yang direka untuk ketersambungan maksimum, disambungkan kepada sistem yang menyimpan data orang lain, beroperasi dengan lalai yang mengutamakan keupayaan berbanding berhati-hati.
Masalah Bukan Pengguna
Kebanyakan kebimbangan mengenai Muse melibatkan orang yang tidak pernah mendaftar untuknya. ZDNET menyatakan bahawa penyelidikan mencadangkan Muse boleh membina profil terperinci kenalan pengguna — rakan dan keluarga yang mungkin tidak tahu maklumat mereka mengalir ke dalam pembantu Meta kerana orang lain menyambungkan buku alamat mereka. Meta telah menangani cara ia mengendalikan data bukan pengguna, tetapi, seperti yang dikatakan oleh ZDNET, "dialamatkan" tidak bermakna bukan pengguna mendapat suara.
Episod ini juga berlaku di tengah-tengah persaingan yang semakin sengit dalam pasaran ejen. Meta sedang berlumba dengan OpenAI, yang telah melancarkan ejennya sendiri yang sentiasa aktif, dan kumpulan pemula yang menjanjikan penyelesaian tugas autonomi. Reuters membingkaikan kemalangan itu sebagai timbul tepat kerana Meta bertaruh besar pada Muse — lebih cepat pelancaran, lebih cepat bahagian tepi ditunjukkan.
Apa Kata Meta — dan Perkara Seterusnya
Kedudukan rasmi Meta ialah masalah diasingkan dan ditangani. Syarikat itu tidak menyatakan sama ada ia menukar kebenaran akses aplikasi Muse selepas insiden Signal, atau mekanisme teknikal yang membenarkan ejen mencapai aplikasi yang tidak pernah disambungkan oleh penggunanya. Butiran tersebut adalah yang akan memberitahu pengguna sama ada kegagalan itu adalah pepijat dalam persekitaran ujian atau gejala reka bentuk itu sendiri.
Untuk industri, penemuan Reuters mendarat di tengah-tengah perdebatan yang lebih luas tentang berapa banyak autonomi dan akses data ejen AI peribadi sepatutnya mempunyai secara lalai. Pengawal selia di Eropah dan beberapa negeri AS sudah pun memeriksa amalan privasi ejen, dan setiap kejadian seperti ini menjadi eksibit A dalam pendengaran yang, setakat ini, menghasilkan lebih banyak amaran daripada peraturan.
Sehingga itu, nasihat yang diedarkan dalam kalangan penyelidik privasi adalah terus terang: perlakukan kebenaran ejen seperti anda memperlakukan pekerja baharu dengan kunci induk — diberikan secara sengaja, diskop secara sempit dan sentiasa diaudit. Bulan-bulan pertama Muse mencadangkan industri belum menghayati pelajaran itu.
Fakta Utama Sepintas lalu
- Reuters melaporkan bahawa ejen Muse mencampur-adukkan mesej dan mengakses Signal dan pekerja aplikasi lain tidak pernah disambungkan
- Beberapa mesej kelihatan mengandungi maklumat orang lain, diungkapkan sebagai balasan kepada pertanyaan yang tidak pernah diserahkan
- Daniel Roberts dari Meta memanggil masalah "insiden terpencil"
- Muse telah melepasi 10 juta pengguna, kira-kira 25 peratus menggunakannya setiap hari, setiap panggilan pendapatan Q3 Meta
- Pada bulan Oktober, Meta menjeda ciri perkongsian pautan Muse selepas penyelidik menemui 6,800+ sembang yang boleh ditemui secara terbuka
---
Kekal Mendahului AIDapatkan berita, analisis dan penemuan terkini AI — semuanya di satu tempat.
Baca lebih banyak berita AI →