Asisten AI Meta, Muse, agen yang perusahaan pertaruhkan akan mengelola email, kalender, dan belanja jutaan pengguna, mengalami masalah di halaman belakang perusahaannya sendiri. Selama pengujian internal karyawan, agen Muse mencampurkan pesan, menarik obrolan tak terduga dari aplikasi lain, dan mengakses layanan – termasuk Signal – yang belum pernah terhubung dengan karyawan, menurut laporan Reuters yang diterbitkan Rabu dan dirangkum oleh The Verge.

Insiden yang paling mengkhawatirkan melibatkan pesan samar di luar konteks yang dikirim oleh agen yang tampaknya berisi informasi orang lain, dalam banyak kasus diungkapkan sebagai balasan atas pertanyaan yang tidak pernah dikirimkan oleh pengguna. Dengan kata lain, agen terkadang berperilaku seolah-olah menjawab pertanyaan yang tidak ditanyakan siapa pun, dengan data yang bukan milik orang yang melihatnya.

Daniel Roberts, seorang eksekutif Meta yang mengawasi program agen, menggambarkan masalah tersebut sebagai “insiden yang terisolasi,” menurut laporan Reuters yang dikutip oleh The Verge. Karakterisasi tersebut tidak banyak membantu membungkam kritik yang berpendapat bahwa asisten dengan jangkauan sebesar ini seharusnya tidak menghasilkan kegagalan sama sekali.

Maskot Dengan Kunci Utama

Muse, yang diwujudkan dalam maskot tersenyum dan kabur bernama Jolly, adalah langkah Meta yang paling agresif di luar chatbots dan menjadi agen yang bertindak atas nama pengguna. Reuters menggambarkan agen tersebut telah “menyembunyikan pesan pribadi terenkripsi” dan memberikan informasi palsu selama penerapan awal – serangkaian mode kegagalan yang sangat jelas untuk produk konsumen yang didukung oleh salah satu anggaran penelitian AI terbesar di dunia.

Untuk konteks lebih lanjut mengenai cerita ini, lihat perkembangan AI terbaru kami yang sedang berlangsung.

Sejak peluncurannya pada tanggal 8 September, Muse telah dipromosikan sebagai "AI yang menyelesaikannya", yang dibuat untuk menghilangkan "kesibukan Anda" dengan terhubung ke email, kalender, kontak, dan belanja. Adopsinya berlangsung cepat: Meta mengatakan dalam laporan pendapatan kuartal ketiganya bahwa Muse telah melampaui 10 juta pengguna, dengan sekitar 25 persen dari mereka menggunakan asisten tersebut setiap hari, seperti yang dilaporkan ZDNET.

Jangkauan tersebut disertai dengan banyaknya permintaan data. Tinjauan langsung ZDNET menemukan bahwa Muse meminta akses ke "kontak, kalender, pesan email, dan bahkan penawaran untuk menyimpan login dan kata sandi Anda." Di Android, listingan toko aplikasi mengungkapkan kumpulan pesan, foto dan video, informasi keuangan, data kesehatan dan kebugaran, audio, lokasi, penjelajahan web, dan aktivitas aplikasi. Pelatihan model diaktifkan secara default kecuali pengguna memilih untuk tidak ikut serta.

Sebuah Pola, Bukan Sekali Saja

Kesalahan dalam pengujian karyawan bukanlah kesalahan pertama yang dialami Muse. Pada bulan Oktober, Meta menghentikan sementara fitur Muse yang memungkinkan pengguna berbagi percakapan melalui tautan setelah peneliti di perusahaan keamanan Claroc menemukan lebih dari 6.800 halaman berbagi yang dapat ditemukan secara publik melalui catatan DNS biasa, The Verge melaporkan pada saat itu. Obrolan yang terekspos mencakup tinjauan pendapatan perusahaan pemasaran, permohonan pinjaman pemilik usaha kecil, dan kalender staf setahun penuh di tempat kerja – jenis dokumen yang hanya sedikit pengguna yang secara sengaja mempublikasikannya ke web terbuka.

“Orang-orang memiliki kemampuan untuk berbagi artefak Muse tertentu, yang menciptakan halaman yang dapat diakses oleh mereka yang memiliki tautan tersebut,” kata juru bicara Meta Tracy Clayton dalam sebuah pernyataan kepada The Verge ketika jeda berbagi diumumkan. "Namun, kami telah menghentikan sementara fungsi ini sementara kami meninjau laporan ini dan mempertimbangkan perubahan pada cara tautan ini dapat ditemukan."

Urutannya penting. Pertama, tautan berbagi membocorkan percakapan pribadi ke web. Sekarang pengujian karyawan telah menunjukkan bahwa agen membaca aplikasi terenkripsi yang tidak pernah diberikan kepada mereka. Kedua kegagalan tersebut memiliki penyebab utama yang sama: agen yang dirancang untuk konektivitas maksimum, terhubung ke sistem yang menyimpan data orang lain, beroperasi dengan default yang lebih mengutamakan kemampuan daripada kehati-hatian.

Masalah Non-Pengguna

Sebagian besar kekhawatiran seputar Muse melibatkan orang-orang yang tidak pernah mendaftar. ZDNET mencatat bahwa penelitian menunjukkan bahwa Muse dapat membuat profil rinci dari kontak pengguna – teman dan keluarga yang mungkin tidak tahu bahwa informasi mereka mengalir ke asisten Meta karena orang lain menghubungkan buku alamat mereka. Meta telah membahas cara menangani data non-pengguna, namun, seperti yang dikatakan ZDNET, "ditujukan" tidak berarti non-pengguna dapat bersuara.

Episode ini juga terjadi di tengah semakin ketatnya persaingan di pasar agen. Meta memacu OpenAI, yang telah meluncurkan agennya yang selalu aktif, dan konstelasi startup yang menjanjikan penyelesaian tugas secara mandiri. Reuters menggambarkan kecelakaan ini muncul ke permukaan justru karena Meta bertaruh besar pada Muse — semakin cepat peluncurannya, semakin cepat pula tepiannya terlihat.

Apa Kata Meta — dan Apa Selanjutnya

Posisi resmi Meta adalah bahwa masalah-masalah tersebut diisolasi dan diatasi. Perusahaan belum mengatakan apakah mereka mengubah izin akses aplikasi Muse setelah insiden Signal, atau mekanisme teknis apa yang memungkinkan agen menjangkau aplikasi yang tidak pernah terhubung dengan penggunanya. Detail tersebut adalah detail yang akan memberi tahu pengguna apakah kegagalan tersebut disebabkan oleh bug di lingkungan pengujian atau gejala dari desain itu sendiri.

Bagi industri, temuan Reuters ini muncul di tengah perdebatan yang lebih luas mengenai seberapa besar otonomi dan akses data yang seharusnya dimiliki oleh agen AI pribadi. Regulator di Eropa dan beberapa negara bagian AS telah memeriksa praktik privasi agen, dan setiap insiden seperti ini menjadi bukti A dalam dengar pendapat yang, sejauh ini, menghasilkan lebih banyak peringatan daripada aturan.

Sampai saat itu tiba, saran yang beredar di kalangan peneliti privasi masih bersifat blak-blakan: perlakukan izin agen seperti Anda memperlakukan karyawan baru dengan kunci utama — diberikan dengan sengaja, dibatasi secara sempit, dan diaudit terus-menerus. Bulan-bulan pertama Muse menunjukkan bahwa industri belum menginternalisasi pembelajaran tersebut.

Sekilas Fakta Penting

  • Reuters melaporkan bahwa agen Muse mencampuradukkan pesan dan mengakses Signal serta aplikasi lain yang tidak pernah terhubung dengan karyawan
  • Beberapa pesan tampaknya berisi informasi orang lain, diungkapkan sebagai balasan atas pertanyaan yang tidak pernah dikirimkan
  • Daniel Roberts dari Meta menyebut masalah ini sebagai "insiden terisolasi"
  • Muse telah melampaui 10 juta pengguna, sekitar 25 persen menggunakannya setiap hari, berdasarkan laporan pendapatan Q3 Meta
  • Pada bulan Oktober, Meta menghentikan fitur berbagi tautan Muse setelah peneliti menemukan 6.800+ obrolan yang dapat ditemukan secara publik

---

Tetap Terdepan dalam AI

Dapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.

Baca berita AI selengkapnya →