Ketua Pegawai Eksekutif permulaan yang menyerahkan kewangan peribadinya kepada ejen AI mendapat pelajaran yang tidak diingini dalam kebenaran ejen bulan ini, selepas pembantu itu menyiarkan baki bank, angka simpanan dan pecahan perbelanjaan bulanannya ke saluran Slack dalaman syarikatnya.
Shane Mac, ketua eksekutif syarikat perisian XMTP Labs berusia 40 tahun, menggambarkan kejadian itu dalam akaun orang pertama yang diterbitkan oleh Business Insider pada hari Jumaat. Mac telah membina apa yang dia panggil ejen CFO peribadi pada Grok Bot, produk ejen xAI, pada akhir Ogos, memberikannya akses baca sahaja kepada akaun cek dan simpanan peribadinya dan mengarahkannya menghantar laporan kewangan bulanan kepadanya. Sebaliknya, pada 1 Oktober, ejen itu menyampaikan laporan itu kepada saluran Slack pasukan eksekutif di syarikatnya sendiri. Bagi pembaca yang menjejaki bagaimana ejen AI terus bertembung dengan dunia sebenar, episod itu ialah satu lagi entri dalam fail insiden yang berkembang pesat.
Ejen CFO Peribadi Dengan Masalah Penghalaan
Mac berkata dia menubuhkan ejen itu selepas gelombang pembantu AI peribadi bermula lewat tahun lepas, apabila dia bereksperimen dengan OpenClaw dan abah-abah ejen lain. Ideanya adalah mudah: ejen yang boleh menjawab soalan seperti bakinya, rupa perbelanjaan berulangnya, sama ada apa-apa yang kelihatan menipu, dan tempat dia boleh mengurangkan kos. Dia menamakan sembang kumpulan ejen AInya sebagai "Pasukan Pelaksana Peribadi Saya."
Persediaan berfungsi dengan baik selama berminggu-minggu larian mingguan. Kemudian audit bulanan pertama bermula pada hari Khamis, 1 Oktober.
"Ketua produk kami menghantar saya DM pada Slack," kata Mac kepada Business Insider. "Dia berkata, 'Hei, maklumlah. Saya rasa anda bermaksud untuk menghantar baki bank XMTP.'"
Mesej itu mendarat dalam sembang Slack bertajuk "Exec-team," yang terdiri daripada pasukan eksekutif XMTP — bukan sembang kumpulan ejen peribadi yang dimaksudkan Mac. Laporan itu termasuk baki akaun simpanannya, perbelanjaan terbesarnya pada bulan itu, dan nota bahawa dia telah melebihi sasaran perbelanjaan bulanannya kerana sebuah bangsal yang sedang dia bina di atas hartanya. Perincian bangsal, kata Mac, adalah apa yang dimaklumkan dari kepala produknya bahawa dia melihat kewangan peribadi Mac dan bukannya angka syarikat.
Mac memadamkan mesej itu dan bertanya kepada ejen mengapa ia menghantar laporan itu kepada syarikat. Ejen itu meminta maaf dan menawarkan untuk memadamkan mesej itu — yang telah pun hilang.
Punca Punca: Sambungan Dikongsi, Nama Saluran Serupa
Apabila pasukan xAI menyiasat, kesimpulan mereka dalam beberapa cara lebih meresahkan daripada kerosakan yang akan berlaku. Ejen CFO tidak berhalusinasi atau berkelakuan buruk; ia telah melakukan apa yang Mac minta. Kegagalan adalah pada paip di bawah.
Menurut akaun Mac, ejen itu mengelirukan destinasinya kerana saluran itu mempunyai nama yang serupa, dan — yang lebih penting — kerana semua ejen berasingannya sebenarnya berkongsi sambungan asas yang sama, walaupun mereka merasakan mereka sebagai pembantu yang berbeza. Dia telah menyambungkan akaun Slacknya kepada salah seorang daripada mereka, dan ejen kewangan itu akhirnya dapat mencapai saluran yang salah melalui akses dikongsi itu.
"Ia melakukan apa yang saya suruh," kata Mac. "Tetapi ia mengelirukan destinasi."
Maklum balas xAI datang dengan pantas mengikut piawaian perisian perusahaan. Syarikat itu membuat kesimpulan bahawa pengguna mesti memberikan kebenaran secara jelas sebelum ejen boleh memindahkan maklumat ke saluran lain dan menghantar pembetulan pada malam sebelum artikel Business Insider diterbitkan, menurut akaun Mac.
Mengapa Insiden Ini Penting Lebih Daripada Satu Mesej Bocor
Pada mukanya, kebocoran itu terkandung: satu ringkasan kewangan peribadi eksekutif dilihat secara ringkas oleh segelintir rakan sekerja, seorang ejen memohon maaf, satu pembaikan dihantar dalam beberapa hari. Tetapi corak yang didedahkannya adalah sama yang telah menghasilkan rentetan insiden berisiko lebih tinggi sejak beberapa bulan kebelakangan ini — seperti yang dilaporkan AI Buzz Wire berulang kali, daripada model Anthropic yang memfailkan petua pembunuhan palsu dengan polis Philadelphia kepada tingkah laku ejen penyangak yang mendorong Rumah Putih memberi mandat kepada pelaporan insiden AI.
Isu terasnya ialah kehidupan digital peribadi dan profesional dijalankan pada infrastruktur yang sama. Mac menggunakan Google di tempat kerja dan Google di rumah, dan ejennya mewarisi sempadan yang kabur itu. Apabila ejen mempunyai sambungan tetap kepada e-mel, kalendar, perbankan dan platform pembayaran seperti Stripe, jejari letupan kesilapan penghalaan tidak lagi bersifat teori.
"Kami perlu memastikan terdapat kawalan yang lebih baik di sekitar perkara yang boleh diakses oleh ejen," kata Mac. Beliau menyatakan bahawa orang ramai benar-benar mahukan pembantu ini dan mendapati mereka berguna — cabarannya ialah membina sistem kebenaran yang memastikan pengguna mengawal perkara yang telah mereka berikan, dan melukis garis yang lebih jelas antara konteks peribadi dan kerja.
Selepas kejadian itu, Mac memutuskan segala-galanya: Google, kalendarnya, perbankannya, Stripe. Kewaspadaannya mungkin bergema. Platform ejen telah menghabiskan tahun lalu berlumba-lumba untuk menambah integrasi — lebih banyak sambungan, lebih banyak tindakan autonomi, gesaan pengesahan yang lebih sedikit — kerana akses yang lancar adalah perkara yang membuatkan pembantu berasa ajaib. Episod XMTP Labs ialah demonstrasi kecil dan konkrit tentang sebab penyerahan eksplisit antara konteks menjadi keperluan produk dan bukannya bagus untuk dimiliki.
Episod ini juga menekankan betapa cepatnya norma terbentuk. Setahun yang lalu, seorang ejen yang membocorkan baki bank kepada rakan sekerja akan menjadi rasa ingin tahu. Pada Oktober 2026, dengan pengawal selia, pendakwa raya dan Rumah Putih telah memfokuskan pada salah laku ejen, ia dibaca sebagai kajian kes mengapa sempadan kebenaran — bukan risikan — mungkin menjadi masalah paling sukar dalam AI pengguna.
---
Kekal Mendahului AIDapatkan berita, analisis dan penemuan terkini AI — semuanya di satu tempat.
Baca lebih banyak berita AI →
