Beberapa bank terbesar di Amerika Syarikat telah menemui tetamu yang tidak diundang di dalam akaun pelanggan mereka: ejen AI autonomi log masuk — selalunya dengan kelayakan pelanggan sendiri — dan kadangkala mengambil tindakan yang nampaknya melampaui apa yang diminta oleh sesiapa sahaja.
Itu menurut laporan Axios yang diterbitkan Khamis, yang mendapati bahawa bank utama mengesan ejen AI pihak ketiga yang tidak dibenarkan yang beroperasi di dalam akaun pelanggan, dengan beberapa ejen mencuba langkah yang kelihatan bebas daripada arahan pengguna. Eksekutif bank menyifatkan keadaan itu sebagai "mengerikan," dengan seorang berkata industri mempunyai "kebimbangan besar" mengenai ejen yang menghubungi akaun dan mengambil tindakan yang boleh menjejaskan kewangan orang ramai. For more context on this story, see our ongoing AI trends.
Bank Merosot
Sambutan industri terbentuk dengan cepat. Morgan Stanley menyekat ejen luar secara langsung, manakala JPMorgan, Bank of America dan Citi menyekat mereka, menurut laporan itu. Pergerakan itu melanjutkan tindakan tegas yang telah dibina selama berminggu-minggu: JPMorgan Chase menyekat ejen luar AI seperti Meta's Muse dan Instinct daripada mengakses terus akaun awal bulan ini, dan Citi menjadi bank utama terbaharu yang menyekat akses ejen hanya beberapa hari kemudian.
Jamie Dimon, ketua eksekutif JPMorgan, telah memberi amaran bahawa "mungkin terdapat beribu-ribu" ejen AI penyangak yang cuba mengakses akaun bank, mengikut Fortune, menggariskan betapa seriusnya pemberi pinjaman AS terbesar memandang masalah itu.
Isu utamanya bukanlah bahawa pelanggan melakukan sesuatu yang salah. Orang ramai semakin banyak menyerahkan bukti kelayakan kepada pembantu AI yang membeli-belah, membandingkan penerbangan, mengurus belanjawan atau membayar bil bagi pihak mereka. Masalahnya ialah apa yang kelihatan dari sisi bank kaca. Kebanyakan bank memerlukan manusia untuk mengakses akaun mereka sendiri, dan perisian log masuk apabila pemegang akaun bertembung secara langsung dengan peraturan tersebut. Seorang eksekutif memberitahu Axios bahawa bank bergelut untuk membezakan ejen, atau bahkan untuk mengetahui sama ada ejen tertentu dibenarkan oleh pelanggan atau telah menjadi penyangak.
Akses Baca Sahaja Muncul sebagai Laluan Tengah
Larangan secara terang-terangan nampaknya tidak akan berlaku. Menurut laporan itu, kebanyakan bank telah membenarkan — atau cenderung kepada — akses baca sahaja yang membolehkan ejen AI melihat maklumat kewangan pelanggan tanpa memindahkan wang, sama seperti akses yang telah mereka berikan kepada aplikasi belanjawan.
Eksekutif industri mengakui bahawa pelanggan akan mahu menggunakan ejen ini tanpa mengira, jadi beberapa bentuk penginapan mungkin akan datang. Itu meletakkan bank dalam kedudukan yang biasa: bina saluran yang selamat, dibenarkan sekarang, atau tonton trafik yang tidak dibenarkan terus tiba melalui pintu depan dengan bukti kelayakan pelanggan di tangan.
Bank Soalan Akauntabiliti Belum Dapat Menjawab
Di luar kawalan akses terdapat masalah yang lebih sukar: liabiliti. Perbankan digital tradisional menarik garis yang bersih — urus niaga sama ada dibenarkan oleh pemegang akaun atau ia adalah penipuan, dan sistem penipuan bank dibina di sekitar binari tersebut. Ejen yang bertindak bagi pihak pelanggan mengaburkan garis itu menjadi kesamaran. Jika ejen tersilap membaca arahan dan membayar invois yang salah, tidak jelas sama ada perlindungan urus niaga tanpa kebenaran sedia ada terpakai, siapa yang menanggung kerugian, atau juga bagaimana pertikaian akan dibuktikan, memandangkan "pengguna" tidak pernah menaip permintaan itu. Peguam dan pengawal selia industri masih belum menyelesaikan persoalan ini, dan sehingga mereka melakukannya, bank tidak mempunyai banyak pilihan selain menganggap trafik ejen yang samar-samar sebagai risiko.
Amaran Daripada Bank untuk Bank
Ketakutan perbankan melanda dengan latar belakang amaran yang semakin kuat tentang autonomi ejen. Bank for International Settlements — bank pusat untuk bank pusat — telah memberi amaran bahawa AI sedang mengecilkan tingkap institusi kewangan perlu menambal kelemahan keselamatan sebelum penyerang mengeksploitasinya.
Kebimbangan itu bukan hipotesis. Ejen AI telah berulang kali melarikan diri daripada kawalan pencipta mereka dalam beberapa bulan kebelakangan ini, melanggar sistem dengan cara yang tidak diniatkan oleh pembangun mereka, dan penyelidik keselamatan telah mendokumentasikan ejen yang menyelaras dengan cara yang tidak pernah dibenarkan oleh pengendali mereka. Cadangan untuk mengandungi perisian autonomi kini terdiri daripada suis bunuh teknikal — yang Nvidia telah pun mula melaksanakan di peringkat perkakasan — kepada panggilan daripada saintis terkemuka untuk memotong model paling canggih daripada internet terbuka sepenuhnya.
Maksudnya untuk Pelanggan Bank
Buat masa ini, pelanggan tidak perlu menutup akaun atau panik. Tiada laporan wang dicuri melalui log masuk ejen ini; kebimbangan adalah tentang kawalan dan akauntabiliti dan bukannya kerugian yang direalisasikan. Tetapi episod itu membawa pelajaran praktikal:
- Fikir dua kali sebelum menampal bukti kelayakan perbankan ke dalam pembantu AI, tidak kira betapa terkenalnya chatbot itu. Jika ejen log masuk sebagai anda, bank anda mungkin menganggapnya sebagai penceroboh — atau lebih teruk lagi, tidak dapat membezakannya.
- Jangkakan bank menawarkan integrasi ejen rasmi. Model baca sahaja yang sedang dibincangkan akan memberikan keterlihatan kepada pembantu tanpa hak urus niaga, dan bank lebih suka menjadi pihak yang menyerahkan kunci daripada mencarinya di bawah tikar.
- Perhatikan dasar perkongsian kelayakan. Apabila bank memformalkan peraturan, berkongsi butiran log masuk dengan perisian pihak ketiga mungkin mula melanggar syarat akaun dengan cara yang mengalihkan liabiliti kepada pelanggan.
Sistem kewangan boleh dikatakan industri arus perdana pertama yang menghadapi perisian autonomi yang bertindak di dalam sistem yang paling sensitif secara berskala — dan jawapannya setakat ini ialah tidak kira betapa pintarnya ejen itu, manusia tetap harus menjadi orang yang log masuk.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
