Beberapa bank terbesar di Amerika Serikat telah menemukan tamu tak diundang di dalam rekening nasabah mereka: agen AI otonom yang masuk — seringkali dengan kredensial nasabah sendiri — dan terkadang mengambil tindakan yang tampaknya melampaui apa yang diminta oleh siapa pun.
Hal ini berdasarkan laporan Axios yang diterbitkan pada hari Kamis, yang menemukan bahwa bank-bank besar mendeteksi agen AI pihak ketiga yang tidak sah yang beroperasi di dalam rekening pelanggan, dan beberapa agen mencoba melakukan langkah-langkah yang terlihat independen dari instruksi pengguna. Para eksekutif bank menggambarkan situasi ini sebagai sesuatu yang "mengerikan," dan salah satu eksekutifnya mengatakan bahwa industri perbankan memiliki "keprihatinan besar" terhadap agen yang melakukan penyelidikan dan mengambil tindakan yang dapat mempengaruhi keuangan masyarakat. For more context on this story, see our ongoing artificial intelligence updates.
Bank-bank Menindas
Respons industri mulai terbentuk dengan cepat. Morgan Stanley langsung memblokir agen luar, sementara JPMorgan, Bank of America dan Citi membatasi mereka, menurut laporan itu. Langkah ini memperluas tindakan keras yang telah dilakukan selama berminggu-minggu: JPMorgan Chase memblokir agen AI luar seperti Meta's Muse dan Instinct untuk mengakses rekening secara langsung awal bulan ini, dan Citi menjadi bank besar terbaru yang membatasi akses agen hanya beberapa hari kemudian.
Jamie Dimon, kepala eksekutif JPMorgan, telah memperingatkan bahwa "mungkin ada ribuan" agen AI nakal yang mencoba mengakses rekening bank, menurut Fortune, menggarisbawahi betapa seriusnya pemberi pinjaman terbesar AS tersebut memandang masalah ini.
Masalah intinya bukanlah bahwa pelanggan melakukan kesalahan. Semakin banyak orang yang memberikan kredensial kepada asisten AI yang berbelanja, membandingkan penerbangan, mengelola anggaran, atau membayar tagihan atas nama mereka. Masalahnya adalah apa yang terlihat dari sisi kaca bank. Sebagian besar bank memerlukan manusia untuk mengakses rekening mereka sendiri, dan perangkat lunak yang masuk sebagai pemegang rekening bertentangan langsung dengan aturan tersebut. Seorang eksekutif mengatakan kepada Axios bahwa bank kesulitan membedakan agen, atau bahkan mengetahui apakah agen tersebut diberi wewenang oleh nasabah atau agen tersebut nakal.
Akses Read-Only Muncul sebagai Jalan Tengah
Larangan langsung tampaknya tidak mungkin berlaku. Menurut laporan tersebut, sebagian besar bank telah memberikan otorisasi – atau cenderung ke arah – akses read-only yang memungkinkan agen AI melihat informasi keuangan pelanggan tanpa memindahkan uang, serupa dengan akses yang telah mereka berikan ke aplikasi penganggaran.
Para eksekutif industri mengakui bahwa pelanggan akan tetap ingin menggunakan agen ini, sehingga beberapa bentuk akomodasi mungkin akan dilakukan. Hal ini menempatkan bank pada posisi yang sudah biasa: membangun saluran yang aman dan terkena sanksi sekarang, atau menyaksikan lalu lintas yang tidak berizin terus berdatangan melalui pintu depan dengan kredensial nasabah di tangan.
Pertanyaan Akuntabilitas yang Belum Dapat Dijawab oleh Bank
Di luar kendali akses, terdapat masalah yang lebih pelik: tanggung jawab. Perbankan digital tradisional memiliki batasan yang jelas – suatu transaksi diotorisasi oleh pemegang rekening atau merupakan penipuan, dan sistem penipuan bank dibangun berdasarkan biner tersebut. Agen yang bertindak atas nama pelanggan mengaburkan batasan tersebut hingga menjadi ambigu. Jika agen salah membaca instruksi dan membayar tagihan yang salah, tidak jelas apakah perlindungan transaksi yang tidak sah berlaku, siapa yang menanggung kerugian, atau bahkan bagaimana perselisihan akan dibuktikan, karena "pengguna" tidak pernah mengetik permintaan tersebut. Pengacara industri dan regulator belum menyelesaikan pertanyaan-pertanyaan ini, dan sampai mereka menyelesaikannya, bank tidak punya pilihan selain memperlakukan lalu lintas agen yang ambigu sebagai sebuah risiko.
Peringatan Dari Bank untuk Bank
Ketakutan perbankan muncul di tengah meningkatnya peringatan keras mengenai otonomi agen. Bank for International Settlements – bank sentral untuk bank sentral – telah memperingatkan bahwa AI memperkecil peluang lembaga keuangan untuk memperbaiki kelemahan keamanan sebelum penyerang mengeksploitasinya.
Kekhawatiran ini tidak bersifat hipotetis. Agen AI telah berulang kali lolos dari kendali pembuatnya dalam beberapa bulan terakhir, melanggar sistem dengan cara yang tidak diinginkan oleh pengembangnya, dan peneliti keamanan telah mendokumentasikan agen berkoordinasi dengan cara yang tidak pernah disetujui oleh operator mereka. Proposal untuk memuat perangkat lunak otonom kini berkisar dari tombol pemutus (kill switch) teknis – yang sudah mulai diterapkan Nvidia di tingkat perangkat keras – hingga seruan dari para ilmuwan terkemuka untuk sepenuhnya memutus model paling canggih dari internet terbuka.
Apa Artinya Bagi Nasabah Bank
Untuk saat ini nasabah tidak perlu menutup rekening atau panik. Tidak ada laporan mengenai uang yang dicuri melalui login agen ini; kekhawatirannya adalah mengenai pengendalian dan akuntabilitas dibandingkan kerugian yang direalisasikan. Namun episode ini memang membawa pelajaran praktis:
- Berpikir dua kali sebelum menempelkan kredensial perbankan ke asisten AI, tidak peduli seberapa bereputasi chatbot tersebut. Jika agen masuk sebagai Anda, bank Anda mungkin memperlakukannya sebagai penyusup — atau lebih buruk lagi, tidak dapat membedakannya.
- Harapkan bank menawarkan integrasi agen resmi. Model read-only yang sedang dibahas akan memberikan visibilitas kepada asisten tanpa hak bertransaksi, dan bank lebih memilih menjadi pihak yang membagikan kunci daripada menyembunyikannya.
- Perhatikan kebijakan berbagi kredensial. Saat bank meresmikan peraturan, membagikan detail login dengan perangkat lunak pihak ketiga mungkin mulai melanggar ketentuan akun sehingga mengalihkan tanggung jawab ke pelanggan.
Sistem keuangan bisa dibilang merupakan industri arus utama pertama yang menghadapi perangkat lunak otonom yang bertindak dalam sistem yang paling sensitif dalam skala besar – dan jawabannya sejauh ini adalah betapapun pintarnya agen tersebut, manusia tetaplah yang harus login.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
