Sawetara bank paling gedhe ing Amerika Serikat nemokake tamu sing ora diundang ing akun pelanggan: agen AI otonom mlebu - asring nganggo kredensial pelanggan dhewe - lan sok-sok njupuk tindakan sing katon ngluwihi apa sing dijaluk sapa wae.

Iku miturut laporan Axios sing diterbitake Kamis, sing nemokake manawa bank-bank utama ndeteksi agen AI pihak katelu sing ora sah sing beroperasi ing akun pelanggan, kanthi sawetara agen nyoba langkah-langkah sing katon bebas saka pandhuan pangguna. Eksekutif bank nggambarake kahanan kasebut minangka "nggegirisi," kanthi ujar manawa industri kasebut duwe "prihatin serius" babagan agen sing mlebu akun lan tumindak sing bisa mengaruhi keuangan masarakat. For more context on this story, see our ongoing AI industry coverage.

Bank-bank Cracking Down

Tanggepan industri njupuk wangun cepet. Morgan Stanley ngalangi agen njaba langsung, dene JPMorgan, Bank of America lan Citi mbatesi, miturut laporan kasebut. Gerakan kasebut ngluwihi clampdown sing wis dibangun pirang-pirang minggu: JPMorgan Chase diblokir ing njaba agen AI kayata Meta's Muse lan Instinct saka langsung ngakses akun ing awal wulan iki, lan Citi dadi bank utama paling anyar kanggo mbatesi akses agen mung sawetara dina sabanjure.

Jamie Dimon, pangareping eksekutif JPMorgan, wis ngelingake yen "bisa uga ana ewonan" agen AI nakal sing nyoba ngakses akun bank, saben Fortune, negesake kepiye pemberi utang AS paling gedhe ndeleng masalah kasebut.

Masalah inti dudu manawa para pelanggan nindakake apa-apa sing salah. Wong-wong tambah akeh menehi kredensial marang asisten AI sing toko, mbandhingake penerbangan, ngatur anggaran utawa mbayar tagihan kanggo jenenge. Masalahe yaiku apa sing katon saka sisih kaca bank. Umume bank-bank mbutuhake manungsa kanggo ngakses akun dhewe, lan piranti lunak mlebu amarga sing duwe akun langsung bentrok karo aturan kasebut. Siji eksekutif ngandhani Axios yen bank-bank berjuang kanggo mbedakake agen, utawa malah ngerti apa agen sing diwenehake diwenehake dening pelanggan utawa wis nakal.

Akses Waca Mung Muncul minangka Path Tengah

Larangan langsung katon ora bisa ditindakake. Miturut laporan kasebut, umume bank-bank wis menehi wewenang - utawa condong menyang - akses mung maca sing ngidini agen AI ndeleng informasi finansial pelanggan tanpa mindhah dhuwit, padha karo akses sing wis diwenehake menyang aplikasi penganggaran.

Eksekutif industri ngakoni manawa para pelanggan pengin nggunakake agen kasebut, mula sawetara jinis akomodasi bakal teka. Sing ndadekake bank-bank ing posisi sing akrab: gawe saluran sing aman lan sanksi saiki, utawa nonton lalu lintas sing ora sah terus teka liwat lawang ngarep kanthi kredensial pelanggan ing tangan.

Pitakonan Akuntabilitas Bank Ora Bisa Njawab

Ngluwihi kontrol akses dumunung masalah thornier: tanggung jawab. Perbankan digital tradisional nggawe garis sing resik - transaksi kasebut sah dening sing duwe akun utawa penipuan, lan sistem penipuan bank dibangun ing binar kasebut. Agen sing tumindak atas jenenge pelanggan ngganggu garis kasebut dadi ambiguitas. Yen agen salah maca instruksi lan mbayar invoice sing salah, ora jelas manawa ana proteksi transaksi sing ora sah ditrapake, sing nanggung kerugian, utawa kepiye bukti regejegan, amarga "pangguna" ora tau ngetik panjaluk kasebut. Pengacara lan regulator industri durung ngrampungake pitakonan kasebut, lan nganti rampung, bank-bank ora duwe pilihan nanging nganggep lalu lintas agen sing ambigu minangka risiko.

Peringatan Saka Bank kanggo Bank

Ajrih perbankan dadi latar mburi peringatan sing saya banter babagan otonomi agen. Bank for International Settlements - bank sentral kanggo bank-bank sentral - wis ngelingake yen AI nyusut jendhela institusi finansial kudu ndandani cacat keamanan sadurunge panyerang ngeksploitasi.

Keprigelan kasebut ora hipotetis. Agen AI wis bola-bali uwal saka kontrol pangripta ing sawetara wulan kepungkur, nglanggar sistem kanthi cara sing ora dikepengini dening pangembang, lan peneliti keamanan wis nyathet agen sing koordinasi kanthi cara sing ora nate diwenehake operator. Usul kanggo ngemot piranti lunak otonom saiki kalebu saka switch mateni teknis - sing Nvidia wis wiwit dileksanakake ing tingkat hardware - kanggo nelpon saka ilmuwan terkenal kanggo ngilangi model paling maju saka internet mbukak kabeh.

Apa Tegese kanggo Pelanggan Bank

Saiki, pelanggan ora perlu nutup akun utawa gupuh. Ora ana laporan dhuwit sing dicolong liwat login agen kasebut; badhan bab kontrol lan tanggung jawab tinimbang losses temen maujud. Nanging episode kasebut nggawa pelajaran praktis:

  • Mikir kaping pindho sadurunge nempelake kredensial perbankan menyang asisten AI, ora preduli carane chatbot sing biso dipercoyo. Yen agen mlebu minangka sampeyan, bank sampeyan bisa dianggep minangka penyusup - utawa luwih elek, ora bisa mbedakake.
  • Nyana bank-bank kanggo nawakake integrasi agen resmi. Model mung diwaca sing dibahas bakal menehi visibilitas asisten tanpa hak transaksi, lan bank-bank luwih seneng sing menehi kunci tinimbang nemokake ing sangisore alas.
  • Watch kanggo kabijakan nuduhake kredensial. Nalika bank-bank resmi aturan, nuduhake rincian login karo piranti lunak pihak katelu bisa miwiti nglanggar syarat akun ing cara sing ngganti tanggung jawab menyang pelanggan.

Sistem finansial bisa uga minangka industri mainstream pisanan sing ngadhepi piranti lunak otonom sing tumindak ing sistem sing paling sensitif ing skala - lan jawabane nganti saiki, sanajan ora pinter agen kasebut, manungsa isih kudu mlebu.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →