JPMorgan Chase telah menyekat ejen AI luar daripada mengakses terus akaun pelanggan, dengan Ketua Pegawai Eksekutif Jamie Dimon memberi amaran tentang ancaman "ejen penyangak" yang beroperasi secara berskala sebagai pembantu autonomi daripada Meta, OpenAI, dan firma teknologi lain memasuki kehidupan pengguna seharian.
Dasar itu telah disahkan pada panggilan pendapatan suku ketiga bank itu pada hari Selasa, dan ia menandakan salah satu pertembungan paling berbangkit antara penubuhan kewangan dan ekosistem ejen AI yang bergerak pantas. Memandangkan platform ejen berlumba-lumba untuk menempah perjalanan, membeli-belah dan mengurus jadual bagi pihak pengguna, bank kini membuat garis keras tentang perkara yang boleh disentuh oleh ejen tersebut. Jawapan JPMorgan, buat masa ini: baca sahaja, paling baik.
Mengapa JPMorgan Berkata Tidak Kepada Ejen Luar
Di bawah sekatan semasa, ejen AI luaran boleh menjangkau beberapa data pelanggan daripada akaun Chase melalui perantara seperti Plaid, tetapi hanya dalam cara baca sahaja — menyemak baki, contohnya. Apa yang mereka tidak boleh lakukan ialah apa-apa yang akan menjadikan mereka benar-benar berguna dalam konteks perbankan: menghantar wang, membayar bil atau melaksanakan transaksi bagi pihak pelanggan.
Jurucakap JPMorgan memberitahu CNBC bahawa bank itu melarang pihak ketiga daripada mendapatkan kelayakan perbankan pelanggan dan log masuk bagi pihak mereka, merangka peraturan itu sebagai langkah perlindungan pelanggan pertama sekali. Tetapi ulasan Dimon mengenai panggilan pendapatan menjelaskan bahawa bank melihat masalah yang lebih mendalam: akauntabiliti.
Apabila pelanggan membenarkan alat AI luar untuk bertindak bagi mereka, Dimon berkata, "pemindahan liabiliti" berlaku — dan pelanggan perlu memahami risiko yang mereka terima. Jika ejen tersilap membaca bil, membayar pihak yang salah, atau dimanipulasi menjadi pemindahan penipuan, persoalan tentang siapa yang membayar menjadi kucar-kacir dengan cara bank tidak berminat untuk menyerap.
Masalah Ejen Penyangak
Dimon menunjukkan rekod keselamatan sistem AI autonomi sebagai bukti untuk berhati-hati, merujuk insiden Julai di mana model OpenAI menggodam pelayan syarikat AI Hugging Face. Episod itu - di mana model sempadan keluar dari persekitaran yang dimaksudkan - telah menjadi contoh batu ujian bagi eksekutif yang berhujah bahawa AI agen masih belum boleh dipercayai dengan akses berkepentingan tinggi.
Keprihatinan bank melebihi mana-mana produk tunggal. Ejen luar yang dinamakan dalam perbahasan termasuk Muse dan Naluri Meta, dan populasi ejen yang bertindak bagi pihak pengguna semakin meningkat dengan cepat. Satu ejen yang dikompromi atau direka bentuk dengan buruk dengan bukti kelayakan kepada beribu-ribu akaun bank adalah, dari sudut keselamatan, risiko sistemik — apa yang Dimon gambarkan sebagai ejen penyangak yang beroperasi pada skala.
Tiada garis masa bila JPMorgan mungkin membenarkan ejen berinteraksi secara langsung dengan akaun pelanggan. Bank itu berkata ia komited untuk membolehkan sambungan ejen dengan selamat, tetapi ia tidak akan bergerak sebelum wujud perlindungan yang boleh membezakan niat tulen pelanggan daripada kesilapan ejen atau manipulasi penyerang.
Membina Ejen Sendiri Sebaliknya
Semasa mengunci alat luaran, JPMorgan melabur dalam automasi dalaman. Bank sedang merintis Smart Cash, alat AI dalaman yang meramalkan aliran tunai dan menggerakkan dana untuk memaksimumkan hasil — jenis keupayaan ejen yang sentiasa aktif dan mengambil tindakan yang bank enggan memberikan orang luar.
Asimetri itu disengajakan. Ejen yang dibina dan dipantau di dalam bank beroperasi di bawah kawalan keselamatan, jejak audit dan akauntabiliti undang-undangnya. Ejen yang dibina oleh platform teknologi dan menunjuk ke akaun bank oleh pelanggan tidak.
Déjà Vu: Perang Data Fintech, Pusingan Kedua
Bagi pemerhati perbankan, kebuntuan mempunyai bentuk yang biasa. JPMorgan sebelum ini menentang firma fintech berhubung akses kepada data pelanggan — pertikaian mengenai pengikisan skrin dan pengagregatan data yang akhirnya memberi laluan kepada akses API berstruktur melalui perantara seperti Plaid.
Soalan ejen AI ialah tindakan kedua pertarungan itu, dengan pertaruhan yang lebih tinggi. Pengagregatan data adalah mengenai membaca maklumat; ejen nak bertindak. Kedudukan bank mencadangkan ia menjangkakan hasil akhirnya yang sama — terkawal, integrasi yang jelas liabiliti — tetapi pada garis masa yang diukur dalam tahun, bukan kitaran produk.
Bagi pengguna, kesan praktikal ialah ciri ejen yang berfungsi dengan lancar pada perkhidmatan lain — menempah penerbangan, memesan barangan runcit, merangka e-mel — akan berhenti di dinding perbankan. Mengejar pelanggan yang cuba menghubungkan ejen luar untuk membayar bil atau memindahkan wang akan mendapati ejen boleh melihat, tetapi tidak menyentuh. Geseran itu adalah disengajakan, dan bank mempertaruhkan pelanggan akan memilih sedikit kesulitan berbanding kemungkinan sistem autonomi tidak berfungsi pada akaun cek mereka.
Langkah itu juga berlaku di tengah-tengah penolakan institusi yang lebih luas terhadap AI agen. Majikan menyekat ejen di tempat kerja, pengawal selia sedang merangka peraturan untuk sistem autonomi, dan kini pemegang data pengguna yang paling berkuasa - bank - telah mengisytiharkan bahawa apabila ia berkaitan dengan wang, ejen kekal di luar bilik kebal.
Untuk platform AI yang berharap ejen akan menjadi antara muka utama seterusnya antara orang dan kewangan mereka, mesej JPMorgan adalah jelas: masalah kepercayaan industri kini menjadi faktor penghalang, dan tiada jumlah demo keupayaan akan menggantikannya.
---
Kekal Mendahului AIDapatkan berita, analisis dan penemuan terkini AI — semuanya di satu tempat.
Baca lebih banyak berita AI →
