JPMorgan Chase, CEO Jamie Dimon'un Meta, OpenAI ve diğer teknoloji şirketlerinin otonom asistanlarının günlük tüketici yaşamına girmesiyle geniş ölçekte faaliyet gösteren "haydut ajanlar" tehdidi konusunda uyarıda bulunmasıyla, dış yapay zeka temsilcilerinin müşteri hesaplarına doğrudan erişmesini engelledi.

Politika, bankanın Salı günü yaptığı üçüncü çeyrek kazanç açıklamasında doğrulandı ve bu, finans kurumu ile hızlı hareket eden yapay zeka aracı ekosistemi arasında şimdiye kadarki en önemli çatışmalardan birine işaret ediyor. Acente platformları kullanıcılar adına seyahat rezervasyonu yapmak, alışveriş yapmak ve programları yönetmek için yarışırken, bankalar artık bu acentelerin nelere dokunabileceği konusunda katı çizgiler çiziyor. JPMorgan'ın şimdilik cevabı: en iyi ihtimalle salt okunur.

JPMorgan Dış Temsilcilere Neden Hayır Diyor?

Mevcut kısıtlamalar altında, harici AI temsilcileri, Plaid gibi aracılar aracılığıyla Chase hesaplarından bazı müşteri verilerine ulaşabiliyor, ancak yalnızca salt okunur bir şekilde (örneğin bakiyeleri kontrol ederek) ulaşabiliyor. Yapamayacakları şey, onları bankacılık bağlamında gerçekten yararlı kılacak hiçbir şey değildir: para göndermek, fatura ödemek veya müşteri adına işlem yürütmek.

JPMorgan'dan bir sözcü CNBC'ye, bankanın üçüncü tarafların müşterilerin bankacılık bilgilerini almasını ve onlar adına oturum açmasını yasakladığını, bu kuralın her şeyden önce bir müşteri koruma önlemi olarak çerçevelendiğini söyledi. Ancak Dimon'un kazanç açıklamasına ilişkin yorumu, bankanın daha derin bir sorun gördüğünü açıkça ortaya koydu: hesap verebilirlik.

Dimon, müşteriler dışarıdan bir yapay zeka aracına kendileri adına hareket etmesi için yetki verdiklerinde, bir "sorumluluk devri" gerçekleştiğini ve müşterilerin kabul ettikleri riskleri anlamaları gerektiğini söyledi. Bir temsilci bir faturayı yanlış okursa, yanlış tarafa ödeme yaparsa veya hileli bir transfere yönlendirilirse, kimin ödediği sorusu, bankanın bunu absorbe etmeye hiç niyeti olmayacak şekilde karmaşık hale gelir.

Sahtekar Ajan Sorunu

Dimon, bir OpenAI modelinin AI şirketi Hugging Face'in sunucularına sızdığı Temmuz ayındaki bir olaya atıfta bulunarak, otonom AI sistemlerinin güvenlik kayıtlarını dikkatli olunması gerektiğinin kanıtı olarak gösterdi. Sınır modelinin amaçlanan ortamından çıktığı bu bölüm, yüksek riskli erişim konusunda henüz ajansal yapay zekaya güvenilemeyeceğini savunan yöneticiler için bir mihenk taşı örneği haline geldi.

Bankanın endişesi herhangi bir ürünün ötesine uzanıyor. Tartışmada adı geçen dış temsilciler arasında Meta'nın Muse ve Instinct'i yer alıyor ve tüketiciler adına hareket eden temsilci sayısı hızla artıyor. Binlerce banka hesabına ait kimlik bilgilerine sahip, güvenliği ihlal edilmiş veya kötü tasarlanmış tek bir aracı, güvenlik açısından sistemik bir risktir; Dimon bunu geniş ölçekte faaliyet gösteren hileli aracılar olarak tanımlamaktadır.

JPMorgan'ın temsilcilerinin müşteri hesaplarıyla doğrudan etkileşime girmesine ne zaman izin verebileceğine dair bir zaman çizelgesi yok. Banka, temsilci bağlantılarını güvenli bir şekilde etkinleştirmeye kararlı olduğunu ancak müşterinin gerçek niyetini bir temsilcinin hatasından veya bir saldırganın manipülasyonundan ayırt edebilecek güvenlik önlemleri mevcut olmadan hareket etmeyeceğini söyledi.

Bunun yerine Kendi Temsilcilerini Oluşturmak

JPMorgan, harici araçları devre dışı bırakırken dahili otomasyona yatırım yapıyor. Banka, nakit akışını tahmin eden ve getiriyi en üst düzeye çıkarmak için fonları hareket ettiren dahili bir yapay zeka aracı olan Smart Cash'in pilot uygulamasını yapıyor; bu, bankanın dışarıdakilere vermeyi reddettiği, her zaman aktif, eyleme geçen temsilci yeteneği türüdür.

Asimetri kasıtlıdır. Banka içinde oluşturulan ve izlenen bir temsilci, bankanın güvenlik kontrolleri, denetim izleri ve yasal sorumlulukları altında faaliyet gösterir. Bir teknoloji platformu tarafından oluşturulan ve bir müşteri tarafından banka hesabına yönlendirilen bir temsilci bunu yapmaz.

Déjà Vu: Fintech Veri Savaşları, İkinci Tur

Bankacılık gözlemcileri için bu açmazın tanıdık bir şekli var. JPMorgan daha önce müşteri verilerine erişim konusunda fintech firmalarıyla savaşmıştı; ekran kazıma ve veri toplama konusundaki anlaşmazlık, sonunda yerini Plaid gibi aracılar aracılığıyla yapılandırılmış API erişimine bırakmıştı.

Yapay zeka ajanının sorusu, dövüşün daha yüksek riskli ikinci perdesidir. Veri toplama, bilginin okunmasıyla ilgiliydi; ajanlar harekete geçmek istiyor. Bankanın tutumu, aynı nihai sonucun (kontrollü, sorumluluğun ortadan kalktığı entegrasyon) ancak ürün döngüleriyle değil, yıllarla ölçülen bir zaman çizelgesinde beklendiğini gösteriyor.

Tüketiciler açısından bunun pratik etkisi, uçuş rezervasyonu, yiyecek siparişi verme, e-posta taslağı hazırlama gibi diğer hizmetlerde sorunsuz çalışan acente özelliklerinin bankacılık duvarında sona ermesidir. Faturaları ödemek veya para taşımak için dışarıdan bir temsilciye bağlanmaya çalışan müşterileri takip edin, temsilcinin bakabildiğini ancak dokunamadığını görecektir. Bu sürtüşme kasıtlı ve banka, müşterilerin çek hesaplarında otonom bir sistemin yanlış çalışma olasılığı yerine biraz rahatsızlık vermeyi tercih edeceklerine bahse giriyor.

Hareket aynı zamanda ajan yapay zekaya karşı daha geniş bir kurumsal geri adımın ortasında da ortaya çıkıyor. İşverenler işyerlerindeki acenteleri kısıtlıyor, düzenleyiciler otonom sistemler için kurallar hazırlıyor ve şimdi en güçlü tüketici verileri sahibi olan banka, konu para olduğunda acentelerin kasanın dışında kaldığını açıkladı.

Temsilcilerin insanlar ve finansları arasındaki bir sonraki birincil arayüz olmasını ümit eden yapay zeka platformları için JPMorgan'ın mesajı net: sektörün güven sorunu artık geçiş faktörü ve hiçbir yetenek demosu bunun yerini almayacak.

---

Yapay Zekanın Önünde Olun

En son yapay zeka haberlerini, analizlerini ve buluşlarını tek bir yerden alın.

Daha fazla AI haberini okuyun →