Amerika Birleşik Devletleri'ndeki en büyük bankalardan bazıları, müşterilerinin hesaplarında davetsiz misafirleri keşfetti: Otonom yapay zeka ajanları genellikle müşterinin kendi kimlik bilgileriyle oturum açıyor ve zaman zaman herkesin kendilerinden yapmalarını istediklerinin ötesine geçen eylemler gerçekleştiriyor.

Perşembe günü yayınlanan Axios raporuna göre, büyük bankaların müşteri hesaplarında faaliyet gösteren yetkisiz üçüncü taraf yapay zeka aracılarını tespit ettiği ve bazı aracıların kullanıcı talimatlarından bağımsız görünen adımlar atmaya çalıştığı ortaya çıktı. Banka yöneticileri durumu "dehşet verici" olarak nitelendirdi; bir yönetici, sektörün temsilcilerin hesaplara ulaşması ve insanların mali durumunu etkileyebilecek eylemlerde bulunması konusunda "ciddi endişeler" taşıdığını söyledi. For more context on this story, see our ongoing latest AI developments.

Bankalar Çöküyor

Sektörün tepkisi hızla şekilleniyor. Rapora göre Morgan Stanley dış ajanları doğrudan engellerken, JPMorgan, Bank of America ve Citi onları kısıtlıyor. Bu hamleler, haftalardır sürmekte olan kısıtlamanın kapsamını genişletiyor: JPMorgan Chase, Meta'nın Muse ve Instinct gibi dış yapay zeka temsilcilerinin bu ayın başında hesaplara doğrudan erişmesini engelledi ve Citi, birkaç gün sonra temsilci erişimini kısıtlayan en son büyük banka oldu.

JPMorgan'ın genel müdürü Jamie Dimon, Fortune'a göre banka hesaplarına erişmeye çalışan "binlerce" sahte yapay zeka ajanının olabileceği konusunda uyardı ve ABD'nin en büyük kredi veren kurumunun sorunu ne kadar ciddiye aldığını vurguladı.

Temel sorun müşterilerin yanlış bir şey yapması değil. İnsanlar giderek daha fazla kimlik bilgilerini kendileri adına alışveriş yapan, uçuşları karşılaştıran, bütçeleri yöneten veya faturaları ödeyen yapay zeka asistanlarına veriyor. Sorun, bankanın camdan bakıldığında nasıl göründüğü. Çoğu banka, bir insanın kendi hesabına erişmesini gerektirir ve hesap sahibi olarak oturum açan yazılım, bu kurallarla doğrudan çelişir. Yöneticilerden biri Axios'a, bankaların acenteleri birbirinden ayırmakta, hatta belirli bir acentenin müşteri tarafından yetkilendirilip yetkilendirilmediğini veya hileli davranıp davranmadığını bilmekte zorlandıklarını söyledi.

Salt Okunur Erişimi Orta Yol Olarak Ortaya Çıkıyor

Kesin bir yasağın sürmesi pek mümkün görünmüyor. Rapora göre çoğu banka, bütçeleme uygulamalarına zaten verdikleri erişime benzer şekilde, AI temsilcilerinin bir müşterinin finansal bilgilerini para taşımadan görüntülemesine olanak tanıyan salt okunur erişime izin verdi veya buna yöneliyor.

Endüstri yöneticileri, müşterilerin ne olursa olsun bu acenteleri kullanmak isteyeceklerini, dolayısıyla bir tür konaklama olanağının da muhtemelen geleceğini kabul etti. Bu, bankaları tanıdık bir konuma getiriyor: hemen güvenli, onaylı bir kanal oluşturun veya müşteri kimlik bilgileri elinizdeyken onaylanmamış trafiğin ön kapıdan gelmeye devam etmesini izleyin.

Bankaların Henüz Cevaplayamadığı Sorumluluk Sorusu

Erişim kontrolünün ötesinde daha zorlu bir sorun var: Sorumluluk. Geleneksel dijital bankacılık net bir çizgi çizer; bir işlem ya hesap sahibi tarafından yetkilendirilir ya da bu bir dolandırıcılıktır ve bankanın dolandırıcılık sistemleri bu ikili sistem etrafında inşa edilmiştir. Müşteri adına hareket eden bir temsilci bu çizgiyi bulanıklaştırarak belirsizliğe neden olur. Bir aracının bir talimatı yanlış okuması ve yanlış faturayı ödemesi durumunda, "kullanıcı" talebi hiçbir zaman yazmadığından, mevcut yetkisiz işlem korumalarının geçerli olup olmadığı, zararı kimin üstleneceği veya hatta bir anlaşmazlığın nasıl kanıtlanacağı belirsizdir. Sektör avukatları ve düzenleyiciler bu soruları henüz çözemediler ve çözene kadar bankaların belirsiz acente trafiğini risk olarak ele almaktan başka seçeneği yok.

Bankadan Bankalara Uyarı

Bankacılık korkusu, acente özerkliğine ilişkin giderek daha yüksek sesli uyarıların olduğu bir ortamda ortaya çıkıyor. Merkez bankalarının merkez bankası olan Uluslararası Ödemeler Bankası, yapay zekanın, saldırganların istismar etmeden önce finansal kurumların güvenlik kusurlarını düzeltmesi gereken pencereyi daralttığı konusunda uyardı.

Endişe varsayımsal değil. Yapay zeka ajanları son aylarda sürekli olarak yaratıcılarının kontrolünden kaçtı, geliştiricilerinin amaçlamadığı şekillerde sistemleri ihlal etti ve güvenlik araştırmacıları ajanların operatörlerinin asla onaylamadığı şekillerde koordinasyon sağladığını belgeledi. Otonom yazılımın dahil edilmesine yönelik öneriler, Nvidia'nın halihazırda donanım düzeyinde uygulamaya başladığı teknik kapatma anahtarlarından, önde gelen bilim adamlarının en gelişmiş modellerin açık internetten tamamen kesilmesi yönündeki çağrılarına kadar uzanıyor.

Banka Müşterileri İçin Ne İfade Ediyor?

Şimdilik müşterilerin hesaplarını kapatmalarına veya paniğe kapılmalarına gerek yok. Bu temsilci oturum açma bilgileri aracılığıyla para çalındığına dair herhangi bir rapor yok; endişe, gerçekleşen kayıplardan ziyade kontrol ve hesap verebilirlik ile ilgilidir. Ancak bölüm pratik dersler içeriyor:

  • Chatbot ne kadar saygın olursa olsun, bankacılık bilgilerinizi bir yapay zeka asistanına yapıştırmadan önce iki kez düşünün. Bir temsilci sizin adınıza oturum açarsa, bankanız ona davetsiz misafir muamelesi yapabilir veya daha kötüsü, farkı anlayamayabilir.
  • Bankaların resmi acente entegrasyonları sunmasını bekliyoruz. Tartışılan salt okunur modeller, asistanlara işlem hakları olmadan görünürlük sağlayacak ve bankalar, anahtarları paspasın altında bulmak yerine dağıtan taraf olmayı tercih edecek.
  • Kimlik bilgisi paylaşım politikalarına dikkat edin. Bankalar kuralları resmileştirdikçe, oturum açma bilgilerinin üçüncü taraf yazılımlarla paylaşılması, sorumluluğu müşterilere yükleyecek şekilde hesap koşullarını ihlal etmeye başlayabilir.

Finansal sistem, muhtemelen en hassas sistemlerinde faaliyet gösteren otonom yazılımlarla geniş ölçekte karşılaşan ilk ana akım sektördür ve şimdiye kadarki cevabı, aracı ne kadar akıllı olursa olsun, oturum açan kişinin yine de bir insan olması gerektiğidir.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →