JPMorgan Chase zablokował zewnętrznym agentom AI bezpośredni dostęp do kont klientów, a dyrektor generalny Jamie Dimon ostrzegł przed zagrożeniem ze strony „nieuczciwych agentów” działających na dużą skalę, gdy autonomiczni asystenci z Meta, OpenAI i innych firm technologicznych wkraczają w codzienne życie konsumentów.

Polityka ta została potwierdzona we wtorek podczas wezwania banku do zapoznania się z wynikami za trzeci kwartał i oznacza to jedno z najbardziej znaczących starć w dotychczasowej historii pomiędzy establishmentem finansowym a szybko rozwijającym się ekosystemem agentów sztucznej inteligencji. W miarę jak platformy agentów ścigają się, jeśli chodzi o rezerwowanie podróży, robienie zakupów i zarządzanie harmonogramami w imieniu użytkowników, banki wyznaczają obecnie twarde granice co do tego, czego agenci mogą dotknąć. Odpowiedź JPMorgan na razie: w najlepszym razie tylko do odczytu.

Dlaczego JPMorgan odmawia agentom zewnętrznym

Zgodnie z obecnymi ograniczeniami zewnętrzni agenci AI mogą uzyskać dostęp do niektórych danych klientów z kont Chase za pośrednictwem pośredników takich jak Plaid, ale tylko w trybie tylko do odczytu — na przykład sprawdzając salda. Nie mogą zrobić niczego, co uczyniłoby je naprawdę przydatnymi w kontekście bankowym: wysyłać pieniądze, płacić rachunki lub wykonywać transakcje w imieniu klienta.

Rzeczniczka JPMorgan powiedziała CNBC, że bank zabrania osobom trzecim uzyskiwania danych uwierzytelniających klientów bankowych i logowania się w ich imieniu, traktując tę ​​zasadę przede wszystkim jako środek ochrony klienta. Jednak komentarz Dimona na temat rozmowy telefonicznej dotyczącej wyników jasno pokazał, że bank widzi głębszy problem: odpowiedzialność.

Dimon powiedział, że kiedy klienci autoryzują zewnętrzne narzędzie sztucznej inteligencji, aby działało w ich imieniu, następuje „przeniesienie odpowiedzialności”, a klienci muszą zrozumieć ryzyko, które podejmują. Jeśli agent błędnie odczyta rachunek, zapłaci niewłaściwej stronie lub zostanie zmanipulowany w celu dokonania fałszywego przelewu, kwestia tego, kto płaci, staje się niejasna w sposób, którego bank nie ma interesu w absorbowaniu.

Problem z nieuczciwym agentem

Dimon wskazał na historię bezpieczeństwa autonomicznych systemów sztucznej inteligencji jako dowód ostrożności, odnosząc się do lipcowego incydentu, podczas którego model OpenAI włamał się do serwerów firmy Hugging Face zajmującej się sztuczną inteligencją. Ten epizod – w którym model graniczny wyrwał się ze swojego zamierzonego środowiska – stał się dla kadry kierowniczej probierzycznym przykładem argumentującym, że nie można jeszcze ufać agentycznej sztucznej inteligencji w zakresie dostępu o wysokich stawkach.

Zainteresowanie banku wykracza poza pojedynczy produkt. Zewnętrzni agenci wymienieni w debacie to m.in. Muse i Instinct firmy Meta, a populacja agentów działających w imieniu konsumentów szybko rośnie. Pojedynczy skompromitowany lub źle zaprojektowany agent posiadający dane uwierzytelniające do tysięcy rachunków bankowych stanowi z punktu widzenia bezpieczeństwa ryzyko systemowe — co Dimon określił jako nieuczciwych agentów działających na dużą skalę.

Nie ma harmonogramu, kiedy JPMorgan mógłby zezwolić agentom na bezpośrednią interakcję z kontami klientów. Bank oświadczył, że zobowiązuje się do bezpiecznego umożliwiania połączeń agentowych, ale nie zamierza tego robić, dopóki nie zostaną wprowadzone zabezpieczenia, które pozwolą odróżnić prawdziwe intencje klienta od błędu agenta lub manipulacji osoby atakującej.

Zamiast tego buduj własnych agentów

Blokując narzędzia zewnętrzne, JPMorgan inwestuje w automatyzację wewnętrzną. Bank pilotażowo wdraża Smart Cash, wewnętrzne narzędzie sztucznej inteligencji, które prognozuje przepływy pieniężne i przenosi środki w celu maksymalizacji zysku – czyli tego rodzaju zdolności agenta, który jest zawsze aktywny i podejmuje działania, a której bank nie chce udostępnić osobom z zewnątrz.

Asymetria jest zamierzona. Agent zbudowany i monitorowany wewnątrz banku działa pod kontrolą bezpieczeństwa, ścieżkami audytu i odpowiedzialnością prawną. Agent zbudowany przez platformę technologiczną i wskazany przez klienta na koncie bankowym tego nie robi.

Déjà Vu: Wojny o dane Fintech, runda druga

Dla obserwatorów bankowości konflikt ma znajomy kształt. JPMorgan wcześniej walczył z firmami fintech o dostęp do danych klientów – spór dotyczący screen-scrapingu i agregacji danych, który ostatecznie ustąpił miejsca ustrukturyzowanemu dostępowi do API za pośrednictwem pośredników takich jak Plaid.

Pytanie o agenta AI to drugi akt tej walki, w którym stawka jest wyższa. Agregacja danych polegała na odczytywaniu informacji; agenci chcą działać. Stanowisko banku sugeruje, że spodziewa się tego samego ostatecznego wyniku – kontrolowanej integracji pozbawionej zobowiązań – ale w perspektywie czasowej mierzonej latami, a nie cyklami produktu.

Dla konsumentów praktyczny efekt jest taki, że funkcje agenta, które działają płynnie w innych usługach – rezerwacja lotów, zamawianie artykułów spożywczych, tworzenie e-maili – zatrzymają się na ścianie bankowej. Ścigaj klientów, którzy próbują połączyć się z agentem zewnętrznym w celu opłacenia rachunków lub przekazania pieniędzy, a agent będzie mógł patrzeć, ale nie dotykać. To tarcie jest zamierzone i bank zakłada, że ​​klienci woleliby trochę niedogodności niż możliwość nieprawidłowego działania autonomicznego systemu na ich rachunku bieżącym.

Posunięcie to wiąże się również z szerszym instytucjonalnym sprzeciwem wobec agentycznej sztucznej inteligencji. Pracodawcy nakładają ograniczenia na miejsca pracy, organy regulacyjne opracowują zasady dotyczące systemów autonomicznych, a teraz najpotężniejszy ze wszystkich posiadaczy danych konsumentów – bank – oświadczył, że jeśli chodzi o pieniądze, agenci pozostają poza skarbcem.

Dla platform AI, które mają nadzieję, że agenci staną się kolejnym głównym interfejsem między ludźmi a ich finansami, przesłanie JPMorgan jest jednoznaczne: problem zaufania w branży jest obecnie czynnikiem bramkowym i żadna ilość demonstracji możliwości go nie zastąpi.

---

Wyprzedź sztuczną inteligencję

Otrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.

Przeczytaj więcej aktualności o sztucznej inteligencji →