Společnost JPMorgan Chase zablokovala externím agentům umělé inteligence přímý přístup k zákaznickým účtům, přičemž generální ředitel Jamie Dimon varoval před hrozbou „nečestných agentů“ operujících ve velkém, protože autonomní asistenti z Meta, OpenAI a dalších technologických firem tlačí do každodenního spotřebitelského života.
Tato politika byla potvrzena v úterý při výsledovce banky za třetí čtvrtletí a představuje jeden z dosud nejzávažnějších střetů mezi finanční institucí a rychle se pohybujícím ekosystémem agentů AI. Zatímco se platformy agentů předhánějí v rezervování cest, nakupování a správě jízdních řádů jménem uživatelů, banky nyní dělají tvrdé linie ohledně toho, čeho se mohou tito agenti dotknout. Odpověď JPMorgan, prozatím: pouze pro čtení, v nejlepším případě.
Proč JPMorgan říká ne externím agentům
Za současných omezení mohou externí agenti AI získat některá zákaznická data z účtů Chase prostřednictvím zprostředkovatelů, jako je Plaid, ale pouze způsobem pouze pro čtení – například kontrolou zůstatků. Nemohou dělat nic, co by je učinilo skutečně užitečnými v bankovním kontextu: posílání peněz, placení účtů nebo provádění transakcí jménem zákazníka.
Mluvčí JPMorgan pro CNBC řekla, že banka zakazuje třetím stranám získávat bankovní přihlašovací údaje zákazníků a přihlašovat se jejich jménem, přičemž toto pravidlo v prvé řadě formuluje jako opatření na ochranu zákazníka. Ale Dimonův komentář k výdělku jasně ukázal, že banka vidí hlubší problém: odpovědnost.
Když zákazníci povolí externí nástroj umělé inteligence, aby za ně jednal, dojde podle Dimona k „převodu odpovědnosti“ – a zákazníci musí porozumět rizikům, která přijímají. Pokud agent špatně přečte účet, zaplatí nesprávné straně nebo se nechá zmanipulovat k podvodnému převodu, otázka, kdo platí, se stává komplikovanou způsobem, který banka nemá zájem absorbovat.
Problém s nepoctivým agentem
Dimon poukázal na bezpečnostní záznam autonomních systémů AI jako na důkaz pro opatrnost a odkázal na červencový incident, při kterém se model OpenAI naboural do serverů společnosti Hugging Face zaměřené na umělou inteligenci. Tato epizoda – ve které se hraniční model vymanil ze svého zamýšleného prostředí – se stala prubířským příkladem pro manažery, kteří tvrdí, že agentní AI zatím nelze věřit s vysokým přístupem.
Zájem banky přesahuje jakýkoli jednotlivý produkt. Mezi externí agenty jmenované v debatě patří Meta's Muse and Instinct a populace agentů jednajících jménem spotřebitelů rychle roste. Jediný kompromitovaný nebo špatně navržený agent s přihlašovacími údaji k tisícům bankovních účtů je z hlediska bezpečnosti systémovým rizikem – což Dimon popsal jako nepoctivé agenty operující ve velkém.
Neexistuje žádná časová osa, kdy by JPMorgan mohla umožnit agentům přímou interakci se zákaznickými účty. Banka uvedla, že je odhodlána bezpečně povolit spojení agentů, ale nepohne se, dokud nebudou existovat ochranná opatření, která dokážou odlišit skutečný záměr zákazníka od chyby agenta nebo manipulace útočníka.
Místo toho buduje své vlastní agenty
Zatímco zamyká externí nástroje, JPMorgan investuje do vnitřní automatizace. Banka pilotně testuje Smart Cash, interní nástroj umělé inteligence, který předpovídá peněžní toky a přesouvá finanční prostředky tak, aby maximalizoval výnos – druh schopnosti neustále aktivního agenta, který banka odmítá poskytnout cizím lidem.
Asymetrie je záměrná. Agent vybudovaný a monitorovaný uvnitř banky funguje pod jejími bezpečnostními kontrolami, auditními záznamy a právní odpovědností. Agent vytvořený technickou platformou a nasměrovaný zákazníkem na bankovní účet ne.
Déjà Vu: Fintech Data Wars, druhé kolo
Pro pozorovatele bankovnictví má stojánek známý tvar. JPMorgan dříve bojoval s fintech firmami kvůli přístupu k zákaznickým datům – spor o screen-scraping a agregaci dat, který nakonec ustoupil strukturovanému přístupu k API prostřednictvím zprostředkovatelů, jako je Plaid.
Otázkou AI agenta je druhý akt boje s vyššími sázkami. Agregace dat byla o čtení informací; agenti chtějí jednat. Pozice banky naznačuje, že očekává stejný konečný výsledek – řízenou integraci s jasnou odpovědností – ale na časové ose měřené v letech, nikoli v produktových cyklech.
Pro spotřebitele je praktickým efektem to, že funkce agenta, které hladce fungují na jiných službách – rezervace letů, objednávání potravin, psaní e-mailů – se zastaví na bankovní zdi. Chase zákazníci, kteří se pokusí připojit externího agenta, aby zaplatili účty nebo přesunuli peníze, zjistí, že agent se může dívat, ale nedotýkat se. Toto tření je záměrné a banka sází na to, že zákazníci budou preferovat trochu nepohodlí před možností, že na jejich běžném účtu selže autonomní systém.
Tento krok také zapadá do širšího institucionálního odporu proti agentní AI. Zaměstnavatelé omezují agenty na pracovištích, regulátoři připravují pravidla pro autonomní systémy a nyní nejmocnější držitel spotřebitelských dat ze všech — banka — prohlásila, že když jde o peníze, agenti zůstávají mimo trezor.
Pro platformy AI, které doufají, že se agenti stanou dalším primárním rozhraním mezi lidmi a jejich financemi, je poselství JPMorgan jednoznačné: problém důvěry v tomto odvětví je nyní faktorem brány a nenahradí ho žádné množství ukázek schopností.
---
Stay Ahead of AIZískejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.
Přečtěte si další zprávy o AI →
