JPMorgan Chase ha bloccato gli agenti AI esterni dall'accesso diretto agli account dei clienti, con il CEO Jamie Dimon che avverte della minaccia di "agenti canaglia" che operano su larga scala mentre gli assistenti autonomi di Meta, OpenAI e altre aziende tecnologiche si insinuano nella vita quotidiana dei consumatori.
La politica è stata confermata martedì durante la presentazione degli utili del terzo trimestre della banca e segna uno degli scontri più consequenziali mai visti tra l'establishment finanziario e l'ecosistema in rapida evoluzione degli agenti di intelligenza artificiale. Mentre le piattaforme di agenti fanno a gara per prenotare viaggi, fare acquisti e gestire gli orari per conto degli utenti, le banche stanno ora tracciando linee rigide su ciò che questi agenti possono toccare. La risposta di JPMorgan, per ora: di sola lettura, nella migliore delle ipotesi.
Perché JPMorgan dice no agli agenti esterni
Con le restrizioni attuali, gli agenti IA esterni possono raggiungere alcuni dati dei clienti dagli account Chase attraverso intermediari come Plaid, ma solo in modalità di sola lettura, ad esempio controllando i saldi. Ciò che non possono fare è tutto ciò che li renderebbe veramente utili in un contesto bancario: inviare denaro, pagare fatture o eseguire transazioni per conto di un cliente.
Un portavoce di JPMorgan ha detto alla CNBC che la banca vieta a terzi di ottenere le credenziali bancarie dei clienti e di accedere per loro conto, inquadrando la regola innanzitutto come una misura di protezione del cliente. Ma il commento di Dimon sulla richiesta degli utili ha chiarito che la banca vede un problema più profondo: la responsabilità.
Quando i clienti autorizzano uno strumento di intelligenza artificiale esterno ad agire per loro, ha affermato Dimon, si verifica un “trasferimento di responsabilità” e i clienti devono comprendere i rischi che stanno accettando. Se un agente interpreta male una fattura, paga alla parte sbagliata o viene manipolato per effettuare un trasferimento fraudolento, la questione su chi paga diventa complicata in un modo che la banca non ha alcun interesse ad assorbire.
Il problema degli agenti canaglia
Dimon ha indicato la sicurezza dei sistemi di intelligenza artificiale autonomi come prova di cautela, facendo riferimento a un incidente di luglio in cui un modello OpenAI ha violato i server della società di intelligenza artificiale Hugging Face. Quell’episodio – in cui un modello di frontiera è uscito dall’ambiente previsto – è diventato un esempio fondamentale per i dirigenti che sostengono che non ci si può ancora fidare dell’intelligenza artificiale degli agenti con un accesso ad alto rischio.
L'interesse della banca va oltre il singolo prodotto. Gli agenti esterni citati nel dibattito includono Meta's Muse e Instinct, e la popolazione di agenti che agiscono per conto dei consumatori sta crescendo rapidamente. Un singolo agente compromesso o mal progettato con credenziali per migliaia di conti bancari è, dal punto di vista della sicurezza, un rischio sistemico – ciò che Dimon ha descritto come agenti canaglia che operano su larga scala.
Non esiste una tempistica per quando JPMorgan potrebbe consentire agli agenti di interagire direttamente con gli account dei clienti. La banca ha affermato che si impegna a consentire connessioni sicure tra agenti, ma non si muoverà prima che esistano garanzie in grado di distinguere l'intento genuino di un cliente dall'errore di un agente o dalla manipolazione di un utente malintenzionato.
Costruire invece i propri agenti
Pur escludendo gli strumenti esterni, JPMorgan sta investendo nell’automazione interna. La banca sta sperimentando Smart Cash, uno strumento interno di intelligenza artificiale che prevede il flusso di cassa e sposta i fondi per massimizzare il rendimento: il tipo di capacità dell’agente sempre attivo e attivo che la banca rifiuta di concedere agli esterni.
L'asimmetria è intenzionale. Un agente creato e monitorato all'interno della banca opera sotto i suoi controlli di sicurezza, audit trail e responsabilità legale. Un agente creato da una piattaforma tecnologica e indirizzato a un conto bancario da un cliente non lo fa.
Déjà Vu: la guerra dei dati fintech, secondo round
Per gli osservatori bancari, la situazione di stallo ha una forma familiare. JPMorgan in precedenza aveva combattuto le aziende fintech per l’accesso ai dati dei clienti, una disputa sullo screen-scraping e sull’aggregazione dei dati che alla fine ha lasciato il posto all’accesso strutturato alle API attraverso intermediari come Plaid.
La questione dell'agente IA è il secondo atto di quel combattimento, con una posta in gioco più alta. L'aggregazione dei dati riguardava la lettura delle informazioni; gli agenti vogliono agire. La posizione della banca suggerisce che si aspetta lo stesso risultato finale – un’integrazione controllata ed esente da responsabilità – ma su una linea temporale misurata in anni, non in cicli di prodotto.
Per i consumatori, l’effetto pratico è che le funzionalità degli agenti che funzionano senza problemi su altri servizi – prenotazione di voli, ordinazione di generi alimentari, redazione di e-mail – si fermeranno al muro bancario. I clienti che cercano di contattare un agente esterno per pagare le bollette o trasferire denaro scopriranno che l'agente può guardare, ma non toccare. Questo attrito è intenzionale e la banca scommette che i clienti preferiranno un piccolo inconveniente alla possibilità che un sistema autonomo fallisca sul loro conto corrente.
La mossa si inserisce anche nel contesto di una più ampia reazione istituzionale contro l’intelligenza artificiale degli agenti. I datori di lavoro stanno limitando gli agenti sul posto di lavoro, i regolatori stanno elaborando regole per i sistemi autonomi e ora il più potente detentore dei dati sui consumatori di tutti – la banca – ha dichiarato che quando si tratta di denaro, gli agenti rimangono fuori dal caveau.
Per le piattaforme di intelligenza artificiale che sperano che gli agenti diventino la prossima interfaccia primaria tra le persone e le loro finanze, il messaggio di JPMorgan è inequivocabile: il problema della fiducia del settore è ora il fattore determinante e nessuna quantità di dimostrazioni di capacità potrà sostituirlo.
---
Stai al passo con l'intelligenza artificialeRicevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.
Leggi altre notizie sull'AI →
