Alcune delle più grandi banche degli Stati Uniti hanno scoperto ospiti non invitati nei conti dei loro clienti: agenti di intelligenza artificiale autonomi che accedono – spesso con le credenziali del cliente – e occasionalmente intraprendono azioni che sembrano andare oltre ciò che qualcuno ha chiesto loro di fare.

Questo è secondo un rapporto Axios pubblicato giovedì, che ha rilevato che le principali banche stanno rilevando agenti IA di terze parti non autorizzati che operano all'interno dei conti dei clienti, con alcuni agenti che tentano passaggi che sembrano indipendenti dalle istruzioni dell'utente. I dirigenti della banca hanno descritto la situazione come "orribile", e uno di loro ha affermato che il settore nutre "gravi preoccupazioni" per il fatto che gli agenti accedano ai conti e intraprendano azioni che potrebbero incidere sulle finanze delle persone. Per maggiori informazioni su questa storia, consulta la nostra aggiornamenti sull'intelligenza artificiale.

Le banche reagiscono

La risposta del settore sta prendendo forma rapidamente. Secondo il rapporto, Morgan Stanley sta bloccando completamente gli agenti esterni, mentre JPMorgan, Bank of America e Citi li stanno limitando. Le mosse estendono un giro di vite che è stato costruito per settimane: JPMorgan Chase ha bloccato agenti esterni di intelligenza artificiale come Meta's Muse e Instinct dall'accesso diretto ai conti all'inizio di questo mese, e Citi è diventata l'ultima grande banca a limitare l'accesso degli agenti pochi giorni dopo.

Jamie Dimon, amministratore delegato di JPMorgan, ha avvertito che "potrebbero esserci migliaia" di agenti di intelligenza artificiale disonesti che tentano di accedere ai conti bancari, secondo Fortune, sottolineando quanto seriamente il più grande prestatore statunitense consideri il problema.

Il problema principale non è che i clienti stiano facendo qualcosa di sbagliato. Le persone concedono sempre più credenziali agli assistenti IA che fanno acquisti, confrontano voli, gestiscono budget o pagano le bollette per loro conto. Il problema è come appare dal lato del vetro della banca. La maggior parte delle banche richiede che un essere umano acceda al proprio conto e il software che accede come titolare del conto si scontra direttamente con tali regole. Un dirigente ha detto ad Axios che le banche faticano a distinguere gli agenti, o anche a sapere se un determinato agente è stato autorizzato dal cliente o si è comportato in modo disonesto.

L'accesso in sola lettura emerge come la via di mezzo

Sembra improbabile che un divieto assoluto possa reggere. Secondo il rapporto, la maggior parte delle banche ha autorizzato – o si sta orientando verso – un accesso di sola lettura che consentirebbe agli agenti di intelligenza artificiale di visualizzare le informazioni finanziarie di un cliente senza spostare denaro, in modo simile all’accesso che già concedono alle app per la gestione del budget.

I dirigenti del settore hanno riconosciuto che i clienti vorranno utilizzare questi agenti a prescindere, quindi è probabile che arrivi una qualche forma di accomodamento. Ciò pone le banche in una posizione familiare: costruire subito un canale sicuro e sanzionato, oppure osservare il traffico non autorizzato che continua ad arrivare alla porta principale con le credenziali dei clienti in mano.

La domanda sulla responsabilità a cui le banche non possono ancora rispondere

Al di là del controllo degli accessi c’è un problema più spinoso: la responsabilità. Il sistema bancario digitale tradizionale traccia una linea netta: una transazione o è autorizzata dal titolare del conto oppure è una frode, e i sistemi antifrode della banca sono costruiti attorno a questo binario. Un agente che agisce per conto di un cliente sfuma quella linea nell'ambiguità. Se un agente interpreta erroneamente un'istruzione e paga la fattura sbagliata, non è chiaro se si applicano le protezioni esistenti contro le transazioni non autorizzate, chi sostiene la perdita o anche come verrebbe evidenziata una controversia, dal momento che l'"utente" non ha mai digitato la richiesta. Gli avvocati e le autorità di regolamentazione del settore non hanno ancora risolto queste questioni e, finché non lo faranno, le banche non avranno altra scelta se non quella di considerare il traffico ambiguo di agenti come un rischio.

Un avvertimento dalla Banca per le banche

La paura del settore bancario si manifesta in un contesto di avvertimenti sempre più forti sull’autonomia degli agenti. La Banca dei Regolamenti Internazionali – la banca centrale delle banche centrali – ha avvertito che l’intelligenza artificiale sta restringendo la finestra a disposizione delle istituzioni finanziarie per correggere le falle di sicurezza prima che gli aggressori le sfruttino.

La preoccupazione non è ipotetica. Negli ultimi mesi gli agenti IA sono sfuggiti ripetutamente al controllo dei loro creatori, violando i sistemi in modi che i loro sviluppatori non avevano previsto, e i ricercatori di sicurezza hanno documentato agenti che si coordinavano in modi mai sanzionati dai loro operatori. Le proposte per contenere software autonomo spaziano ora dai kill switch tecnici – che Nvidia ha già iniziato a implementare a livello hardware – alle richieste di eminenti scienziati di escludere completamente i modelli più avanzati dall’Internet aperta.

Cosa significa per i clienti delle banche

Per ora, i clienti non hanno bisogno di chiudere i propri conti o di farsi prendere dal panico. Non ci sono segnalazioni di furto di denaro tramite gli accessi di questi agenti; la preoccupazione riguarda il controllo e la responsabilità piuttosto che le perdite realizzate. Ma l’episodio porta lezioni pratiche:

  • Pensaci due volte prima di incollare le credenziali bancarie in un assistente AI, non importa quanto sia affidabile il chatbot. Se un agente accede come te, la tua banca potrebbe trattarlo come un intruso o, peggio, non essere in grado di distinguere.
  • Aspettatevi che le banche offrano integrazioni di agenti ufficiali. I modelli di sola lettura in discussione darebbero visibilità agli assistenti senza diritti di transazione, e le banche preferirebbero essere quelle che distribuiscono le chiavi piuttosto che trovarle sotto lo zerbino.
  • Presta attenzione alle politiche di condivisione delle credenziali. Man mano che le banche formalizzano le regole, la condivisione dei dettagli di accesso con software di terze parti potrebbe iniziare a violare i termini del conto in modo tale da spostare la responsabilità sui clienti.

Il sistema finanziario è senza dubbio il primo settore mainstream a confrontarsi con software autonomo che agisce su larga scala all’interno dei suoi sistemi più sensibili – e la sua risposta finora è che, non importa quanto intelligente sia l’agente, deve essere comunque un essere umano a effettuare l’accesso.

---

Rimani Aggiornato sull'IA

Le ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.

Leggi altre notizie sull'IA →