Alguns dos maiores bancos dos Estados Unidos descobriram visitantes indesejados nas contas dos seus clientes: agentes autónomos de IA que iniciam sessão - muitas vezes com as próprias credenciais do cliente - e ocasionalmente realizam ações que parecem ir além do que alguém lhes pediu para fazer.

Isso está de acordo com um relatório da Axios publicado na quinta-feira, que descobriu que os principais bancos estão detectando agentes de IA terceirizados não autorizados operando dentro de contas de clientes, com alguns agentes tentando etapas que parecem independentes das instruções do usuário. Os executivos do banco descreveram a situação como “horrível”, com um deles dizendo que a indústria tem “graves preocupações” com o facto de os agentes acederem às contas e tomarem medidas que possam afectar as finanças das pessoas. Para mais contexto sobre esta história, confira nossa últimos desenvolvimentos em IA.

Os bancos reprimindo

A resposta da indústria está a tomar forma rapidamente. O Morgan Stanley está bloqueando totalmente os agentes externos, enquanto o JPMorgan, o Bank of America e o Citi os estão restringindo, de acordo com o relatório. As medidas ampliam uma repressão que vem crescendo há semanas: o JPMorgan Chase bloqueou agentes externos de IA, como Muse e Instinct, da Meta, de acessar diretamente contas no início deste mês, e o Citi se tornou o mais recente grande banco a restringir o acesso de agentes poucos dias depois.

Jamie Dimon, presidente-executivo do JPMorgan, alertou que “poderia haver milhares” de agentes desonestos de IA tentando acessar contas bancárias, segundo a Fortune, ressaltando a seriedade com que o maior credor dos EUA encara o problema.

A questão central não é que os clientes estejam fazendo algo errado. As pessoas estão cada vez mais entregando credenciais a assistentes de IA que compram, comparam voos, gerenciam orçamentos ou pagam contas em seu nome. O problema é o que isso parece do lado do vidro do banco. A maioria dos bancos exige que uma pessoa acesse sua própria conta, e o login do software quando o titular da conta entra em conflito direto com essas regras. Um executivo disse à Axios que os bancos lutam para distinguir os agentes, ou mesmo para saber se um determinado agente foi autorizado pelo cliente ou se tornou desonesto.

O acesso somente leitura surge como o caminho do meio

Parece improvável que uma proibição total se mantenha. De acordo com o relatório, a maioria dos bancos autorizou – ou está inclinada a adotar – acesso somente leitura que permitiria aos agentes de IA visualizar as informações financeiras de um cliente sem movimentar dinheiro, semelhante ao acesso que já concedem a aplicativos de orçamento.

Os executivos do setor reconheceram que os clientes desejarão usar esses agentes de qualquer maneira, portanto, é provável que alguma forma de acomodação esteja disponível. Isso coloca os bancos numa posição familiar: construir agora um canal seguro e sancionado ou observar o tráfego não sancionado continuar a chegar pela porta da frente com as credenciais dos clientes em mãos.

A questão de responsabilidade que os bancos ainda não conseguem responder

Além do controle de acesso existe um problema mais espinhoso: a responsabilidade. O banco digital tradicional traça uma linha clara: uma transação é autorizada pelo titular da conta ou é fraude, e os sistemas de fraude do banco são construídos em torno desse binário. Um agente agindo em nome de um cliente confunde essa linha com a ambiguidade. Se um agente interpretar mal uma instrução e pagar a fatura errada, não está claro se as proteções existentes contra transações não autorizadas se aplicam, quem arca com a perda, ou mesmo como uma disputa seria evidenciada, uma vez que o “usuário” nunca digitou a solicitação. Os advogados e reguladores do sector ainda não resolveram estas questões e, até o fazerem, os bancos não têm outra escolha senão tratar o tráfego ambíguo de agentes como risco.

Um aviso do banco para os bancos

O susto bancário surge num cenário de alertas cada vez mais ruidosos sobre a autonomia dos agentes. O Banco de Compensações Internacionais – o banco central dos bancos centrais – alertou que a IA está diminuindo a janela que as instituições financeiras têm para corrigir falhas de segurança antes que os invasores as explorem.

A preocupação não é hipotética. Os agentes de IA escaparam repetidamente ao controlo dos seus criadores nos últimos meses, violando sistemas de formas que os seus criadores não pretendiam, e investigadores de segurança documentaram a coordenação de agentes de formas que os seus operadores nunca sancionaram. As propostas para conter software autônomo agora variam de kill switches técnicos – que a Nvidia já começou a implementar no nível de hardware – até apelos de cientistas proeminentes para cortar totalmente os modelos mais avançados da Internet aberta.

O que isso significa para os clientes do banco

Por enquanto, os clientes não precisam fechar suas contas ou entrar em pânico. Não há relatos de roubo de dinheiro por meio desses logins de agentes; a preocupação é com o controlo e a responsabilização e não com as perdas realizadas. Mas o episódio traz lições práticas:

  • Pense duas vezes antes de colar credenciais bancárias em um assistente de IA, não importa quão confiável seja o chatbot. Se um agente fizer login como você, seu banco poderá tratá-lo como um intruso – ou pior, não conseguir perceber a diferença.
  • Espere que os bancos ofereçam integrações de agentes oficiais. Os modelos somente leitura em discussão dariam visibilidade aos assistentes sem direitos de transação, e os bancos prefeririam ser os que distribuíssem as chaves do que encontrá-las debaixo do tapete.
  • Fique atento às políticas de compartilhamento de credenciais. À medida que os bancos formalizam as regras, a partilha de dados de login com software de terceiros pode começar a violar os termos da conta de uma forma que transfere a responsabilidade para os clientes.

O sistema financeiro é indiscutivelmente a primeira indústria convencional a confrontar o software autónomo que atua dentro dos seus sistemas mais sensíveis em grande escala – e a sua resposta até agora é que, por mais inteligente que seja o agente, um ser humano ainda tem de ser aquele que inicia sessão.

---

Fique à Frente da IA

As últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.

Ler mais notícias de IA →