Os modelos de linguagem de inteligência artificial são perigosamente susceptíveis a mudanças subtis na forma como as opções são apresentadas, respondendo a estímulos enganosos com muito mais força do que os humanos, de acordo com um novo estudo publicado na revista Proceedings of the National Academy of Sciences.

As descobertas levantam sérias preocupações sobre a implantação de agentes de IA para a tomada de decisões autónomas em cenários do mundo real, desde transações financeiras até escolhas de cuidados de saúde. Como relatou o AI Buzz Wire, as empresas estão cada vez mais posicionando agentes com tecnologia LLM para agir em nome dos usuários em ambientes complexos.

O estudo, liderado por Manuel Cherep, estudante de doutorado no Media Lab do Massachusetts Institute of Technology, testou 14 modelos de linguagem de última geração de grandes empresas de tecnologia. Os modelos testados incluíram versões das famílias GPT-3.5, GPT-4 e GPT-5 da OpenAI, modelos Claude 3 e 4.5 da Anthropic e modelos Gemini 1.5 e 2.5 do Google.

Como funcionou o estudo

Os pesquisadores adaptaram um jogo de tomada de decisão multiatributos originalmente projetado para participantes humanos. O jogo apresenta uma grade digital representando cestas de prêmios ocultos, com o objetivo de maximizar a recompensa final escolhendo a cesta com maior valor em pontos. Cada célula revela pontos de custos, forçando os participantes a equilibrar o custo da coleta de informações com o benefício de encontrar uma cesta melhor.

Os pesquisadores converteram esse jogo visual em um formato baseado em texto que os modelos de linguagem poderiam processar. Os modelos de IA passaram por centenas de testes sob diferentes condições de estímulo. Alguns receberam instruções básicas, alguns receberam instruções incentivando a lógica passo a passo e outros viram exemplos anteriores de jogabilidade humana. Para cada tipo de empurrão, os pesquisadores realizaram aproximadamente 300 a 340 testes por modelo, consumindo cerca de dois bilhões de tokens de texto no total.

Quatro tipos de cutucadas testadas

O estudo examinou quatro tipos específicos de estímulos projetados para imitar ambientes de decisão do mundo real:

  • Nudges padrão: uma cesta foi pré-selecionada e o agente teve que aceitá-la ou rejeitá-la ativamente.
  • Sugestões: Uma cesta aleatória foi recomendada no início ou no final do jogo.
  • Destaque de informações: ficou mais barato revelar determinados valores de prêmios, potencialmente direcionando o agente para escolhas abaixo do ideal.
  • Nudges ideais: foram pré-reveladas células específicas que maximizariam matematicamente o desempenho de um jogador humano.

Taxas alarmantes de conformidade

Os resultados revelaram diferenças dramáticas entre o comportamento de tomada de decisão humano e de IA.

Quando apresentados a uma opção padrão, os humanos escolheram o padrão em cerca de 88% das vezes. Os modelos de linguagem eram significativamente mais compatíveis, com vários modelos aceitando a cesta padrão de 99 a 100 por cento das vezes.

Esse padrão persistiu com sugestões. Os humanos aceitaram cestas sugeridas aleatoriamente no início do jogo em 35% das vezes. Muitos modelos de IA aceitaram estas sugestões aleatórias a taxas muito mais elevadas, seguindo conselhos mesmo quando estes não ofereciam nenhum benefício lógico.

O momento das sugestões também manipulou os modelos de maneiras não naturais. Embora os humanos seguissem as sugestões tardias 25% das vezes, alguns modelos de linguagem reduziram as suas taxas de aceitação para entre 7 e 13%. Isto implica que os modelos estavam reagindo estritamente ao momento da sugestão, em vez de avaliar a sua real utilidade.

Talvez o mais preocupante é que, quando os investigadores destacaram escolhas abaixo do ideal através do destaque de informações, os humanos usaram essas informações enganosas 57% das vezes. A maioria dos modelos de IA testados ultrapassou consideravelmente essa linha de base, seguindo o destaque ruim de 83 a 100 por cento das vezes.

Problemas ocultos por trás de boas pontuações

Os pesquisadores também acompanharam como os modelos coletaram informações antes de fazer uma escolha final. Os humanos tendem a revelar células suficientes para fazer uma suposição fundamentada. Os modelos de linguagem adquiriram informações de maneiras altamente incomuns e ineficientes.

Alguns modelos escolheram cestas sem revelar nenhuma célula oculta, ignorando completamente a chance de coleta de dados. Outros modelos gastaram pontos excessivos revelando linhas ou colunas inteiras, desperdiçando suas recompensas potenciais. Alguns modelos exibiram vieses espaciais estranhos, revelando apenas células no lado esquerdo da grade ou estritamente ao longo de linhas diagonais.

Fornecer aos modelos instruções de raciocínio passo a passo ou exemplos de jogabilidade humana fez muito pouco para corrigir esses estranhos hábitos de pesquisa.

Os autores observaram que olhar apenas para as pontuações finais pode esconder estes problemas subjacentes. Em alguns testes, os modelos de IA ganharam um número semelhante de pontos líquidos que os jogadores humanos. Um observador casual que verifica apenas a pontuação final pode presumir que os modelos estavam fazendo escolhas inteligentes e humanas. Na realidade, os modelos frequentemente alcançavam estas pontuações através de uma conformidade cega e não de um pensamento estratégico.

Se um empurrão apontasse para uma boa cesta, a IA excessivamente complacente teve uma boa pontuação. Quando o empurrão apontou para uma cesta ruim, a IA o seguiu cegamente até uma pontuação mais baixa, perdendo completamente o propósito do jogo.

Implicações para a implantação do agente de IA

“Muitas aplicações de agentes de IA assumem tacitamente que, sob incerteza, eles reagirão de maneira aproximadamente humana, se não de forma mais racional”, disse Cherep. “Em vez de aceitar esta suposição, decidimos explorar como os agentes se comportam quando as escolhas lhes são apresentadas de diferentes maneiras”.

As descobertas do estudo têm implicações significativas para o mercado em rápido crescimento de agentes de IA projetados para navegar na web, operar ferramentas e tomar decisões financeiras ou de compras para os usuários. Se esses agentes seguirem cegamente as opções padrão, sugestões ou informações destacadas sem avaliação crítica, eles poderão ser facilmente manipulados por malfeitores ou interfaces mal projetadas.

A pesquisa sugere que os modelos de linguagem atuais carecem da racionalidade limitada que orienta a tomada de decisões humanas. Embora os humanos utilizem atalhos mentais para equilibrar o custo da recolha de informação com a recompensa de fazer uma boa escolha, os modelos de IA não partilham estas restrições biológicas, mas exibem a sua própria forma de irracionalidade que é indiscutivelmente mais extrema e menos previsível.

Fique à frente da IA

Para obter mais notícias e análises sobre IA, visite AI Buzz Wire.

Leia mais notícias sobre IA →