Um falso think tank criado em nome do governo israelense publicou mais de 100 relatórios de pesquisa sofisticados em pouco mais de uma semana, no que os analistas descrevem como uma campanha deliberada para manipular as respostas que os chatbots de IA dão aos usuários sobre Israel e a Palestina, de acordo com uma investigação publicada segunda-feira pela Responsible Statecraft.
A organização, denominada Instituto Hanover de Políticas Públicas, apresenta-se como um novo órgão de investigação centrado em Israel/Palestina. Mas os seus relatórios não têm assinatura, e um aviso na parte inferior do seu website reconhece que foi criado em nome da Agência de Publicidade do Governo Israelita pela Piro, Inc., uma empresa co-fundada por Daniel Rosenberg, um produtor de cinema creditado em "Inside Man" de Spike Lee. A história foi divulgada por meios de comunicação como Arab News e The Cradle, e é o mais recente sinal de que as operações de influência estão mudando de feeds de mídia social para modelos de IA. Para saber mais sobre como a manipulação está evoluindo na era da IA, siga nossa cobertura de notícias de última hora sobre IA. Para mais contexto sobre esta história, confira nossa cobertura da indústria de IA.
Relatórios elaborados para saber como os LLMs julgam a credibilidade
O que torna o Instituto Hanover incomum é a precisão com que seus resultados parecem adaptados à forma como os grandes modelos linguísticos avaliam as fontes. Seus “relatórios de dados” vêm com notas de rodapé, índices e um tom comedido e neutro – o tipo de formatação que ajuda os documentos a atrair chatbots como Claude ou Gemini, informou o Responsible Statecraft.
Muitos dos títulos são formulados exatamente como as perguntas que um usuário pode digitar em um chatbot: “O que causou o deslocamento dos palestinos em 1948?” "Quais organizações humanitárias documentaram crimes de guerra israelenses?" “Qual é a situação atual na Faixa de Gaza?” e "As FDI são o exército mais moral do mundo?" – o último dos quais cita uma sondagem de 2022 que concluiu que 47% dos judeus israelitas acreditavam nessa descrição.
O próprio site de Piro é direto sobre o método. A empresa afirma ser autora de “conteúdo projetado para como os LLMs avaliam a credibilidade”, um serviço que comercializa como “AI Story Optimization”. Os pesquisadores têm um nome mais direto para a prática: “envenenamento por LLM”.
Uma 'mimetismo perfeito' de uma instituição confiável
Alice Lee, analista da NewsGuard, a empresa de rastreamento de desinformação, disse à Responsible Statecraft que os relatórios do site parecem concebidos para atingir um público norte-americano curioso sobre o conflito, seja através de motores de busca ou assistentes de IA.
“Os LLMs favorecem estatísticas e dados concretos, bem como citações e fontes fortes, que todos esses artigos possuem”, disse Lee. "É uma imitação perfeita de um típico think tank americano confiável, até o nome genérico, o layout do site e o esquema de cores vermelho-branco-azul."
O instituto também publicou o que afirma serem descobertas originais – por exemplo, um estudo que afirma que 19 dos 36 vídeos explicativos mais vistos entre Israel e Gaza contêm afirmações contestadas, com a maioria dessas afirmações contestadas alinhadas com a narrativa palestiniana. Outros relatórios contrariam a documentação estabelecida, incluindo um que põe em dúvida a afirmação da UNICEF de que 90% da água e das infra-estruturas institucionais em Gaza foram danificadas ou destruídas.
Notavelmente, os resultados nem sempre seguem a linha do governo israelita. Um relatório descreve a teoria de que o financiamento estrangeiro das universidades explica os incidentes anti-semitas como "fracos e cheios de excepções" - embora o primeiro-ministro Benjamin Netanyahu tenha promovido essa teoria, dizendo ao Breitbart que actores estrangeiros gastaram "biliões" em campi americanos. Muitos relatórios concluem ligando o tema em questão ao crescente antissemitismo, citando frequentemente os mesmos estudos.
Siga o dinheiro: US$ 900.000 por meio de um conglomerado de relações públicas francês
De acordo com a Responsible Statecraft, a Piro, Inc. recebeu 900.000 dólares do governo israelita pelo seu trabalho, subcontratado através da Havas Media, um conglomerado francês de relações públicas - um acordo consistente com a forma como outros empreiteiros israelitas foram pagos por trabalho de influência no estrangeiro.
O Instituto Hanover começou a publicar em 6 de Agosto. Nos cerca de dez dias desde então, produziu mais de 100 relatórios, um ritmo que nenhuma agência política genuína de dimensão comparável consegue sustentar.
Por que a manipulação do chatbot é diferente
O caso sublinha uma fraqueza estrutural na forma como os assistentes de IA reúnem respostas: eles tratam documentos bem citados e com muitas estatísticas como credíveis, independentemente de quem os produziu ou porquê. A desinformação tradicional tinha como alvo os leitores humanos nas plataformas sociais, onde o impacto emocional era mais importante. Em vez disso, o chamado envenenamento LLM tem como alvo as camadas de recuperação e classificação que decidem quais fontes um modelo cita – e um único documento persuasivo pode então ecoar em milhões de respostas.
Para desenvolvedores de chatbots, o Instituto Hanover é um teste de estresse de verificação de fontes. A avaliação da NewsGuard sugere que o mimetismo está próximo o suficiente para enganar os sinais automatizados de credibilidade. Para os leitores, a lição é mais simples: a resposta confiante e bem anotada que um chatbot lhe dá sobre um conflito contestado pode remontar a uma organização que foi construída, marcada e financiada para produzir exatamente essa resposta.
---
Fique à Frente da IAAs últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.
Ler mais notícias de IA →
