O falso thinktank dos EUA exposto pela primeira vez na semana passada foi agora quantificado pelo Guardian: 124 relatórios e 560.000 palavras em nove dias, construídos numa plataforma comercial que promete optimizar o conteúdo para que os chatbots de IA o citem – com um rasto de financiamento do governo israelita documentado em documentos do Departamento de Justiça dos EUA. É o exemplo público mais claro de intervenientes ligados ao Estado que visam a própria camada de resposta da IA: não os leitores, mas os modelos que cada vez mais falam por eles. É o tipo de história que nossa cobertura da indústria de IA acompanha à medida que a manipulação do chatbot se torna industrial. (Abordamos a descoberta inicial do site aqui.)

Um thinktank que não existe

O site é publicado sob o nome de Hanover Institute for Public Policy. De acordo com Jason Wilson, do Guardian, o instituto aparentemente não existe como entidade legal em nenhuma jurisdição, não tem endereço físico e não possui funcionários nomeados nem assinaturas em nenhum de seus relatórios. Seus próprios termos de uso são regidos pelas leis do “estado em que o Instituto está estabelecido” – um estado cujo nome o documento se recusa a mencionar.

A escala de produção era industrial. Entre 6 e 14 de agosto, o Instituto Hanover publicou 124 relatórios totalizando mais de 560 mil palavras, uma média de cerca de 4.500 palavras cada. Somente nos dias 12 e 13 de agosto foram produzidas 73 reportagens, totalizando quase 354 mil palavras. Nada foi publicado desde que surgiram as primeiras reportagens na mídia sobre o site.

Projetado para a camada de resposta do chatbot

O que marca a operação como inovadora é o seu direcionamento. Todas as 124 manchetes, exceto uma, abrem com uma pergunta semelhante a uma que um usuário poderia digitar em um chatbot – “O anti-sionismo é anti-semitismo?”, “Israel expulsou os palestinos de suas terras?”, “Israel está realizando um genocídio em Gaza?” Os relatórios apresentam a posição de Israel sobre a tortura de prisioneiros palestinos, os crimes de guerra e a fome em Gaza como uma investigação neutra, formatada para recuperação automática.

A mecânica está documentada em arquivos oficiais. A produtora de mídia nova-iorquina Piro Inc registrou o site no Departamento de Justiça dos EUA este mês sob a Lei de Registro de Agentes Estrangeiros (Fara), uma lei de 1938 que exige a divulgação de trabalhos para governos estrangeiros, como material que distribui para o governo israelense. O Guardian relata que o esforço é financiado por dezenas de milhões de dólares do governo israelita, encaminhados através de terceiros, incluindo o grupo publicitário europeu Havas Media. Um contrato entre a Havas e outra empresa americana que trabalha na campanha a compromete com a “implantação de sites e conteúdo para fornecer resultados de enquadramento GPT em conversas GPT”.

Depois que a existência do site foi relatada pela primeira vez em 14 de agosto, o instituto adicionou discretamente uma página de financiamento contendo uma correção reveladora: "Uma versão anterior desta página dizia que o Instituto funcionava sem financiamento externo, e isso era verdade quando foi escrito." O Guardian contatou a Piro Inc, a Havas Media e a agência de publicidade do governo israelense LaPam para comentar.

Por que os chatbots são o novo campo de batalha

A estratégia tem um nome na indústria de marketing – otimização generativa de mecanismos, ou GEO – e é a disciplina sucessora da otimização de mecanismos de busca. Quando um chatbot responde a uma pergunta, ele se baseia em seu corpus de treinamento e em fontes de recuperação. O conteúdo volumoso, formatado com perguntas e denominado como pesquisa confiável tem maior probabilidade de ser divulgado, citado ou absorvido pela resposta de um modelo. Um thinktank falso é quase o artefato GEO ideal: credibilidade institucional sem instituição.

O momento reflete desespero tanto quanto sofisticação. O Guardian observa que a campanha surge num momento em que a posição de Israel na opinião pública dos EUA entrou em colapso e enquanto as autoridades israelitas informam aos meios de comunicação social que o dinheiro gasto na diplomacia pública "Hasbara" no exterior foi desperdiçado.

O Instituto Hanover não é um caso isolado. No mesmo dia em que o Guardian publicou a sua investigação, a OpenAI anunciou que tinha interrompido uma nova campanha secreta de influência russa utilizando IA – a mais recente de uma série de remoções que a empresa atribuiu a intervenientes ligados ao Estado. Duas operações separadas, dois continentes, uma visão partilhada: influenciar modelos é agora mais barato e mais duradouro do que influenciar pessoas diretamente.

A lacuna de governança

Para os reguladores, o caso expõe uma lacuna nas estruturas existentes. A divulgação de Fara flagrou a operação no papel, mas somente depois que o conteúdo foi ao vivo e potencialmente ingerido. As disposições de transparência da Lei da IA ​​da UE e os quadros voluntários que regem a proveniência dos dados de formação não foram concebidos para um mundo onde o caminho mais barato para as crenças de uma população passa pelos seus chatbots.

Para os laboratórios de IA, a questão operacional é imediata: como os sistemas de recuperação e os canais de treinamento distinguem a pesquisa das fazendas de conteúdo que usam roupas de pesquisa? Volume, formatação e citações confiáveis ​​– os sinais de autoridade – são exatamente o que o Instituto Hanover produziu em massa. Até que os modelos melhorem a sua proveniência, o meio milhão de palavras já estará disponível e nenhuma divulgação apresentada após o facto as recordará.

---

Fique à frente da IA

Receba as últimas notícias, análises e avanços sobre IA — tudo em um só lugar.

Leia mais notícias sobre IA →