A OpenAI disse na quinta-feira que interrompeu uma operação de influência ligada ao Irã que usou o ChatGPT para colocar quase 100 artigos gerados por IA sob assinaturas falsas de jornalistas ocidentais em publicações reais em todo o mundo, incluindo vários meios de comunicação dos Estados Unidos.
A campanha, que a OpenAI chama de operação de “falsa frente”, é detalhada em um relatório publicado pela empresa em 8 de outubro e em reportagens de acompanhamento do The Washington Post, CNN, NPR e Radio Free Europe/Radio Liberty. É um dos casos documentados mais claros até à data de uma rede de influência estrangeira que utiliza um chatbot comercial convencional não apenas para redigir propaganda, mas para gerir todo o fluxo de trabalho editorial de implantação em meios de comunicação legítimos. Para mais contexto sobre esta história, confira nossa últimos desenvolvimentos em IA.
Um jornalista que nunca existiu
No centro da operação estava uma pessoa chamada Ervin B. Hoskins, apresentada como jornalista freelance americano. De acordo com a RFE/RL, os artigos atribuídos a Hoskins classificam os Estados Unidos como o agressor no conflito em curso com o Irão, retratam Israel como um aliado não confiável e enquadram o Irão como um oprimido desafiador. Hoskins, confirmou a OpenAI, nunca existiu.
Ele foi uma das sete personas jornalistas fabricadas, todas supostamente de países ocidentais, que os operadores usavam para lançar e publicar artigos. “Identificamos quase 100 artigos publicados ou distribuídos sob a assinatura da operação em cerca de uma dúzia de meios de comunicação on-line em todo o mundo”, disse a OpenAI em seu relatório, descrevendo os alvos como meios de comunicação de pequeno e médio porte, geralmente focados em assuntos internacionais, geopolítica e Oriente Médio.
O Washington Post, que primeiro noticiou a penetração da campanha nos meios de comunicação norte-americanos, descobriu que um pequeno semanário da Florida publicou um dos artigos de opinião falsos. Outras veiculações sinalizadas apareceram em meios de comunicação, incluindo o Middle East Monitor, que disse à CNN que havia removido os artigos em questão e estava revisando seu processo de submissão.
Como o ChatGPT foi usado
De acordo com a divulgação da OpenAI, os operadores usaram ChatGPT em farsi e inglês em todo o pipeline de colocação: edição de rascunhos de artigos longos, adaptação de argumentos de venda aos requisitos editoriais de publicações individuais, preparação de e-mails de divulgação para editores e geração de lotes de comentários de mídia social projetados para parecerem reações de leitores independentes.
Um exemplo traçado pelos investigadores: um artigo de opinião intitulado “Jared Kushner e a Privatização da Estratégia Americana para o Irão”, publicado em 12 de Junho pela PeaceVoice, um serviço de distribuição de artigos de opinião gerido pelo Oregon Peace Institute. Nos dias seguintes o mesmo artigo foi republicado pela CounterPunch e LA Progressive, segundo RFE/RL.
A OpenAI disse que a atividade de publicação aumentou depois que o conflito entre os Estados Unidos e o Irã começou no início deste ano. A empresa disse que proibiu as contas ChatGPT envolvidas na campanha e classificou a capacidade da operação de colocar conteúdo em veículos editoriais externos como Categoria 4 em sua escala de operação de influência de seis pontos, de acordo com reportagem da CNN.
A atribuição permanece aberta
Notavelmente, a OpenAI disse que não conseguiu identificar o ator específico por trás da campanha ou confirmar a orientação do governo iraniano. A sua avaliação, conforme relatada pela CNN, apontava para uma operação comercial de influência por aluguer, em vez de uma operação directamente gerida pelo Estado – uma estrutura que torna a atribuição mais difícil e a perturbação menos conclusiva. O banimento das contas interrompeu o que a OpenAI poderia observar; não estabeleceu que a rede mais ampla foi desmantelada.
Jessica Brandt, que liderou o Centro de Influência Maligna Estrangeira do Gabinete do Diretor de Inteligência Nacional de 2023 a 2025, disse à CNN que a operação mostrou como a IA ajuda atores estrangeiros a esconder seu envolvimento e encaminhar mensagens através de canais autênticos.
A campanha iraniana não foi a única atividade sinalizada pela OpenAI. O relatório da empresa também cobriu a interrupção das operações de influência ligadas à Rússia que usavam o ChatGPT, conforme relatado pelo The Record from Recorded Future News. Separadamente, a RFE/RL observou que a Anthropic já interrompeu os esforços iranianos para utilizar indevidamente os seus modelos Claude para propaganda e vigilância de dissidentes.
A publicação não é mais prova de autoria
Para as redações, o caso chega a uma verdade incômoda: uma assinatura, uma batida coerente, uma biografia plausível e um discurso polido não implicam mais na existência de um colaborador. Editores que dependem de submissões de freelancers – particularmente artigos de opinião e de comentários, que por design publicam perspectivas externas – enfrentam agora um problema de verificação que os filtros de spam e as heurísticas de qualidade de escrita não conseguem resolver.
As respostas práticas sinalizadas na cobertura do relatório incluem autenticação mais forte dos contribuidores, históricos de argumentos de venda documentados, exame minucioso de assinaturas que aparecem em vários veículos em janelas curtas e ferramentas de proveniência que vinculam os envios a identidades verificáveis.
A economia também importa. Uma operação que antes exigia uma equipe de redatores agora pode ser executada por uma pequena equipe dirigindo um chatbot, com o modelo cuidando de tudo, desde a tradução até a correspondência de tom com o estilo da publicação alvo. O relatório da OpenAI sugere que a barreira para a realização de uma campanha de colocação multipessoal e multiponto caiu a tal ponto que uma loja de aluguel pode fazê-lo como um serviço comercial.
Nenhum dos meios de comunicação mencionados na reportagem eram grandes organizações de notícias, mas vários tinham audiências reais. É esse o ponto, dizem os investigadores: a colocação em qualquer publicação credível faz com que uma mensagem passe a circular mais amplamente através de distribuição, agregação e pesquisa – que foi exactamente o que a campanha conseguiu antes de ser interrompida.
---
Fique à Frente da IAAs últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.
Ler mais notícias de IA →
