A OpenAI disse quinta-feira que proibiu duas operações secretas de influência – uma originada na Rússia e outra no Irã – que usaram o ChatGPT para administrar entidades sofisticadas de “falsa frente” projetadas para lavar propaganda geopolítica em meios de comunicação reais. A empresa disse que a campanha de origem russa é a operação de influência de maior alcance que já interrompeu desde que começou a publicar relatórios de ameaças, há dois anos e meio.
A divulgação, publicada no site da OpenAI, é a última entrada em uma série de relatórios sobre como atores alinhados ao Estado utilizam indevidamente modelos comerciais de IA. Também sublinha, como observámos no nosso último resumo de notícias de última hora sobre IA, um padrão que a OpenAI observou nas 30 operações secretas que expôs desde o início de 2024: as campanhas que conseguem colocar o seu conteúdo em publicações genuínas alcançam públicos muito maiores do que aquelas que dependem de contas falsas nas redes sociais.
A Categoria 5 primeiro: Operação "Dark Clark"
A operação russa, que a OpenAI apelidou de “Dark Clark”, centrou-se em uma organização de pesquisa autodenominada na América Latina chamada Centro de Pesquisa Social (SRC). De acordo com a OpenAI, os operadores controlavam o think tank através de uma persona fabricada chamada “Mia Clark”, enquanto funcionários locais na América Latina conduziam entrevistas e redigiam documentos de pesquisa sem saber que trabalhavam para um grupo russo.
Usando a Escala de Breakout – uma medida de 1 a 6 do alcance potencial de uma operação de influência desenvolvida na Brookings – a OpenAI avaliou Dark Clark na Categoria 5, a classificação mais alta que atribuiu a qualquer operação desde o início de seus relatórios. A campanha de origem iraniana atingiu a categoria 4.
Grande parte do uso do ChatGPT pelos operadores foi feito em relatórios internos para um manipulador desconhecido, disse a OpenAI, descrevendo campanhas para denegrir a Ucrânia, minar o recrutamento para as forças armadas da Ucrânia e interferir na política interna da Argentina e da Bolívia. As operadoras solicitavam principalmente em russo e dependiam de VPNs para acessar o serviço, que bloqueia o tráfego vindo da Rússia.
Os pesquisadores da OpenAI corroboraram várias das campanhas reivindicadas pela operação por meio de fontes abertas. Um deles envolvia e-mails falsos supostamente provenientes da direcção regional de educação de Lima, instruindo as escolas da capital peruana a realizarem eventos em homenagem a Stepan Bandera – a controversa figura nacionalista ucraniana – num dia nacional da diversidade. Os meios de comunicação peruanos e polacos cobriram a controvérsia que se seguiu, e um membro polaco do Parlamento Europeu foi citado na cobertura da mesma. No Equador, os operadores usaram um endereço de e-mail falso para enganar as escolas para que fizessem um juramento de lealdade ao presidente Daniel Noboa e ao ex-diretor da Blackwater, Erik Prince; a façanha atraiu cobertura da mídia e uma refutação pública do ministro da Educação do Equador.
A operação também divulgou gravações de áudio fabricadas, incluindo uma atribuída a um funcionário da empresa estatal de água da Bolívia, EPSAS, alegando que o governo cortaria o fornecimento a La Paz, e outra atribuída ao cônsul da Ucrânia no Equador. Os verificadores de factos em ambos os países desmentiram as alegações. Pesquisadores de código aberto já vincularam atividades semelhantes à "Politology" ou "La Compania", entidades descritas como sucessoras da operação do falecido Yevgeniy Prigozhin, e os próprios relatórios dos operadores alegavam campanhas dirigidas ao presidente da Argentina, Javier Milei, que correspondem a esse relatório público.
Sete jornalistas falsos: Operação "Bogus Bylines"
A operação iraniana seguiu um caminho diferente no ecossistema mediático. Os seus operadores, que criaram o ChatGPT em persa, usaram o modelo para refinar artigos longos em inglês sobre o conflito EUA-Irão e depois apresentaram-nos a editores de canais online de pequena e média dimensão, utilizando sete personalidades jornalísticas fabricadas: Ervin B. Hoskins, Noah Lamington, Sophia Gonzalez, Michael Harrison, Ericka Feusier, Jenny Williams e Alice Johnson.
A OpenAI identificou quase 100 artigos publicados ou distribuídos sob essas assinaturas em cerca de uma dúzia de veículos em todo o mundo, a maioria focados em assuntos internacionais e no Oriente Médio. A operação também gerou muitos comentários nas redes sociais, embora a OpenAI tenha afirmado que estes atraíram pouco envolvimento real – e observou que os operadores usaram um cálculo enganoso nos seus relatórios internos para aumentar o seu aparente impacto nas redes sociais. A empresa disse que a atividade parecia consistente com um ator comercial conduzindo uma campanha de influência de aluguel e que compartilhou informações com as autoridades relevantes.
Artesanato antigo, novas ferramentas
O que mais impressiona os pesquisadores, escreveu a OpenAI, é o quanto ambas as operações se assemelhavam às campanhas de influência da era pré-IA. As falsas personalidades jornalistas têm uma semelhança familiar com “Alice Donovan”, uma repórter fictícia que faz frente da inteligência militar russa cujos artigos de opinião apareceram em meios de comunicação ocidentais em 2016 e 2017. A equipe local involuntária do SRC ecoa “PeaceData”, o site de notícias falsas que cooptou jornalistas reais em 2020.
A IA não inventou essas técnicas – ela as tornou mais baratas, mais rápidas e mais fluentes. Os operadores usaram modelos para adaptar falsificações ao vocabulário local e ao estilo institucional, traduzir scripts para variantes regionais do espanhol e produzir e-mails sofisticados para os editores. Mas a OpenAI argumentou que a natureza secreta, de pessoa para pessoa, das operações de falsa frente também as torna vulneráveis à exposição: tanto Alice Donovan como PeaceData encerraram as operações após serem nomeadas publicamente.
Lendo as evidências com cuidado
A OpenAI teve o cuidado de ressalvar suas próprias descobertas. Os operadores reivindicavam rotineiramente crédito por eventos com os quais não tinham nada a ver, e algumas falsificações que relataram plantar não puderam ser encontradas em fontes abertas. O que a OpenAI conseguiu verificar — através de verificações de factos, negações oficiais e artigos publicados que correspondem às descrições dos operadores — sugere uma penetração genuína dos meios de comunicação social e do discurso político em pelo menos quatro países.
Para a indústria da IA, o relatório é um lembrete de que as utilizações mais eficazes dos modelos de desinformação são muitas vezes as menos visíveis: redigir relatórios internos, refinar propostas, aperfeiçoar traduções. As entidades mais bem posicionadas para detectar estas campanhas, como mostraram os casos anteriores da OpenAI, são frequentemente as plataformas cujas próprias ferramentas estão a ser utilizadas para as executar.
---
Fique à frente da IAReceba as últimas notícias, análises e avanços sobre IA — tudo em um só lugar.
Leia mais notícias sobre IA →
