OpenAI a déclaré mardi avoir interdit un groupe de comptes ChatGPT originaires de Russie qui ont été utilisés pour soutenir une campagne secrète d'influence en ligne – une opération construite autour d'une organisation de recherche fictive appelée International Burke Institute qui a fabriqué des affiliations avec d'éminents universitaires et plagié la grande majorité de ses documents publiés.

La société a révélé le retrait dans un article de blog intitulé « Perturber une nouvelle campagne d'influence secrète en provenance de Russie », et les conclusions ont été rapportées par CNBC et Quartz. Selon OpenAI, les comptes ont été utilisés pour promouvoir l'International Burke Institute, ou IBI, une « communauté d'experts » autoproclamée dont le site Web indiquait une adresse en Israël et a été enregistré en février 2025. Pour plus de contexte sur cette histoire, consultez notre couverture de l'industrie de l'IA.

Un groupe de réflexion qui n'a jamais existé

La pièce maîtresse de l’opération était l’apparence d’une légitimité institutionnelle. Le site Web d'IBI prétendait faussement présenter des universitaires éminents, notamment Francis Fukuyama et Noam Chomsky, a déclaré OpenAI. Dans une analyse de 36 articles liés à des experts répertoriés sur le site et publiés entre septembre 2025 et mai 2026, la société a découvert que 34 d’entre eux avaient été copiés ailleurs sur Internet – parfois avec une attribution incorrecte.

Un élément central de la campagne était un « indice de souveraineté » qui classait les pays selon une mesure conçue pour donner une image favorable de la Russie tout en critiquant les pays occidentaux. Les rapports ciblant la France, l’Allemagne, les États-Unis et l’Union européenne ont viré à la polémique, a déclaré OpenAI. Une entrée sur les États-Unis disait : « Trump est arrivé [à Pékin] avec le premier indice de souveraineté au monde et est reparti après avoir pris un certain nombre de mesures qui [...] peuvent être qualifiées de réduction volontaire de l'autonomie. »

Comment l'opération s'est déroulée

OpenAI a déclaré avoir estimé que les comptes provenaient très probablement de Russie malgré le camouflage. Pour contourner l'interdiction d'OpenAI sur l'accès aux modèles depuis la Russie, les opérateurs ont acheminé leurs connexions via des VPN, a indiqué la société. Travaillant en russe, ils ont utilisé ChatGPT pour rédiger du contenu de médias sociaux apparaissant sur Substack, Telegram, X, Facebook et LinkedIn, ordonnant au modèle de supprimer toutes les caractéristiques du texte qui pourraient trahir ses origines générées par l'IA. La plupart du contenu généré a été rédigé en anglais, un choix qui suggère que l’opération était destinée au public occidental plutôt qu’aux lecteurs russes.

L’opération s’est étendue au-delà du contenu en langue anglaise. Un opérateur a généré des messages en allemand pour une chaîne Telegram appelée « Lahme Ente » – en allemand pour « canard boiteux » – qui critiquait l’Ukraine, l’Union européenne et le gouvernement allemand tout en prônant des liens plus étroits avec la Russie. Un deuxième opérateur a créé les logos d’une douzaine de chaînes Telegram axées sur l’Allemagne, les États-Unis, la France, la Pologne et la Turquie, et a demandé des résumés de leur activité en russe.

Portée limitée, mais un schéma alarmant

Selon les mesures d'engagement conventionnelles, la campagne n'a pas été un succès. OpenAI a reconnu que la plupart des publications sur les réseaux sociaux recevaient un faible nombre de vues, que les comptes officiels d'IBI comptaient peu d'abonnés et que les chaînes Telegram associées attiraient chacune entre 10 000 et 20 000 abonnés.

Mais l'entreprise a fait valoir que l'importance de l'opération ne réside pas dans sa portée mais dans l'appareil construit par ses opérateurs. Les articles produits avec ChatGPT orientaient les lecteurs vers ce qui semblait être un organisme de recherche légitime – avec une adresse physique, une liste d'experts et un flux constant de publications. Cette structure, selon OpenAI, démontre comment les outils d’IA peuvent aider les mauvais acteurs à créer une crédibilité institutionnelle, à obscurcir la véritable source des récits préférés et à jeter les bases d’opérations qui pourraient prendre une ampleur considérable.

La bataille plus large pour l'influence générée par l'IA

Ce démantèlement est le dernier d’une série de perturbations annoncées par OpenAI impliquant des acteurs de menace affiliés à l’État, et il intervient au milieu de preuves croissantes que les opérations d’influence déplacent leurs ambitions des flux de médias sociaux vers les systèmes d’IA eux-mêmes. Plus tôt en août, une enquête distincte menée par Responsible Statecraft a documenté un faux groupe de réflexion publiant plus de 100 rapports en une semaine dans le but apparent de manipuler les réponses données par les chatbots IA sur Israël et la Palestine.

Ensemble, ces cas esquissent un nouveau modèle : plutôt que de se contenter de transmettre des messages aux humains, les opérateurs construisent de fausses institutions dont les résultats peuvent être cités, récupérés et absorbés par les modèles d’IA qui arbitrent de plus en plus la manière dont les gens accèdent à l’information.

Pour les entreprises d’IA, les conséquences sont inconfortables. Les mêmes propriétés qui rendent les grands modèles linguistiques utiles – rédaction multilingue fluide, faible coût, production infatigable – en font une infrastructure attrayante pour la propagande blanchie. La réponse d'OpenAI dans ce cas a été un retrait au niveau du contenu : des comptes interdits, des tactiques nommées et un compte rendu public du fonctionnement de l'opération.

La question de savoir si de telles divulgations peuvent suivre le rythme des opérations qu’elles décrivent reste l’une des questions centrales de sécurité à l’ère de l’IA. Comme le montre clairement le rapport de mardi, le coût de construction d’une fausse institution convaincante a chuté de façon spectaculaire – et les entités les mieux placées pour les détecter sont précisément les entreprises dont les modèles sont utilisés pour les construire.

---

Restez à la Pointe de l'IA

Les dernières actualités, analyses et percées en IA — au même endroit.

Lire plus d'actualités IA →