OpenAI a déclaré jeudi avoir perturbé une opération d'influence liée à l'Iran qui utilisait ChatGPT pour placer près de 100 articles générés par l'IA sous de fausses signatures de journalistes occidentaux dans de vraies publications du monde entier, y compris plusieurs médias américains.
La campagne, qu'OpenAI qualifie d'opération de « faux front », est détaillée dans un rapport publié par la société le 8 octobre et dans des articles de suivi du Washington Post, de CNN, de NPR et de Radio Free Europe/Radio Liberty. Il s’agit de l’un des cas documentés les plus clairs à ce jour d’un réseau d’influence étrangère utilisant un chatbot commercial grand public non seulement pour rédiger de la propagande, mais aussi pour gérer l’ensemble du flux éditorial consistant à l’implanter dans les médias légitimes. Pour plus de contexte sur cette histoire, consultez notre actualités IA.
Un journaliste qui n'a jamais existé
Au centre de l’opération se trouvait un personnage nommé Ervin B. Hoskins, présenté comme un journaliste indépendant américain. Selon RFE/RL, les articles attribués à Hoskins présentent les États-Unis comme l’agresseur dans le conflit en cours avec l’Iran, présentent Israël comme un allié peu fiable et présentent l’Iran comme un outsider rebelle. Hoskins, a confirmé OpenAI, n’a jamais existé.
Il était l’un des sept journalistes fabriqués de toutes pièces, prétendant tous provenir de pays occidentaux, que les opérateurs utilisaient pour présenter et publier des articles. "Nous avons identifié près de 100 articles publiés ou diffusés sous la signature de l'opération sur une douzaine de médias en ligne à travers le monde", a déclaré OpenAI dans son rapport, décrivant les cibles comme des médias de petite et moyenne taille généralement axés sur les affaires internationales, la géopolitique et le Moyen-Orient.
Le Washington Post, qui a été le premier à signaler la pénétration de la campagne dans les médias américains, a découvert qu'un petit hebdomadaire de Floride avait publié l'un des faux articles d'opinion. D'autres placements signalés sont apparus dans des médias, notamment Middle East Monitor, qui a déclaré à CNN qu'il avait supprimé les articles en question et qu'il révisait son processus de soumission.
Comment ChatGPT a été utilisé
Selon la divulgation d'OpenAI, les opérateurs ont utilisé ChatGPT en farsi et en anglais tout au long du processus de placement : édition de brouillons d'articles longs, adaptation des présentations aux exigences éditoriales de chaque publication, préparation d'e-mails de sensibilisation aux éditeurs et génération de lots de commentaires sur les réseaux sociaux conçus pour ressembler à des réactions de lecteurs indépendants.
Un exemple retracé par les chercheurs : un éditorial intitulé « Jared Kushner et la privatisation de la stratégie américaine en Iran », publié le 12 juin par PeaceVoice, un service de distribution d'articles d'opinion géré par l'Oregon Peace Institute. Dans les jours suivants, le même article a été republié par CounterPunch et LA Progressive, selon RFE/RL.
OpenAI a déclaré que l'activité de publication avait augmenté après le début du conflit entre les États-Unis et l'Iran plus tôt cette année. La société a déclaré avoir interdit les comptes ChatGPT impliqués dans la campagne et évalué la capacité de l'opération à publier du contenu dans des médias éditoriaux extérieurs en catégorie 4 sur son échelle d'opération d'influence en six points, selon un reportage de CNN.
L'attribution reste ouverte
Notamment, OpenAI a déclaré qu’elle ne pouvait pas identifier l’acteur spécifique derrière la campagne ni confirmer la direction du gouvernement iranien. Son évaluation, telle que rapportée par CNN, pointait vers une opération d’influence commerciale pour compte d’autrui plutôt que directement gérée par l’État – une structure qui rend l’attribution plus difficile et la perturbation moins concluante. L'interdiction des comptes a perturbé ce qu'OpenAI pouvait observer ; il n’a pas établi que le réseau plus large avait été démantelé.
Jessica Brandt, qui a dirigé le Centre d'influence étrangère malveillante du Bureau du directeur du renseignement national de 2023 à 2025, a déclaré à CNN que l'opération montrait comment l'IA aide les acteurs étrangers à dissimuler leur implication et à acheminer les messages via des canaux authentiques.
La campagne iranienne n’est pas la seule activité signalée par OpenAI. Le rapport de la société couvrait également la perturbation des opérations d'influence liées à la Russie qui utilisaient ChatGPT, comme l'a rapporté The Record de Recorded Future News. Par ailleurs, RFE/RL a noté qu'Anthropic avait déjà perturbé les efforts iraniens visant à utiliser à mauvais escient ses modèles Claude à des fins de propagande et de surveillance des dissidents.
La publication n'est plus une preuve de paternité
Pour les rédactions, l’affaire aboutit à une vérité inconfortable : une signature, un rythme cohérent, une biographie plausible et un argumentaire soigné n’impliquent plus qu’un contributeur existe. Les rédacteurs qui s’appuient sur des soumissions indépendantes – en particulier les bureaux d’articles et de commentaires qui, de par leur conception, publient des perspectives extérieures – sont désormais confrontés à un problème de vérification que les filtres anti-spam et les heuristiques de qualité rédactionnelle ne peuvent pas résoudre.
Les réponses pratiques signalées dans la couverture du rapport incluent une authentification plus forte des contributeurs, des historiques de présentation documentés, un examen minutieux des signatures qui apparaissent dans plusieurs médias dans des fenêtres courtes et des outils de provenance qui relient les soumissions à des identités vérifiables.
L’économie compte également. Une opération qui nécessitait autrefois une équipe de rédacteurs peut désormais être gérée par une petite équipe dirigeant un chatbot, le modèle s'occupant de tout, de la traduction à l'adaptation du ton au style maison d'une publication cible. Le rapport d'OpenAI suggère que les obstacles à la réalisation d'une campagne de placement multi-personnes et multi-points de vente ont diminué au point qu'un magasin pour compte d'autrui peut le faire en tant que service commercial.
Aucun des médias cités dans le reportage n’était un organisme de presse grand public, mais plusieurs avaient une audience réelle. C’est là le point, disent les chercheurs : le placement dans toute publication crédible permet à un message de circuler plus largement grâce à la syndication, à l’agrégation et à la recherche – ce qui est exactement ce que la campagne a réalisé avant d’être interrompue.
---
Restez à la Pointe de l'IALes dernières actualités, analyses et percées en IA — au même endroit.
Lire plus d'actualités IA →
