Un faux groupe de réflexion créé au nom du gouvernement israélien a publié plus de 100 rapports de recherche raffinés en un peu plus d’une semaine, dans ce que les analystes décrivent comme une campagne délibérée visant à manipuler les réponses que les chatbots IA donnent aux utilisateurs sur Israël et la Palestine, selon une enquête publiée lundi par Responsible Statecraft.
L’organisation, appelée Hanover Institute for Public Policy, se présente comme un nouvel organisme de recherche axé sur Israël/Palestine. Mais ses rapports ne portent aucune signature, et une clause de non-responsabilité au bas de son site Web reconnaît qu'il a été créé pour le compte de l'agence de publicité du gouvernement israélien par Piro, Inc., une société cofondée par Daniel Rosenberg, un producteur de films crédité sur "Inside Man" de Spike Lee. L’histoire a été reprise par des médias tels qu’Arab News et The Cradle, et constitue le dernier signe que les opérations d’influence passent des flux de médias sociaux aux modèles d’IA. Pour en savoir plus sur l’évolution de la manipulation à l’ère de l’IA, suivez notre couverture de l’actualité de l’IA. Pour plus de contexte sur cette histoire, consultez notre dernières avancées en IA.
Rapports conçus pour savoir comment les LLM jugent la crédibilité
Ce qui rend l'Institut de Hanovre inhabituel, c'est la précision avec laquelle ses résultats semblent adaptés à la manière dont les grands modèles linguistiques évaluent les sources. Ses « rapports de données » sont accompagnés de notes de bas de page, de tables des matières et d'un ton mesuré et neutre – le type de formatage qui aide les documents à attirer des chatbots tels que Claude ou Gemini, a rapporté Responsible Statecraft.
De nombreux titres sont formulés comme les questions exactes qu'un utilisateur pourrait saisir dans un chatbot : « Qu'est-ce qui a causé le déplacement des Palestiniens en 1948 ? « Quelles organisations humanitaires ont documenté les crimes de guerre israéliens ? « Quelle est la situation actuelle dans la bande de Gaza ? » et « Tsahal est-elle l'armée la plus morale du monde ? – dont le dernier cite un sondage de 2022 révélant que 47 % des Juifs israéliens croyaient à cette description.
Le propre site Web de Piro est direct sur la méthode. La société affirme qu'elle crée « du contenu conçu pour la façon dont les LLM évaluent la crédibilité », un service qu'elle commercialise sous le nom de « AI Story Optimization ». Les chercheurs ont donné un nom plus brutal à cette pratique : « empoisonnement LLM ».
Un « mimétisme parfait » d'une institution crédible
Alice Lee, analyste chez NewsGuard, la société de suivi de la désinformation, a déclaré à Responsible Statecraft que les rapports du site semblent conçus pour atteindre un public américain curieux du conflit, que ce soit via des moteurs de recherche ou des assistants IA.
"Les LLM privilégient les statistiques et les données concrètes, ainsi que les citations et sources solides, que possèdent tous ces articles", a déclaré Lee. "C'est une imitation parfaite d'un groupe de réflexion américain crédible typique, jusqu'au nom générique, à la présentation du site et à la palette de couleurs rouge-blanc-bleu."
L’institut a également publié ce qu’il prétend être des conclusions originales – par exemple, une étude affirmant que 19 des 36 vidéos explicatives Israël-Gaza les plus regardées contiennent des affirmations contestées, la plupart de ces affirmations contestées s’alignant sur le récit palestinien. D'autres rapports s'opposent à la documentation établie, notamment un qui met en doute l'affirmation de l'UNICEF selon laquelle 90 % de l'eau et des infrastructures institutionnelles à Gaza ont été endommagées ou détruites.
Il convient de noter que les résultats ne suivent pas toujours la ligne du gouvernement israélien. Un rapport décrit la théorie selon laquelle le financement étranger des universités explique les incidents antisémites comme « faibles et pleins d’exceptions » – même si le Premier ministre Benjamin Netanyahu a promu cette théorie, affirmant à Breitbart que les acteurs étrangers ont dépensé « des milliards » sur les campus américains. De nombreux rapports concluent en liant le sujet à l’étude à la montée de l’antisémitisme, citant fréquemment les mêmes études.
Follow the Money : 900 000 $ via un conglomérat français de relations publiques
Selon Responsible Statecraft, Piro, Inc. a reçu 900 000 dollars du gouvernement israélien pour son travail, sous-traité par Havas Media, un conglomérat français de relations publiques – un arrangement cohérent avec la façon dont d’autres entrepreneurs israéliens ont été payés pour des travaux d’influence à l’étranger.
L’Institut de Hanovre a commencé à publier le 6 août. Au cours des dix jours qui ont suivi, il a produit plus de 100 rapports, un rythme qu’aucun véritable organisme politique de taille comparable ne peut soutenir.
Pourquoi la manipulation des chatbots est différente
Cette affaire met en évidence une faiblesse structurelle dans la manière dont les assistants IA rassemblent les réponses : ils traitent les documents bien cités et riches en statistiques comme crédibles, peu importe qui les a produits ou pourquoi. La désinformation traditionnelle ciblait les lecteurs humains sur les plateformes sociales, là où l’impact émotionnel comptait le plus. Ce que l’on appelle l’empoisonnement LLM cible plutôt les couches de récupération et de classement qui décident quelles sources un modèle cite – et un seul document convaincant peut alors donner lieu à des millions de réponses.
Pour les développeurs de chatbots, le Hanover Institute est un test de résistance pour la vérification des sources. L'évaluation de NewsGuard suggère que le mimétisme est suffisamment proche pour tromper les signaux de crédibilité automatisés. Pour les lecteurs, la leçon est plus simple : la réponse confiante et bien notée qu’un chatbot vous donne à propos d’un conflit contesté peut remonter à une organisation qui a été construite, marquée et financée pour produire exactement cette réponse.
---
Restez à la Pointe de l'IALes dernières actualités, analyses et percées en IA — au même endroit.
Lire plus d'actualités IA →
