Le faux groupe de réflexion américain dévoilé pour la première fois la semaine dernière a maintenant été quantifié par le Guardian : 124 rapports et 560 000 mots en neuf jours, construits sur une plateforme commerciale qui promet d’optimiser le contenu afin que les chatbots IA le citent – ​​avec une piste de financement du gouvernement israélien documentée dans les dossiers du ministère américain de la Justice. Il s’agit de l’exemple public le plus clair à ce jour d’acteurs liés à l’État ciblant la couche de réponse de l’IA elle-même : non pas les lecteurs, mais les modèles qui parlent de plus en plus en leur nom. C'est le genre d'histoire que notre Couverture de l'industrie de l'IA suit à mesure que la manipulation des chatbots devient industrielle. (Nous avons couvert la découverte initiale du site ici.)

Un think tank qui n'existe pas

Le site publie sous le nom de Hanover Institute for Public Policy. Selon Jason Wilson du Guardian, l'institut n'existe apparemment en tant qu'entité juridique dans aucune juridiction, n'a pas d'adresse physique et ne comporte aucun personnel nommé ni aucune signature sur aucun de ses rapports. Ses propres conditions d'utilisation sont régies par les lois de « l'État dans lequel l'Institut est établi » – un État que le document refuse de nommer.

L'échelle de production était industrielle. Entre le 6 et le 14 août, l'Institut de Hanovre a publié 124 rapports totalisant plus de 560 000 mots, soit une moyenne d'environ 4 500 mots chacun. Rien que les 12 et 13 août, il a produit 73 rapports totalisant près de 354 000 mots. Rien n'a été publié depuis les premiers reportages médiatiques sur le site.

Conçu pour la couche de réponse du chatbot

Ce qui caractérise l’opération comme étant nouvelle, c’est son ciblage. Tous les titres, sauf un, s'ouvrent sur une question ressemblant à celle qu'un utilisateur pourrait taper dans un chatbot : « L'antisionisme est-il de l'antisémitisme ? », « Israël a-t-il expulsé les Palestiniens de leur terre ? », « Israël commet-il un génocide à Gaza ? Les rapports présentent la position d'Israël sur la torture des prisonniers palestiniens, les crimes de guerre et la famine à Gaza comme une recherche neutre, formatée pour une récupération automatique.

La mécanique est documentée dans les documents officiels. La société de production médiatique new-yorkaise Piro Inc a enregistré ce mois-ci le site auprès du ministère américain de la Justice en vertu du Foreign Agents Registration Act (Fara), une loi de 1938 exigeant la divulgation des travaux des gouvernements étrangers, dans le cadre des documents qu'elle distribue au gouvernement israélien. Le Guardian rapporte que cet effort est financé par des dizaines de millions de dollars du gouvernement israélien, acheminés par l’intermédiaire de tiers, notamment le groupe publicitaire européen Havas Media. Un contrat entre Havas et une autre société américaine travaillant sur la campagne l'engage au "déploiement de sites Web et de contenus pour fournir des résultats de cadrage GPT sur les conversations GPT".

Après que l'existence du site ait été signalée pour la première fois le 14 août, l'institut a discrètement ajouté une page de financement contenant une correction révélatrice : "Une version antérieure de cette page indiquait que l'institut fonctionnait sans financement externe, et c'était vrai au moment de sa rédaction." Le Guardian a contacté Piro Inc, Havas Media et l'agence de publicité gouvernementale israélienne LaPam pour obtenir leurs commentaires.

Pourquoi les chatbots sont le nouveau champ de bataille

La stratégie a un nom dans l'industrie du marketing – l'optimisation générative des moteurs, ou GEO – et c'est la discipline qui succède à l'optimisation des moteurs de recherche. Lorsqu’un chatbot répond à une question, il s’appuie sur son corpus de formation et ses sources de récupération. Un contenu volumineux, formaté sous forme de questions et conçu comme une recherche faisant autorité est plus susceptible d'être présenté, cité ou absorbé dans la réponse d'un modèle. Un faux groupe de réflexion est presque l’artefact GEO idéal : une crédibilité institutionnelle sans institution.

Le timing reflète autant le désespoir que la sophistication. Le Guardian note que la campagne intervient alors que la position d'Israël dans l'opinion publique américaine s'est effondrée et que les responsables israéliens informent les médias que l'argent dépensé pour la diplomatie publique « Hasbara » à l'étranger a été gaspillé.

L'Institut de Hanovre n'est pas un cas isolé. Le jour même où le Guardian publiait son enquête, OpenAI annonçait avoir perturbé une nouvelle campagne d’influence russe secrète utilisant l’IA – la dernière d’une série de démantèlements que l’entreprise a attribués à des acteurs liés à l’État. Deux opérations distinctes, deux continents, une vision commune : influencer les modèles est désormais moins cher et plus durable que d’influencer directement les gens.

Le déficit de gouvernance

Pour les régulateurs, l’affaire révèle une faille dans les cadres existants. La divulgation de Fara a capturé l'opération sur papier, mais seulement une fois que le contenu était en direct et potentiellement ingéré. Les dispositions de transparence de la loi européenne sur l'IA et les cadres volontaires régissant la provenance des données de formation n'ont pas été conçus pour un monde où le chemin le moins cher vers les croyances d'une population passe par ses chatbots.

Pour les laboratoires d’IA, la question opérationnelle est immédiate : comment les systèmes de récupération et les pipelines de formation distinguent-ils la recherche des fermes de contenu portant des vêtements de recherche ? Le volume, le formatage et les citations sûres – les signaux d’autorité – sont exactement ce que l’Institut de Hanovre a produit en masse. Jusqu'à ce que les modèles s'améliorent en termes de provenance, le demi-million de mots sont déjà disponibles et aucune divulgation déposée après coup ne les rappelle.

---

Gardez une longueur d'avance sur l'IA

Recevez les dernières actualités, analyses et avancées en matière d'IA, le tout en un seul endroit.

Lire plus d'actualités sur l'IA →