Google a retiré un outil d'intelligence artificielle qui permettait aux utilisateurs de peindre des scènes fabriquées sur de véritables images satellite dans Google Earth, inversant le cap moins de 48 heures après son lancement au milieu d'avertissements selon lesquels cette fonctionnalité pourrait amplifier la désinformation.

La fonctionnalité, alimentée par le générateur d'images « Nano Banana 2 » de Google, a été introduite le jeudi 30 juillet 2026 et permettait à quiconque de saisir une invite de texte et de générer de faux scénarios superposés à de véritables images satellite, aériennes et 3D. Pour connaître les derniers développements sur les outils d'IA qui façonnent l'industrie, suivez notre dernière couverture de l'actualité de l'IA sur AI Buzz Wire.

Vendredi, Google a confirmé qu'il suspendait cette fonctionnalité "pendant que nous travaillons à la mise en place de garde-fous plus solides", citant des captures d'écran d'images générées qui semblaient violer ses politiques. Ce renversement brutal est survenu directement après une enquête de BBC Verify au cours de laquelle les chercheurs ont démontré avec quelle facilité l'outil pouvait produire des contrefaçons convaincantes et précises.

Comment l'outil a fonctionné

Nano Banana 2 est directement intégré à Google Earth, la plateforme cartographique largement utilisée sur laquelle les gouvernements, les journalistes et le public s'appuient pour obtenir une vue précise de la planète. La fonction IA a généré des images à la demande et les a placées sur une couche de base de coordonnées réelles. Surtout, les images résultantes pouvaient être téléchargées et partagées sur les réseaux sociaux et d’autres plateformes sans aucune indication évidente qu’elles étaient synthétiques.

Cette combinaison – des visuels inventés fusionnés avec de véritables données géographiques – est ce qui a le plus alarmé les chercheurs.

Manifestations alarmantes

Au cours des tests, BBC Verify a pu générer des images d'une tour Eiffel effondrée, d'un gouffre engloutissant la grande pyramide de Gizeh et de chars russes positionnés dans la capitale ukrainienne, Kiev.

Le chercheur en IA et désinformation Henk van Ess est allé plus loin avant que l'outil ne soit suspendu, produisant des scènes fabriquées d'une centrale nucléaire inexistante en Iran, d'un camp de réfugiés à la frontière américano-mexicaine et d'un faux hôpital à Gaza avec un cratère de bombe à côté.

"Le faux n'a pas besoin d'être convaincant en soi. Il hérite de la crédibilité de la carte sur laquelle il est né", a déclaré van Ess, décrivant comment Google avait permis à des images "inventées" d'être "soudées à de véritables coordonnées, tirées d'images authentiques".

Filigranes qui n'ont pas tenu le coup

Google a souligné que le contenu généré par l'IA à partir de ses outils comporte des filigranes invisibles et que les utilisateurs peuvent vérifier les contrefaçons suspectées via le chatbot Gemini ou Google Lens.

Cependant, les tests de BBC Verify ont révélé qu'il était possible de contourner ces contrôles et de tromper Gemini pour qu'il confirme la réalité des images fabriquées de Google Earth. Les outils de détection d’IA externes n’ont pas non plus réussi à détecter certaines images synthétiques. Les résultats compromettent la fiabilité des mesures de protection mises en place par Google comme moyen de défense contre la désinformation générée par l'IA.

Henry Ajder, chercheur en détection d'IA, a déclaré à BBC Verify que les images fabriquées dans les zones de conflit pourraient s'avérer particulièrement « déstabilisantes » lors d'événements rapides où les informations fiables sont rares et les enjeux sont les plus élevés.

Un modèle de surcorrection

L’épisode s’ajoute à une liste croissante de lancements d’IA de grande envergure sur lesquels les entreprises ont dû revenir. Google lui-même a fait l'objet d'un examen minutieux en raison de la génération d'images inexactes dans son modèle Gemini en 2024, et le cycle rapide de déploiement puis de rétractation est devenu un thème récurrent alors que les entreprises technologiques se précipitent pour proposer des fonctionnalités génératives.

Dans ce cas, le danger unique provenait de la plateforme elle-même. Comme Google l'a reconnu dans sa déclaration : "Nous savons que les gens font confiance à Google Earth pour une vision fiable du monde", ce qui rend toute érosion de cette confiance particulièrement coûteuse.

Le démantèlement intervient également à un moment réglementaire sensible. Les exigences de transparence de la loi sur l'IA de l'Union européenne, qui imposent un étiquetage clair du contenu généré par l'IA, sont entrées en vigueur le 2 août 2026, quelques jours seulement après l'incident de Google Earth. Google avait déjà signé le code de bonnes pratiques de l'UE sur l'étiquetage des contenus générés par l'IA début juillet.

Que se passe-t-il ensuite

Google n'a pas précisé quand ni si la fonctionnalité pourrait revenir. La société a indiqué qu’elle continuerait à perfectionner les garde-fous, mais les chercheurs ont fait valoir que la conception fondamentale – superposer le contenu généré par l’IA sur des données géographiques fiables – pourrait être trop dangereuse pour être expédiée sous une forme téléchargeable et partageable sans contrôles de provenance beaucoup plus stricts.

Pour une industrie encore aux prises avec la manière d'équilibrer le déploiement rapide de l'IA et les dommages du monde réel, la durée de vie de 48 heures de l'outil d'image d'IA de Google Earth constitue un avertissement sur l'écart entre ce que l'IA peut créer et ce qu'elle devrait créer.

Gardez une longueur d'avance sur l'IA

L’IA évolue rapidement, et les politiques qui la façonnent évoluent encore plus rapidement. Ajoutez AI Buzz Wire à vos favoris pour une couverture quotidienne et vérifiée des lancements, des inversions et des réglementations définissant l'avenir de l'intelligence artificielle.

Lire plus d'actualités sur l'IA →