Le filigrane SynthID de Google survit à un test de stress brutal, mais ne résoudra pas la désinformation de l'IA

Alors que les médias générés par l'IA inondent Internet, la technologie de filigrane SynthID de Google est devenue l'un des outils les plus importants pour distinguer le contenu authentique des images synthétiques. Un nouveau test de résistance rigoureux confirme que le filigrane invisible est remarquablement durable, survivant à des centaines de cycles de compression, de redimensionnement et même de captures d'écran, mais les résultats soulignent également une vérité plus dure : il est peu probable que les étiquettes techniques à elles seules résolvent la crise croissante de la désinformation de l'IA. Pour les rapports continus sur les derniers développements de l'IA, les résultats marquent un point de contrôle important dans le débat sur la provenance du contenu.

Il est difficile d’exagérer l’ampleur du problème. Starling Lab, une collaboration de recherche entre l'Université de Stanford et l'Université de Californie du Sud, estime qu'il a fallu attendre 1975, 149 ans après l'invention de l'appareil photo, pour que l'humanité produise 1,5 milliard d'images. L’IA générative a atteint ce résultat en seulement 18 mois. Lors de sa conférence I/O de cette année, Google a annoncé que ses outils à eux seuls avaient été utilisés pour créer plus de 100 milliards d'images et de vidéos IA en quelques années.

Comment fonctionne SynthID

Il existe actuellement deux approches principales pour étiqueter le contenu généré par l'IA : les filigranes invisibles comme SynthID et les schémas de métadonnées tels que la norme Coalition for Content Provenance and Authenticity (C2PA). Google utilise les deux. C2PA est cryptographiquement sécurisé et ne peut pas être falsifié, mais il est extrêmement facile à supprimer. Le simple fait de modifier et d'enregistrer une image, ou de prendre une capture d'écran, peut supprimer entièrement les métadonnées C2PA.

SynthID adopte une approche différente. Plutôt que de s'appuyer sur des métadonnées situées à côté d'un fichier, le filigrane est codé directement dans les pixels d'une image ou d'une vidéo, ou dans la forme d'onde d'un clip audio. Étant donné que le signal est intégré au contenu lui-même, Google a fait valoir qu'il devrait survivre aux transformations, à la compression, au recadrage et au réencodage qui se produisent naturellement à mesure que les médias circulent sur Internet.

Un test de contrainte pour le signal au niveau du pixel

Ars Technica a mis ces affirmations à l'épreuve à l'aide d'un script Python construit sur la bibliothèque d'imagerie Pillow. Le script simulait la perte de données due à des partages et à des téléchargements répétés à un rythme considérablement accéléré, appliquant des valeurs de compression et de redimensionnement aléatoires à une image de test et réinjectant chaque sortie comme base pour l'itération suivante. Deux images générées par l'IA à partir du modèle Nano Banana Pro de Google, une créée entièrement à partir de zéro et une photo originale modifiée par l'IA, ont servi de sujets de test.

Après 300 générations de partage simulé, au cours desquelles les originaux nets ont été dégradés en taches à peine reconnaissables, le filigrane SynthID était toujours enregistré sur les deux images. Le filigrane a même survécu aux captures d'écran complètes, car les pixels du marqueur spécial sont transférés vers le nouveau fichier. Toutes les 50 générations, le testeur produisait également des versions recadrées pour affaiblir davantage la détection.

Où SynthID se brise enfin

Les limites de la technologie n’apparaissent que dans des conditions extrêmes. Après 300 cycles de compression, la suppression d'une poignée de pixels de la bordure des images de test dégradées a finalement brisé SynthID sur les images entièrement générées et éditées par l'IA. Étant donné que le signal du filigrane est réparti sur tous les pixels, il résiste au recadrage occasionnel, mais une fois que suffisamment de dégradation s'accumule, le détecteur peut être vaincu.

Pushmeet Kohli, scientifique de Google DeepMind, a déclaré à Ars que l'équipe avait conçu le système en s'attendant à ce qu'il soit attaqué. "Tout au long du processus de développement, nous avons en quelque sorte supposé qu'une technologie comme celle-ci serait attaquée", a déclaré Kohli. "Nous avons donc fait beaucoup de recherches pour rendre SynthID robuste à différents types de transformations. Que les gens ajoutent une sorte de filtre ou recadrent l'image, nous avons utilisé ces transformations et nous sommes assurés que le détecteur était robuste face à elles."

Les filigranes se développent dans tout le secteur

Le test arrive alors que l'adoption de SynthID s'étend au-delà des propres produits de Google. La société a conclu des partenariats pour étendre l'utilisation du filigrane, avec OpenAI, Runway et Nvidia parmi ceux qui commencent à intégrer la technologie dans leurs outils génératifs. Google a été réticent à divulguer beaucoup de détails techniques au-delà du document de recherche original, c'est pourquoi les tests indépendants du type de ceux menés par Ars sont importants à mesure que le filigrane prolifère dans le paysage de l'IA.

Les étiquettes seules ne suffisent pas

La tension centrale exposée par l’expérience est que même un filigrane robuste n’est utile que dans la mesure où les plateformes et les utilisateurs sont disposés à le vérifier. La détection SynthID n’est pas encore largement intégrée aux réseaux sociaux et aux applications de messagerie où se propagent la plupart des médias manipulés. Un filigrane qui survit à 300 cycles de compression offre peu de protection si personne à la réception ne le recherche.

Les résultats de durabilité sont véritablement encourageants pour le domaine de l’authenticité du contenu. Ils suggèrent qu’un filigrane invisible au niveau des pixels peut servir de base technique fiable pour la provenance. Mais la question plus large, à savoir si la société peut établir des normes, des infrastructures et des incitations pour réagir réellement à ces signaux, reste en suspens. Alors que le volume des médias synthétiques continue de dépasser le cap des 100 milliards d’images, l’écart entre ce que la technologie peut marquer et ce que les plateformes vont modérer devient le défi déterminant.

Gardez une longueur d'avance sur l'IA

Tenez-vous au courant des dernières nouvelles sur l'IA (https://aibuzzwire.news) qui façonnent les politiques, la recherche et les plateformes qui remodèlent Internet.

Lire plus d'actualités sur l'IA