Anthropic commencera à appliquer des filigranes invisibles au texte généré par ses modèles Claude, a confirmé la société cette semaine, devenant ainsi le dernier fournisseur d'IA à ajouter des signaux de provenance lisibles par machine en réponse aux nouvelles règles européennes de transparence.
Le changement, détaillé dans une page d'assistance mise à jour, signifie que le contenu produit par Claude portera une signature cachée conçue pour survivre à la copie et au collage ailleurs. Il s'agit d'une réponse directe au Code de transparence de la loi sur l'IA de l'Union européenne, entré en vigueur le 2 août et qui oblige les sociétés d'IA à marquer le contenu généré ou modifié de manière à ce que d'autres systèmes puissent le détecter.
Comment fonctionne le filigrane
Anthropic a déclaré que tous les modèles publiés après le 2 août incluront automatiquement une technologie permettant de filigraner à la fois le texte et les fichiers générés par ordinateur. Pour les fichiers, la société adopte la norme ouverte C2PA, un cadre d'identification de contenu déjà utilisé par certains fabricants d'appareils photo et des outils d'édition d'images pour enregistrer la façon dont un média a été créé.
Le filigrane de texte est intégré au niveau du modèle plutôt que appliqué après coup. Selon la documentation d'assistance d'Anthropic, "parce que le filigrane fait partie du texte, il voyagera avec le texte lorsqu'il est copié et collé ailleurs, et peut persister lors de certaines modifications. Le filigrane sera appliqué au niveau du modèle, ce qui signifie qu'il sera présent quel que soit le produit ou la surface Claude d'où provient le texte. "
La société a ajouté qu'elle prévoyait d'étendre également la prise en charge du filigrane aux anciens modèles. La fonctionnalité s'appliquera à l'ensemble de la gamme de produits Anthropic, notamment l'API de la plateforme Claude, l'application de chat Claude, Claude Code, Claude Cowork et Claude Tag.
Le nombre exact de modifications qu'un utilisateur devrait effectuer pour supprimer la marque n'est pas tout à fait clair, et Anthropic n'a pas publiquement détaillé la technique. Le tatouage de texte est techniquement difficile, car de petites modifications apportées à la formulation peuvent briser des modèles statistiques fragiles, un défi de longue date pour les chercheurs dans ce domaine.
Pas de désinscription pour les utilisateurs
Notamment, les utilisateurs de Claude ne pourront pas désactiver le filigrane. Le paramètre est appliqué par le modèle lui-même plutôt que basculé par requête, ce qui signifie que toute personne générant du texte via une surface Claude le verra marqué, qu'elle le veuille ou non.
Cette position est susceptible de susciter des réticences de la part de certains utilisateurs professionnels. Les écrivains, les développeurs et les entreprises qui utilisent Claude pour rédiger du contenu se sont habitués à des résultats clairs et non marqués, et certains peuvent être mal à l'aise avec une signature invisible qui suit leur texte sur Internet. Anthropic semble avoir conclu que la conformité réglementaire l’emporte sur cette préférence.
Fait partie d'une ruée industrielle plus large
Anthropic n’agit pas seul. Les exigences de transparence de l'UE ont déclenché une course entre les plateformes d'IA et de contenu pour ajouter des signaux de provenance avant que les régulateurs n'interviennent.
La semaine dernière, la plateforme musicale IA Suno a annoncé qu'elle commencerait à marquer les pistes créées sur son service après une vague de contestations judiciaires concernant l'audio généré par l'IA. Le mois dernier, la plateforme de newsletter Substack s'est associée à la société de détection Pangram pour signaler le contenu généré par l'IA, le PDG de Substack, Chris Best, appelant publiquement « Claudefishing », son terme désignant les personnes utilisant l'IA pour inonder les plateformes de matériel de mauvaise qualité.
La pression s'étend bien au-delà des concurrents directs d'Anthropic. Selon un rapport de TechCrunch, Black Forest Labs, Google, Meta, Microsoft, OpenAI et Synthesia se sont tous engagés à adhérer au code de transparence de l'UE, signalant que le filigrane est en train de devenir rapidement une attente de base de l'industrie plutôt qu'un différenciateur.
Pourquoi la provenance est soudainement urgente
La poussée en faveur des filigranes reflète deux inquiétudes convergentes. Le premier est d’ordre réglementaire : la loi européenne sur l’IA est désormais en vigueur, et les entreprises qui ne s’y conforment pas s’exposent à des sanctions importantes. Mettre en place rapidement une infrastructure de provenance coûte moins cher que de la moderniser sous la pression des autorités.
La seconde est la réputation. Alors que le texte, les images, l'audio et la vidéo générés par l'IA ont inondé les plateformes sociales, les éditeurs et les plateformes sont confrontés à des réactions négatives croissantes face au « slop de l'IA », un contenu synthétique de mauvaise qualité qui éclipse le travail humain et érode la confiance. Les filigranes invisibles offrent une réponse technique à une question que la modération seule ne peut pas résoudre : ceci a-t-il été écrit par une machine ?
Pour Anthropic, qui a construit sa marque autour de la sécurité de l’IA, l’adoption des filigranes est également une démarche de crédibilité. Une entreprise qui se présente comme une alternative responsable est fortement incitée à faire preuve de transparence plutôt que de paraître traîner les pieds.
Les questions les plus difficiles restent en suspens. Les filigranes ne sont utiles que si les outils de détection les recherchent réellement et si les marques s'avèrent suffisamment robustes pour survivre à l'édition, au reformatage et au blanchiment qui se produisent à mesure que le contenu se déplace sur le Web ouvert. Le pari d'Anthropic est que l'intégration du signal au niveau du modèle est l'approche la plus durable. Sa tenue dans la pratique sera testée rapidement et publiquement dans les mois à venir.
Pour une couverture continue de la politique en matière d'IA et des outils qui remodèlent l'industrie, ajoutez Couverture des dernières nouvelles sur l'IA par AI Buzz Wire dans vos favoris.
