Des représentants d'OpenAI et de Meta Platforms ont déclaré jeudi à un comité judiciaire fédéral que les deepfakes générés par l'IA sont devenus si avancés qu'il deviendra plus difficile de vérifier l'authenticité des preuves audio et vidéo devant les tribunaux, a rapporté Reuters.
Les experts en technologie ont présenté leurs préoccupations lors d'une réunion à Boston du Comité consultatif sur les règles de preuve de la Conférence judiciaire américaine — l'organisme chargé de recommander des modifications aux règles fédérales qui régissent les preuves que les tribunaux peuvent admettre. Le comité travaille depuis 2023 sur la manière de gérer les risques liés aux preuves fabriquées générées par l’IA dans les salles d’audience. Pour plus de contexte sur cette histoire, consultez notre dernières avancées en IA.
AI Labs affirment que la détection n’a pas d’avenir scientifique
Shira Anderson, conseillère politique chez OpenAI, a déclaré au comité que la qualité des images d'IA continue de s'améliorer et a déclaré qu'elle ne croyait pas qu'une méthode scientifique permettant de les détecter existerait à l'avenir – un aveu frappant de la part d'une entreprise qui construit les systèmes génératifs produisant ce contenu.
Devin Norder, directeur de la gestion des produits chez Meta, a déclaré au panel que les médias créés par les modèles d'IA récents ne peuvent pas être distingués par les humains du contenu authentique, et que la création de tels médias nécessite désormais un coût et un temps minimes.
Les deux sociétés ont développé des outils de provenance et de vérification du contenu visuel, et de nouvelles lois en Californie et dans l’Union européenne exigent le filigrane des médias générés par l’IA. Mais Anderson a averti le comité que chaque entreprise utilise son propre système, ce qui signifie qu'il n'existe aucune méthode universelle pour détecter de manière fiable tous les filigranes ou vérifier l'authenticité du contenu visuel dans l'ensemble de l'écosystème.
Les tribunaux n'ont pas encore ressenti la vague
Le président du comité, le juge de district américain Jesse Furman de Manhattan, a proposé un contrepoids à cette alarme : alors que les commentaires universitaires prédisent que les tribunaux traiteront les deepfakes, le problème n'est pas encore apparu fréquemment dans les cas réels.
Une enquête menée par le Centre judiciaire fédéral en mars a souligné cette lacune. Seuls 15 des 931 juges qui ont répondu avaient été confrontés à un cas dans lequel une partie avait contesté une preuve au motif qu'il s'agissait d'un deepfake.
Cet écart entre les prévisions et la pratique constitue le principal dilemme du comité. En vertu des Règles fédérales de preuve 901 et 902, la norme existante pour authentifier les preuves est — comme le dit le propre rapport du comité — une norme douce : une partie doit seulement produire des preuves suffisantes pour étayer la conclusion que l'élément est ce que le promoteur prétend qu'il est. Deepfakes teste cette norme, car les voies traditionnelles d'authentification des enregistrements (témoignages, documentation du système) supposent que la contrefaçon à grande échelle est difficile, coûteuse et détectable.
Les propres rapports du comité ont formulé le problème avec une brutalité inhabituelle. Son rapport de décembre 2025 a examiné ce qui se passe lorsqu'une vidéo ou un audio proposé lors d'un procès est un deepfake, concluant qu'il constitue un défi direct aux exigences d'authenticité des règles 901 et 902, précisément parce que la norme d'authenticité existante est douce. Comment – et si – il faut durcir cette norme, telle est la question sur laquelle le comité tourne depuis trois ans, et elle devient plus urgente si, comme les représentants du laboratoire l'ont prévenu, la science de la détection ne rattrape jamais la science de la génération.
Ce que les praticiens peuvent faire maintenant
Jusqu’à ce que les règles changent, la charge pratique incombe aux plaideurs et aux juges de première instance. Les outils de provenance (informations d'identification de contenu cryptographique intégrées au moment de la création) se propagent via les applications d'appareil photo et les logiciels de création, bien qu'ils ne soient utiles que pour les médias qui les contiennent. Le contre-interrogatoire sous serment de la personne qui a capturé un enregistrement, les demandes de découverte des fichiers originaux et des métadonnées de génération, et un examen plus approfondi des clips non sourcés circulant sur les plateformes sociales sont les défenses actuelles. Le message du comité consultatif cette semaine était en fait que ces solutions provisoires nécessiteraient une base formelle au niveau des règles, car les règles informelles supposent une détectabilité qui, selon OpenAI et Meta, n'existe plus.
Pourquoi le témoignage des laboratoires est important
Il est à noter que ce sont les entreprises dont les produits créent ce risque qui en avertissent le pouvoir judiciaire. OpenAI et Meta ont des intérêts commerciaux et de réputation directs dans la façon dont les règles sont appliquées : des exigences d'authentification strictes pourraient imposer des frictions sur les utilisations légitimes des médias d'IA, tandis que des exigences laxistes pourraient faire de leurs outils des vecteurs de fraude judiciaire. Leur message au comité était en fait que les normes de provenance – filigrane, informations d'identification du contenu, documentation de la chaîne de traçabilité – constituent la voie à suivre, car la détection seule ne peut pas évoluer.
L'examen triennal du comité devrait déterminer si les règles fédérales en matière de preuve doivent être modifiées à l'ère de l'IA. Tout changement passerait par le processus d'élaboration de règles de la Conférence judiciaire, y compris les commentaires du public, avant d'être soumis au Congrès.
Le tableau réglementaire plus large
L’audience se déroule au milieu d’une explosion d’activités politiques liées aux deepfakes. La Californie et l'UE ont adopté des mandats de filigrane. Le Danemark a proposé une législation interdisant le partage de deepfakes d’IA sans consentement. Les tribunaux américains ont déjà vu apparaître dans des dossiers des fabrications générées par l’IA, et les juges ont sanctionné des avocats pour avoir soumis de fausses citations générées par des chatbots.
Pour l’instant, le pouvoir judiciaire fédéral préfère une étude minutieuse plutôt que des changements rapides de règles. Mais les témoignages des entreprises qui développent la technologie suggèrent que l’industrie elle-même ne s’attend pas à ce que les outils de détection suivent le rythme – ce qui déplace le fardeau vers les normes de provenance, les garanties procédurales telles que les exigences en matière de témoignage en direct et, en fin de compte, le jugement des juges et des jurys sur ce qu’il faut croire.
---
Restez à la Pointe de l'IALes dernières actualités, analyses et percées en IA — au même endroit.
Lire plus d'actualités IA →
