Representanter från OpenAI och Meta Platforms berättade för en federal rättspanel på torsdagen att AI-genererade deepfakes har blivit så avancerade att det kommer att bli svårare att verifiera äktheten av ljud- och videobevis i domstol, rapporterade Reuters.
Teknikexperterna presenterade sina farhågor vid ett möte i Boston med US Judicial Conference's Advisory Committee on Evidence Rules — det organ som ansvarar för att rekommendera ändringar av de federala reglerna som styr vilka bevis domstolar kan tillåta. Kommittén har arbetat sedan 2023 med hur man kan hantera riskerna med påhittade AI-genererade bevis i rättssalar. For more context on this story, see our ongoing more AI stories.
AI Labs säger att upptäckt har ingen vetenskaplig framtid
Shira Anderson, policyrådgivare vid OpenAI, sa till kommittén att AI-bilder fortsätter att förbättras i kvalitet och sa att hon inte tror att det kommer att finnas någon vetenskaplig metod för att upptäcka dem i framtiden – ett slående erkännande från ett företag som bygger de generativa systemen som producerar det innehållet.
Devin Norder, chef för produkthantering på Meta, berättade för panelen att medier som skapats av nyare AI-modeller inte kan särskiljas av människor från autentiskt innehåll, och att skapa sådana medier nu kräver minimal kostnad och tid.
Båda företagen har utvecklat härkomst- och verifieringsverktyg för visuellt innehåll, och nya lagar i Kalifornien och EU kräver vattenmärkning av AI-genererade media. Men Anderson varnade kommittén för att varje företag använder sitt eget system, vilket innebär att det inte finns någon universell metod för att tillförlitligt upptäcka alla vattenstämplar eller verifiera äktheten av visuellt innehåll i hela ekosystemet.
Domstolar har ännu inte känt vågen
Kommitténs ordförande, den amerikanske distriktsdomaren Jesse Furman från Manhattan, erbjöd en motvikt till larmet: medan akademiska kommentarer förutspår att domstolar kommer att ta itu med djupförfalskningar, har frågan ännu inte dykt upp ofta i faktiska fall.
En undersökning som genomfördes av Federal Judicial Center i mars underströk denna klyfta. Endast 15 av 931 domare som svarade hade stött på ett fall där en part ifrågasatte bevis på grund av att det var en deepfake.
Det gapet mellan förutsägelse och praktik är kommitténs kärndilemma. Enligt Federal Rules of Evidence 901 och 902 är den befintliga standarden för autentisering av bevis - som kommitténs egen rapport uttryckte det - en mild sådan: en part behöver bara framlägga bevis som är tillräckliga för att stödja ett konstaterande att föremålet är vad förespråkaren hävdar att det är. Deepfakes stresstestar den standarden, eftersom de traditionella vägarna för autentisering av inspelningar (vittnesuppgifter, systemdokumentation) antar att förfalskning i stor skala är svårt, dyrt och upptäckbart.
Utskottets egen rapportering har ramat in problemet med ovanlig trubbighet. Dess rapport från december 2025 undersökte vad som händer när en video eller ett ljud som erbjuds vid rättegången är en djupförfalskning, och drog slutsatsen att det utgör en direkt utmaning mot äkthetskraven enligt reglerna 901 och 902, just för att den befintliga standarden för äkthet är mild. Hur - och om - man ska hårdna den standarden är frågan som kommittén har kretsat kring i tre år, och det blir mer angeläget om, som laboratorierepresentanterna varnade, detektionsvetenskapen aldrig kommer ikapp generationsvetenskapen.
Vad utövare kan göra nu
Tills reglerna ändras, faller den praktiska bördan på processledare och rättegångsdomare. Ursprungsverktyg – kryptografiska innehållsuppgifter inbäddade vid skapandet – sprids genom kameraappar och kreativ programvara, även om de bara hjälper för media som bär dem. Korsförhör under ed av den person som spelade in en inspelning, upptäcktskrav på originalfiler och genereringsmetadata och närmare granskning av klipp utan källa som cirkulerar på sociala plattformar är de nuvarande försvaren. Den rådgivande kommitténs budskap denna vecka var faktiskt att dessa stopp kommer att behöva en formell grund på regelnivå, eftersom de informella antar en detekterbarhet som OpenAI och Meta säger inte längre existerar.
Varför labbens vittnesmål är viktiga
Det är anmärkningsvärt att de företag vars produkter skapar risken är de som varnar rättsväsendet om det. OpenAI och Meta har direkta kommersiella och anseende intressen i hur reglerna landar: strikta autentiseringskrav kan skapa friktion mot legitim användning av AI-media, medan slappa sådana kan göra sina verktyg till vektorer för rättssalsbedrägerier. Deras budskap till kommittén var i själva verket att härkomststandarder – vattenmärkning, innehållsreferenser, dokumentation om spårbarhetskedjan – är den fungerande vägen, eftersom detektion ensam inte kommer att skalas.
Kommitténs treåriga granskning förväntas informera om de federala bevisreglerna behöver ändras för AI-eran. Varje förändring skulle gå igenom den rättsliga konferensens regelgivningsprocess, inklusive offentliga kommentarer, innan de går till kongressen.
Den bredare regulatoriska bilden
Utfrågningen landar mitt i en explosion av deepfake-relaterad policyaktivitet. Kalifornien och EU har antagit mandat för vattenmärkning. Danmark har avancerad lagstiftning som förbjuder delning av AI deepfakes utan samtycke. Amerikanska domstolar har redan sett AI-genererade tillverkningar dyka upp i ansökningar, och domare har sanktionerat advokater för att ha skickat in falska citat genererade av chatbots.
För nu väljer det federala rättsväsendet noggranna studier framför snabba regeländringar. Men vittnesmålen från företagen som bygger tekniken tyder på att industrin själv inte förväntar sig att detektionsverktyg ska hålla jämna steg – vilket flyttar bördan mot härkomststandarder, procedurskydd som krav på levande vittnesmål och i slutändan domarnas och juryernas bedömningar om vad de ska tro.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
