Vertegenwoordigers van OpenAI en Meta Platforms vertelden donderdag aan een federaal gerechtelijk panel dat door AI gegenereerde deepfakes zo geavanceerd zijn geworden dat het verifiëren van de authenticiteit van audio- en videobewijs in de rechtbank moeilijker zal worden, meldde Reuters.

De technologie-experts presenteerden hun zorgen tijdens een bijeenkomst in Boston van de Advisory Committee on Evidence Rules van de Amerikaanse Judicial Conference – het orgaan dat verantwoordelijk is voor het aanbevelen van wijzigingen in de federale regels die bepalen welk bewijsrechtbanken kunnen toelaten. De commissie werkt sinds 2023 aan de manier waarop de risico’s van verzonnen, door AI gegenereerd bewijsmateriaal in rechtszalen kunnen worden aangepakt. Voor meer context over dit verhaal, zie ons AI-trends.

AI-labs zeggen dat detectie geen wetenschappelijke toekomst heeft

Shira Anderson, beleidsadviseur bij OpenAI, vertelde de commissie dat AI-beelden in kwaliteit blijven verbeteren, en zei dat ze niet gelooft dat er in de toekomst een wetenschappelijke methode zal bestaan om ze te detecteren – een opvallende bekentenis van een bedrijf dat de generatieve systemen bouwt die die inhoud produceren.

Devin Norder, directeur productmanagement bij Meta, vertelde het panel dat media die zijn gecreëerd door recente AI-modellen niet door mensen kunnen worden onderscheiden van authentieke inhoud, en dat het creëren van dergelijke media nu minimale kosten en tijd vereist.

Beide bedrijven hebben herkomst- en verificatietools voor visuele inhoud ontwikkeld, en nieuwe wetten in Californië en de Europese Unie vereisen watermerken van door AI gegenereerde media. Maar Anderson waarschuwde de commissie dat elk bedrijf zijn eigen systeem gebruikt, wat betekent dat er geen universele methode bestaat om op betrouwbare wijze alle watermerken te detecteren of de authenticiteit van visuele inhoud in het hele ecosysteem te verifiëren.

Rechtbanken hebben de golf nog niet gevoeld

De voorzitter van de commissie, de Amerikaanse districtsrechter Jesse Furman uit Manhattan, bood tegenwicht aan de alarmbel: hoewel academisch commentaar voorspelt dat rechtbanken zich zullen bezighouden met deepfakes, is de kwestie in daadwerkelijke zaken nog niet vaak aan de orde geweest.

Een onderzoek dat in maart door het Federaal Gerechtelijk Centrum werd uitgevoerd, onderstreepte deze kloof. Slechts 15 van de 931 rechters die reageerden, waren een zaak tegengekomen waarin een partij bewijsmateriaal betwistte op grond van het feit dat het een deepfake was.

Die kloof tussen voorspelling en praktijk is het kerndilemma van de commissie. Volgens de Federal Rules of Evidence 901 en 902 is de bestaande norm voor het authentiseren van bewijsmateriaal – zoals het eigen rapport van de commissie het stelt – mild: een partij hoeft alleen voldoende bewijsmateriaal te overleggen om de conclusie te ondersteunen dat het item is wat de voorstander beweert dat het is. Deepfakes stellen deze norm aan een stresstest, omdat de traditionele methoden voor het authenticeren van opnamen (getuigenverklaringen, systeemdocumentatie) ervan uitgaan dat vervalsing op grote schaal moeilijk, duur en detecteerbaar is.

De eigen rapportage van de commissie heeft het probleem met ongebruikelijke botheid geformuleerd. In het rapport van december 2025 werd onderzocht wat er gebeurt als een video of audio die tijdens het proces wordt aangeboden een deepfake is, en concludeert dat het een directe uitdaging vormt voor de authenticiteitsvereisten onder de regels 901 en 902, juist omdat de bestaande authenticiteitsnorm mild is. Hoe – en of – die norm moet worden aangescherpt, is de vraag waar de commissie al drie jaar mee rondloopt, en wordt urgenter als, zoals de laboratoriumvertegenwoordigers waarschuwden, de detectiewetenschap de generatiewetenschap nooit zal inhalen.

Wat beoefenaars nu kunnen doen

Totdat de regels veranderen, ligt de praktische last bij procesadvocaten en rechters. Herkomsthulpmiddelen – cryptografische inhoudsreferenties die zijn ingebed tijdens de creatie – verspreiden zich via camera-apps en creatieve software, hoewel ze alleen helpen voor media die deze bevatten. Kruisverhoor onder ede van de persoon die een opname heeft gemaakt, eisen voor het ontdekken van originele bestanden en het genereren van metagegevens, en nauwkeuriger onderzoek van niet-gesourcede clips die op sociale platforms circuleren, zijn de huidige verdedigingsmechanismen. De boodschap van de adviescommissie deze week was feitelijk dat deze noodoplossingen een formele basis op regelniveau nodig hebben, omdat de informele een detecteerbaarheid veronderstellen die volgens OpenAI en Meta niet langer bestaat.

Waarom de getuigenis van het Lab belangrijk is

Opvallend is dat het de bedrijven wier producten het risico opleveren, degenen zijn die de rechterlijke macht hiervoor waarschuwen. OpenAI en Meta hebben directe commerciële en reputatiebelangen bij de manier waarop de regels terechtkomen: strikte authenticatievereisten kunnen wrijving veroorzaken bij het legitieme gebruik van AI-media, terwijl lakse vereisten hun instrumenten tot vectoren voor rechtszaalfraude kunnen maken. Hun boodschap aan de commissie was in feite dat herkomstnormen – watermerken, inhoudsreferenties, chain-of-custody-documentatie – de werkbare weg zijn, omdat detectie alleen niet schaalbaar is.

Verwacht wordt dat de driejaarlijkse evaluatie van de commissie zal uitwijzen of de federale bewijsregels moeten worden aangepast voor het AI-tijdperk. Elke verandering zou het regelgevingsproces van de Judicial Conference doorlopen, inclusief publiek commentaar, voordat het naar het Congres zou gaan.

Het bredere regelgevingsbeeld

De hoorzitting vindt plaats te midden van een uitbarsting van deepfake-gerelateerde beleidsactiviteiten. Californië en de EU hebben watermerkmandaten ingevoerd. Denemarken heeft geavanceerde wetgeving ingevoerd die het delen van AI-deepfakes zonder toestemming verbiedt. Amerikaanse rechtbanken hebben al door AI gegenereerde verzinsels in dossiers zien opduiken, en rechters hebben advocaten gesanctioneerd voor het indienen van valse citaten gegenereerd door chatbots.

Voorlopig verkiest de federale rechterlijke macht zorgvuldig onderzoek boven snelle regelwijzigingen. Maar de getuigenissen van de bedrijven die de technologie bouwen suggereren dat de industrie zelf niet verwacht dat de detectietools gelijke tred houden – wat de last verschuift naar herkomstnormen, procedurele waarborgen zoals vereisten voor live getuigenissen, en uiteindelijk het oordeel van rechters en jury’s over wat ze moeten geloven.

---

Blijf Voorop met AI

Het laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.

Lees meer AI-nieuws →