Het Deense Hooggerechtshof oordeelt dat door AI gegenereerde afbeeldingen van kindermisbruik illegaal zijn

Het Hooggerechtshof van Denemarken heeft de veroordeling van een 31-jarige man bekrachtigd voor het maken en verspreiden van meer dan 36.000 door AI gegenereerde afbeeldingen die het seksueel misbruik van kinderen weergeven, waarmee een gevangenisstraf van 18 maanden is bevestigd en een vraag is opgelost die wereldwijd door rechtbanken wordt behandeld: of kunstmatig gegenereerd misbruikmateriaal op dezelfde manier als crimineel wordt behandeld als beelden waarbij echte slachtoffers betrokken zijn. Het antwoord van de rechtbank, dat deze week bekend werd gemaakt, is ondubbelzinnig: door AI gegenereerd materiaal over seksueel kindermisbruik is net zo illegaal en strafbaar als het echte materiaal.

De uitspraak, gerapporteerd door internationale media waaronder Reuters en gepubliceerd via de Deense rechtbanken, sluit een van de eerste baanbrekende beroepstests af van hoe eeuwenoude kinderbeschermingswetgeving generatieve AI absorbeert. De beklaagde was op een lager gerechtelijk niveau veroordeeld voor het bezit en verspreiden van het materiaal, en ging in beroep op het argument dat er geen echt kind betrokken was bij het maken van de beelden. De Hoge Raad verwierp deze redenering volledig en oordeelde dat het fictieve karakter van de afbeeldingen deze niet buiten het strafrecht plaatst. Voor lezers die volgen hoe rechtssystemen reageren op generatieve technologie, behoort het besluit tot de meest consequente artikelen in de AI news over regelgeving van dit jaar.

Waarom de zaak er toe deed

De juridische vraag die centraal staat in de oproep is bedrieglijk eenvoudig: als een beeld wordt gegenereerd in plaats van gefotografeerd, is het dan wel 'materiaal van seksueel misbruik van kinderen'? De verdedigingsargumenten in zaken als deze zijn traditioneel gebaseerd op de afwezigheid van een identificeerbaar slachtoffer: er is geen echt kind gefotografeerd, gewond geraakt of er zelfs maar bij betrokken. Dat argument heeft aan oppervlakkige plausibiliteit gewonnen omdat moderne beeldgeneratoren fotorealistische afbeeldingen kunnen produceren van kinderen die niet bestaan, compleet met realistische gezichten, lichamen en instellingen, zonder enige referentiebeelden van een echte persoon.

De reactie van het Deense Hooggerechtshof brengt de Deense wet in lijn met de beschermende bedoeling van het VN-Verdrag inzake de rechten van het kind, waarvoor de Deense implementatiewet bedoeld is. De rechtbank oordeelde dat de wet geen veilige haven biedt voor fictieve afbeeldingen, en dat door AI gegenereerd materiaal binnen de reikwijdte van bestaande verboden valt. Het praktische gevolg is dat het genereren, bezitten of verspreiden van dergelijke beelden dezelfde criminele gevolgen met zich meebrengt als traditioneel misbruikmateriaal: in dit geval een gevangenisstraf van achttien maanden voor materiaal waarbij nooit een echte foto is gebruikt.

Een uitspraak die verder reikt dan Denemarken

Hoewel het vonnis alleen voor Deense rechtbanken bindend is, is de betekenis ervan internationaal. Aanklagers in heel Europa en Noord-Amerika hebben te kampen gehad met een toename van door AI gegenereerde misbruikbeelden, en rechtbanken in verschillende jurisdicties zijn tot vergelijkbare conclusies gekomen via verschillende juridische routes – sommige baseren zich op wetten die afbeeldingen al omvatten, ongeacht of er een echt kind werd gebruikt, terwijl andere de bestaande obsceniteits- en kinderbeschermingskaders door middel van interpretatie uitbreiden. Wat de Deense uitspraak toevoegt is een duidelijke verklaring op beroepsniveau van een rechtsgebied met een reputatie voor technologisch vooruitstrevend denken op juridisch gebied, waarmee de opkomende internationale consensus wordt versterkt dat de afwezigheid van een echt slachtoffer in het productieproces geen verdediging is.

De omvang van de zaak – meer dan 36.000 afbeeldingen – illustreert waarom de kwestie zo snel is geëscaleerd. Generatieve instrumenten hebben de kosten voor het produceren van misbruikbeelden tot bijna nul teruggebracht, en uit inbeslagnamestatistieken van wetshandhavingsinstanties in meerdere landen is gebleken dat door AI gegenereerd materiaal in een steeds groter deel van de onderzoeken naar kinderuitbuiting voorkomt. In tegenstelling tot traditioneel materiaal kan elk beeld eindeloos worden gegenereerd, geregenereerd en gevarieerd, wat zowel het volume dat onderzoekers moeten beoordelen als het risico vergroot dat realistische vervalsingen worden gebruikt om echte kinderen te verzorgen, chanteren of ongevoelig te maken.

Het bredere optreden van Denemarken tegen generatief misbruik

De uitspraak past in een duidelijk activistische Deense houding ten aanzien van generatieve AI-schade. Denemarken heeft wetgeving bevorderd om het delen van door AI gegenereerde deepfakes van echte mensen zonder toestemming te verbieden, een wetsvoorstel dat burgers een auteursrechtelijke controle zou geven over hun eigen gelijkenis – een aanpak die brede aandacht trok toen deze werd voorgesteld. Wat de kinderbescherming specifiek betreft, hebben de Deense autoriteiten synthetisch misbruikmateriaal behandeld als een prioritair handhavingsdoel in plaats van als een juridische grijze zone.

Die combinatie – agressieve wetgeving gericht op deepfakes en nu een precedent van het Hooggerechtshof op het gebied van AI-gegenereerde CSAM – positioneert Denemarken als referentiepunt voor andere EU-lidstaten die de AI-wet van het blok en de daarmee samenhangende verplichtingen op het gebied van kinderveiligheid implementeren. Platforms en modelaanbieders die in Europa actief zijn, worden nu geconfronteerd met een duidelijker beeld: filter-, detectie- en rapportageverplichtingen rond synthetisch misbruikmateriaal zijn niet beperkt tot beelden afkomstig van echte slachtoffers.

Wat het betekent voor AI-bedrijven

Voor de bedrijven die generatieve beeld- en videomodellen bouwen, verharden uitspraken als deze de juridische omgeving rond een toch al meedogenloos nalevingsgebied. Elk groot grenslaboratorium onderhoudt filters die bedoeld zijn om geseksualiseerde afbeeldingen van minderjarigen te blokkeren, en de industrie heeft geïnvesteerd in herkomstnormen zoals inhoudsreferenties om synthetische media te onderscheiden. Het Deense arrest verandert niets aan deze technische verplichtingen; het verandert de inzet. Wanneer hoven van beroep bevestigen dat gegenereerde misbruikbeelden op dezelfde manier worden vervolgd als fotografisch materiaal, wordt het argument om waarborgen voor misbruikinhoud te behandelen als een kernveiligheidsinfrastructuur in plaats van optionele moderatie vrijwel onbeantwoordbaar.

De uitspraak biedt ook een sjabloon voor wetgevers die nog bezig zijn met het opstellen van hun antwoorden. In plaats van te wachten tot parlementen nieuwe wetten goedkeuren waarin AI-gegenereerd materiaal specifiek wordt benoemd, laten rechtbanken zien dat bestaande kinderbeschermingskaders de technologie kunnen absorberen – maar duidelijke wettelijke taal zou de dubbelzinnigheid wegnemen die beklaagden in toekomstige zaken zullen blijven testen.

De gevangenisstraf van 18 maanden voor de 31-jarige staat nu vast. En de juridische fictie dat “geen enkel echt kind schade heeft geleden” heeft een aanzienlijke, publieke nederlaag geleden in een Europees Hooggerechtshof – een signaal dat zal weerklinken in de vervolging van door AI gegenereerd misbruikmateriaal tot ver buiten de grenzen van Denemarken.

Blijf op de hoogte van AI-regelgeving

Rechtbanken en toezichthouders racen om de generatieve AI bij te houden. Voor geverifieerde rapportage over AI-wetgeving, -beleid en -handhaving volgt u AI Buzz Wire.

Lees meer AI-nieuws →