Dánský nejvyšší soud rozhodl, že obrázky se zneužíváním dětí generované umělou inteligencí jsou nezákonné

Dánský nejvyšší soud potvrdil odsouzení 31letého muže za vytvoření a distribuci více než 36 000 snímků vytvořených umělou inteligencí zobrazující sexuální zneužívání dětí, potvrdil 18měsíční trest odnětí svobody a vyřešil otázku, která se hýbe soudy po celém světě: zda je s uměle vytvořeným materiálem o zneužívání zacházeno jako se zločinem stejně jako se snímky zahrnujícími skutečné oběti. Odpověď soudu, oznámená tento týden, je jednoznačná – materiál o sexuálním zneužívání dětí generovaný umělou inteligencí je stejně nezákonný a postižitelný jako skutečná věc.

Rozhodnutí, o kterém informovala mezinárodní média včetně Reuters a které bylo zveřejněno prostřednictvím dánských soudů, uzavírá jeden z prvních přelomových odvolacích testů toho, jak staletý zákon na ochranu dětí absorbuje generativní umělou inteligenci. Obžalovaný byl u soudu nižšího stupně odsouzen za držení a distribuci materiálu a odvolal se s argumentem, že na výrobě obrázků nebylo zapojeno žádné skutečné dítě. Nejvyšší soud tuto úvahu zcela odmítl, když shledal, že fiktivní povaha vyobrazení je nestaví mimo trestní zákon. Pro čtenáře, kteří sledují, jak právní systémy reagují na generativní technologie, se toto rozhodnutí řadí k nejzávažnějším příspěvkům v letošních AI news o regulaci.

Proč na případu záleželo

Právní otázka v jádru odvolání je klamně jednoduchá: když je obrázek vytvořen, nikoli fotografován, jedná se vůbec o „materiál týkající se sexuálního zneužívání dětí“? Obranné argumenty v případech, jako je tento, se tradičně opíraly o nepřítomnost identifikovatelné oběti – žádné skutečné dítě nebylo vyfotografováno, zraněno nebo dokonce zapleteno. Tento argument získává povrchní věrohodnost, protože moderní generátory obrázků mohou vytvářet fotorealistická zobrazení dětí, které neexistují, doplněné realistickými tvářemi, těly a prostředím, bez jakéhokoli referenčního zobrazení skutečné osoby.

Odpověď dánského nejvyššího soudu uvádí dánské právo do souladu s ochranným záměrem Úmluvy OSN o právech dítěte, jemuž má dánský prováděcí zákon sloužit. Soud rozhodl, že zákon nevytváří bezpečný přístav pro fiktivní zobrazení a že materiál generovaný umělou inteligencí spadá do rozsahu stávajících zákazů. Praktickým důsledkem je, že generování, držení nebo distribuce takových obrázků je vystaveno stejné trestné činnosti jako tradiční materiál se zneužíváním – v tomto případě 18měsíční trest za materiál, který nikdy nezahrnoval skutečnou fotografii.

Rozhodnutí s dosahem mimo Dánsko

Přestože rozsudek zavazuje pouze dánské soudy, jeho význam je mezinárodní. Žalobci v celé Evropě a Severní Americe se potýkají s prudkým nárůstem zobrazení zneužívání generovaného umělou inteligencí a soudy v několika jurisdikcích dospěly k podobným závěrům různými právními cestami – některé se opírají o zákony, které již pokrývají zobrazení bez ohledu na to, zda bylo použito skutečné dítě, jiné rozšiřují stávající rámce obscénnosti a ochrany dětí výkladem. To, co dánský rozsudek dodává, je jasné prohlášení na úrovni odvolacího soudu od jurisdikce s pověstí technologického pokrokového myšlení v právu, které posiluje vznikající mezinárodní konsenzus, že nepřítomnost skutečné oběti ve výrobním procesu není obrana.

Rozsah případu – více než 36 000 obrázků – ilustruje, proč se problém tak rychle vyostřil. Generativní nástroje snížily náklady na výrobu snímků zneužívání téměř na nulu a statistiky o záchytech od orgánů činných v trestním řízení v mnoha zemích ukázaly, že materiál vytvořený umělou inteligencí se objevuje ve stále větším podílu vyšetřování zneužívání dětí. Na rozdíl od tradičního materiálu lze každý obrázek generovat, regenerovat a donekonečna variovat, což znásobuje objem, který musí vyšetřovatelé třídit, i riziko, že realistické padělky budou použity k ženichovi, vydírání nebo znecitlivění skutečných dětí.

Dánský širší zásah proti generativnímu zneužívání

Rozhodnutí zapadá do výrazně aktivistického dánského postoje ohledně generativních škod způsobených umělou inteligencí. Dánsko prosazuje legislativu zakazující sdílení AI generovaných deepfakes skutečných lidí bez souhlasu, což je návrh zákona, který by občanům poskytl autorskoprávní kontrolu nad jejich vlastní podobiznou – přístup, který při jeho navrhování přitáhl širokou pozornost. Pokud jde konkrétně o ochranu dětí, dánské úřady považovaly syntetický materiál na zneužívání za prioritní cíl vymáhání spíše než za legální šedou zónu.

Tato kombinace – agresivní legislativa zaměřená na deepfakes a nyní precedent Nejvyššího soudu ohledně CSAM generovaných umělou inteligencí – staví Dánsko jako referenční bod pro ostatní členské státy EU, které zavádějí blokový zákon o AI a související závazky v oblasti bezpečnosti dětí. Platformy a poskytovatelé modelů působící v Evropě nyní čelí jasnějšímu obrazu: povinnosti filtrování, detekce a hlášení týkající se syntetického materiálu zneužívání se neomezují na snímky odvozené od skutečných obětí.

Co to znamená pro společnosti AI

Pro společnosti vytvářející generativní obrazové a video modely zpřísňují rozhodnutí, jako je toto, právní prostředí v již tak neúprosné oblasti dodržování předpisů. Každá velká hraniční laboratoř udržuje filtry určené k blokování sexualizovaných zobrazení nezletilých a průmysl investoval do standardů původu, jako jsou přihlašovací údaje k rozlišení syntetických médií. Dánský rozsudek nemění tyto inženýrské povinnosti – mění sázky. Když odvolací soudy potvrdí, že vytvořené snímky zneužití jsou stíhány stejně jako fotografický materiál, argument pro zacházení se zabezpečením proti zneužití jako s hlavní bezpečnostní infrastrukturou spíše než s volitelnou moderací se stává téměř nezodpověditelným.

Rozsudek také nabízí šablonu pro zákonodárce, kteří stále navrhují své odpovědi. Namísto čekání na to, až parlamenty schválí nové zákony, které konkrétně pojmenují materiál vytvořený umělou inteligencí, soudy prokazují, že stávající rámce ochrany dětí mohou technologii absorbovat – ale jasný zákonný jazyk by odstranil nejednoznačnost, kterou budou obžalovaní v budoucích případech nadále testovat.

Osmnáctiměsíční trest 31letého muže nyní platí. A právní fikce, že „nebylo poškozeno žádné skutečné dítě“, utrpěla značnou veřejnou porážku u evropského nejvyššího soudu – signál, který se bude odrážet při stíhání materiálů o zneužívání generovaných umělou inteligencí daleko za hranicemi Dánska.

Zůstaňte informováni o nařízení o umělé inteligenci

Soudy a regulační orgány se předhánějí, kdo udrží krok s generativní AI. Chcete-li získat ověřené zprávy o zákonech, zásadách a prosazování AI, sledujte [AI Buzz Wire] (https://aibuzzwire.news).

Přečtěte si další zprávy o AI →