Curtea Supremă daneză consideră că imaginile de abuz asupra copiilor generate de IA sunt ilegale

Curtea Supremă a Danemarcei a menținut condamnarea unui bărbat în vârstă de 31 de ani pentru crearea și distribuirea a peste 36.000 de imagini generate de inteligență artificială care descriu abuzul sexual asupra copiilor, confirmând o pedeapsă de 18 luni de închisoare și soluționând o problemă care a trecut prin instanțe din întreaga lume: dacă materialul generat artificial de abuz este tratat în același mod ca o victimă reală ca și materiale criminale. Răspunsul instanței, anunțat săptămâna aceasta, este fără echivoc – materialele de abuz sexual asupra copiilor generate de inteligență artificială sunt la fel de ilegale și pedepsite ca și cele reale.

Hotărârea, raportată de instituții internaționale, inclusiv Reuters și publicată de instanțele daneze, încheie unul dintre primele teste de apel de referință despre modul în care legea veche de secole în domeniul protecției copilului absoarbe IA generativă. Inculpatul fusese condamnat la nivelul instanței inferioare pentru deținerea și distribuirea materialului și a făcut apel pe motiv că nu a fost implicat niciun copil real în realizarea imaginilor. Curtea Supremă a respins acest raționament în totalitate, constatând că caracterul fictiv al reprezentărilor nu le plasează în afara legii penale. Pentru cititorii care urmăresc modul în care sistemele juridice răspund la tehnologia generativă, decizia se află printre cele mai importante intrări în AI news din acest an despre reglementare.

De ce a contat cazul

Întrebarea juridică din centrul recursului este înșelător de simplă: atunci când o imagine este generată mai degrabă decât fotografiată, este vorba despre „material de abuz sexual asupra copiilor”? Argumentele apărării în cazuri ca acesta s-au bazat în mod tradițional pe absența unei victime identificabile - niciun copil real nu a fost fotografiat, rănit sau chiar implicat. Acest argument a câștigat plauzibilitate la suprafață, deoarece generatoarele moderne de imagini pot produce reprezentări fotorealiste ale copiilor care nu există, complete cu fețe, corpuri și decoruri realiste, fără nicio imagine de referință a unei persoane reale.

Răspunsul Curții Supreme daneze aliniază legislația daneză cu intenția protectoare a Convenției ONU privind drepturile copilului, pe care legea daneză de implementare este menită să o servească. Instanța a stabilit că legea nu creează un port sigur pentru reprezentările fictive și că materialul generat de AI se încadrează în domeniul de aplicare a interdicțiilor existente. Consecința practică este că generarea, deținerea sau distribuirea unor astfel de imagini implică aceeași expunere penală ca și materialul tradițional de abuz - o pedeapsă de 18 luni în acest caz, pentru material care nu a implicat niciodată o fotografie reală.

O hotărâre cu acoperire dincolo de Danemarca

Deși hotărârea obligă numai instanțele daneze, semnificația ei este internațională. Procurorii din Europa și America de Nord s-au confruntat cu o creștere a imaginilor de abuz generate de inteligență artificială, iar instanțele din mai multe jurisdicții au ajuns la concluzii similare prin diferite căi legale - unele bazându-se pe statute care acoperă deja reprezentări, indiferent dacă a fost folosit un copil real, altele extinzând cadrele existente de obscenitate și protecție a copilului prin interpretare. Ceea ce adaugă hotărârea daneză este o declarație clară, la nivel de apel, din partea unei jurisdicții cu o reputație de perspectivă tehnologică în drept, întărind consensul internațional că absența unei victime reale în procesul de producție nu este o apărare.

Amploarea cazului – peste 36.000 de imagini – ilustrează de ce problema a escaladat atât de repede. Instrumentele generative au prăbușit costul producerii imaginilor de abuz la aproape zero, iar statisticile privind confiscările de la agențiile de aplicare a legii din mai multe țări au arătat că materialele generate de inteligență artificială apar într-o pondere tot mai mare a investigațiilor privind exploatarea copiilor. Spre deosebire de materialul tradițional, fiecare imagine poate fi generată, regenerată și variată la nesfârșit, ceea ce multiplică atât volumul pe care anchetatorii trebuie să trieze, cât și riscul ca falsurile realiste să fie folosite pentru a îngriji, șantaj sau desensibiliza copiii adevărați.

Reprimarea mai largă din Danemarca împotriva abuzurilor generative

Hotărârea se încadrează într-o poziție specific activistă daneză privind daunele generative ale inteligenței artificiale. Danemarca a promovat o legislație care să interzică partajarea de deepfake-uri generate de IA de persoane reale fără consimțământ, un proiect de lege care le-ar oferi cetățenilor un control asemănător dreptului de autor asupra propriei lor asemănări – o abordare care a atras o atenție largă atunci când a fost propusă. În ceea ce privește protecția copilului în special, autoritățile daneze au tratat materialul sintetic de abuz ca o țintă prioritară de aplicare a legii, mai degrabă decât o zonă gri legală.

Acea combinație – o legislație agresivă care vizează deepfakes și acum un precedent al Curții Supreme cu privire la CSAM generat de AI – poziționează Danemarca ca punct de referință pentru alte state membre ale UE care implementează Actul AI al blocului și obligațiile aferente privind siguranța copiilor. Platformele și furnizorii de modele care își desfășoară activitatea în Europa se confruntă acum cu o imagine mai clară: obligațiile de filtrare, detectare și raportare în ceea ce privește materialele sintetice de abuz nu se limitează la imaginile derivate de la victime reale.

Ce înseamnă pentru companiile AI

Pentru companiile care construiesc imagini generative și modele video, hotărâri ca aceasta întăresc mediul juridic în jurul unei zone de conformitate deja neiertătoare. Fiecare laborator major de frontieră menține filtre menite să blocheze reprezentările sexuale ale minorilor, iar industria a investit în standarde de proveniență, cum ar fi acreditările de conținut, pentru a distinge mediile sintetice. Hotărârea daneză nu modifică aceste obligații de inginerie, ci schimbă miza. Când instanțele de apel afirmă că imaginile generate de abuz sunt urmărite în mod identic cu materialul fotografic, argumentul pentru a trata garanțiile privind conținutul abuziv ca infrastructură de siguranță de bază, mai degrabă decât moderarea opțională, devine aproape de nerezolvat.

Hotărârea oferă, de asemenea, un model pentru legiuitorii care încă își elaborează răspunsurile. În loc să aștepte ca parlamentele să adopte noi statute care denumesc în mod specific materialul generat de IA, instanțele demonstrează că cadrele existente de protecție a copilului pot absorbi tehnologia – dar un limbaj legal clar ar elimina ambiguitatea pe care inculpații în cazurile viitoare o vor continua să o testeze.

Pedeapsa de 18 luni a tânărului de 31 de ani rămâne acum în vigoare. Iar ficțiunea juridică potrivit căreia „niciun copil real nu a fost rănit” a suferit o înfrângere publică semnificativă în cadrul unei curți supreme europene – un semnal care va răsuna prin urmărirea penală a materialelor de abuz generate de inteligența artificială cu mult dincolo de granițele Danemarcei.

Rămâneți informat cu privire la regulamentul AI

Tribunalele și autoritățile de reglementare se luptă pentru a ține pasul cu IA generativă. Pentru rapoarte verificate despre legea, politica și aplicarea AI, urmați AI Buzz Wire.

Citiți mai multe știri AI →