Duński Sąd Najwyższy orzekł, że obrazy przedstawiające wykorzystywanie dzieci generowane przez sztuczną inteligencję są nielegalne

Duński Sąd Najwyższy podtrzymał wyrok skazujący 31-letniego mężczyzny za stworzenie i rozpowszechnianie ponad 36 000 wygenerowanych przez sztuczną inteligencję obrazów przedstawiających wykorzystywanie seksualne dzieci, potwierdzając wyrok 18 miesięcy więzienia i rozstrzygając kwestię poruszaną przez sądy na całym świecie: czy sztucznie wygenerowane materiały przedstawiające wykorzystywanie seksualne są traktowane jako przestępstwo w taki sam sposób, jak zdjęcia przedstawiające prawdziwe ofiary. Odpowiedź sądu, ogłoszona w tym tygodniu, jest jednoznaczna – generowane przez sztuczną inteligencję materiały przedstawiające wykorzystywanie seksualne dzieci są tak samo nielegalne i podlegają karze jak te prawdziwe.

Orzeczenie, o którym poinformowały międzynarodowe media, w tym Reuters, i opublikowane za pośrednictwem duńskich sądów, zamyka jeden z pierwszych przełomowych testów apelacyjnych sprawdzających, jak wielowiekowe prawo dotyczące ochrony dzieci absorbuje generatywną sztuczną inteligencję. Pozwany został skazany przez sąd niższej instancji za posiadanie i rozpowszechnianie materiałów i złożył apelację, podnosząc argument, że w tworzenie zdjęć nie było zaangażowane żadne prawdziwe dziecko. Sąd Najwyższy odrzucił całkowicie tę argumentację, uznając, że fikcyjny charakter przedstawień nie stawia ich poza prawem karnym. Dla czytelników śledzących, jak systemy prawne reagują na technologię generatywną, decyzja ta należy do najważniejszych wpisów w tegorocznym wiadomościach AI na temat regulacji.

Dlaczego sprawa miała znaczenie

Pytanie prawne leżące u podstaw apelu jest zwodniczo proste: czy jeśli obraz jest generowany, a nie fotografowany, to czy w ogóle jest to „materiał przedstawiający wykorzystywanie seksualne dzieci”? Argumenty obrony w sprawach takich jak ta tradycyjnie opierały się na braku możliwej do zidentyfikowania ofiary – żadne prawdziwe dziecko nie zostało sfotografowane, skrzywdzone ani nawet zaangażowane. Argument ten zyskuje na powierzchownej wiarygodności, ponieważ nowoczesne generatory obrazów mogą tworzyć fotorealistyczne wizerunki nieistniejących dzieci, wraz z realistycznymi twarzami, ciałami i scenerią, bez żadnych obrazów referencyjnych prawdziwej osoby.

Odpowiedź duńskiego Sądu Najwyższego dostosowuje prawo duńskie do ochronnego celu Konwencji ONZ o prawach dziecka, któremu duńskie prawo wykonawcze ma służyć. Sąd ustalił, że prawo nie zapewnia bezpiecznej przystani dla fikcyjnych przedstawień, a materiały generowane przez sztuczną inteligencję wchodzą w zakres istniejących zakazów. Praktyczną konsekwencją jest to, że generowanie, posiadanie lub rozpowszechnianie takich obrazów wiąże się z takim samym ryzykiem karalnym jak tradycyjne materiały przedstawiające nadużycia – w tym przypadku kara 18 miesięcy więzienia w przypadku materiałów, które nigdy nie zawierały prawdziwej fotografii.

Orzeczenie o zasięgu wykraczającym poza Danię

Choć wyrok wiąże wyłącznie sądy duńskie, jego znaczenie ma charakter międzynarodowy. Prokuratorzy w Europie i Ameryce Północnej zmagają się z gwałtownym wzrostem liczby obrazów przedstawiających wykorzystywanie generowane przez sztuczną inteligencję, a sądy w kilku jurysdykcjach doszły do ​​podobnych wniosków na różnych drogach prawnych – niektóre opierając się na ustawach, które już regulują przedstawienia, niezależnie od tego, czy wykorzystano prawdziwe dziecko, inne rozszerzają istniejące ramy dotyczące nieprzyzwoitości i ochrony dzieci poprzez interpretację. Duńskie orzeczenie dodaje jasne oświadczenie na szczeblu apelacyjnym wydane przez jurysdykcję cieszącą się reputacją pioniera technologicznego w prawie, wzmacniające wyłaniający się międzynarodowy konsensus, że brak prawdziwej ofiary w procesie produkcyjnym nie stanowi obrony.

Skala sprawy – ponad 36 000 zdjęć – pokazuje, dlaczego problem tak szybko się nasilił. Narzędzia generatywne obniżyły koszt tworzenia obrazów przedstawiających wykorzystywanie dzieci niemal do zera, a statystyki dotyczące konfiskat przeprowadzanych przez organy ścigania w wielu krajach wykazały, że materiały wygenerowane przez sztuczną inteligencję pojawiają się w coraz większej liczbie dochodzeń w sprawie wykorzystywania dzieci. W przeciwieństwie do tradycyjnych materiałów, każdy obraz można generować, regenerować i zmieniać w nieskończoność, co zwielokrotnia zarówno liczbę materiałów, jakie badacze muszą przeprowadzić, jak i ryzyko, że realistyczne podróbki zostaną użyte do uwodzenia, szantażowania lub znieczulania prawdziwych dzieci.

Szersza walka Danii z nadużyciami generatywnymi

Orzeczenie wpisuje się w wyraźnie aktywistyczne stanowisko Danii w sprawie generatywnych szkód związanych ze sztuczną inteligencją. Dania pracuje nad ustawodawstwem zakazującym udostępniania bez zgody fałszywych fałszywych danych prawdziwych ludzi generowanych przez sztuczną inteligencję. Jest to projekt ustawy, który zapewniłby obywatelom kontrolę nad własnym podobizną na wzór praw autorskich. Podejście to spotkało się z szerokim zainteresowaniem, gdy zostało zaproponowane. W szczególności jeśli chodzi o ochronę dzieci, władze duńskie potraktowały syntetyczne materiały przedstawiające przemoc jako priorytetowy cel egzekwowania prawa, a nie szarą strefę prawną.

To połączenie – agresywne ustawodawstwo wymierzone w deepfakes, a obecnie precedens Sądu Najwyższego w sprawie CSAM generowanego przez sztuczną inteligencję – stawia Danię jako punkt odniesienia dla innych państw członkowskich UE wdrażających ustawę o sztucznej inteligencji i związane z nią obowiązki w zakresie bezpieczeństwa dzieci. Platformy i dostawcy modeli działający w Europie mają teraz jaśniejszy obraz: obowiązki w zakresie filtrowania, wykrywania i zgłaszania materiałów syntetycznych przedstawiających przemoc nie ograniczają się do zdjęć pochodzących od prawdziwych ofiar.

Co to oznacza dla firm zajmujących się sztuczną inteligencją

Dla firm budujących generatywne modele obrazu i wideo orzeczenia takie jak to zaostrzają środowisko prawne wokół i tak bezlitosnego obszaru zgodności. Każde większe laboratorium graniczne posiada filtry przeznaczone do blokowania przedstawień nieletnich o charakterze seksualnym, a branża zainwestowała w standardy pochodzenia, takie jak dane uwierzytelniające treść, aby odróżnić media syntetyczne. Duński wyrok nie zmienia tych obowiązków inżynieryjnych – zmienia stawkę. Kiedy sądy apelacyjne potwierdzają, że wygenerowane obrazy przedstawiające nadużycia są ścigane w ten sam sposób co materiały fotograficzne, argument przemawiający za traktowaniem zabezpieczeń dotyczących treści zawierających nadużycia jako podstawowej infrastruktury bezpieczeństwa, a nie opcjonalnej moderacji, staje się prawie bezdyskusyjny.

Orzeczenie stanowi również wzór dla ustawodawców, którzy wciąż przygotowują swoje odpowiedzi. Zamiast czekać, aż parlamenty przyjmą nowe ustawy wymieniające konkretnie materiały wytworzone przez sztuczną inteligencję, sądy wykazują, że istniejące ramy ochrony dzieci mogą wchłonąć tę technologię, ale jasny język prawny wyeliminowałby dwuznaczność, którą oskarżeni będą nadal testować w przyszłych sprawach.

18-miesięczny wyrok 31-latka nadal obowiązuje. Fikcja prawna głosząca, że ​​„żadnemu prawdziwemu dziecku nie stała się krzywda” poniosła znaczącą, publiczną porażkę w europejskim sądzie najwyższym – sygnał, który będzie odbijał się echem w postępowaniach karnych dotyczących materiałów przedstawiających wykorzystywanie generowane przez sztuczną inteligencję daleko poza granicami Danii.

Bądź na bieżąco z przepisami dotyczącymi sztucznej inteligencji

Sądy i organy regulacyjne ścigają się, aby dotrzymać kroku generatywnej sztucznej inteligencji. Aby uzyskać zweryfikowane raporty na temat prawa, zasad i egzekwowania prawa dotyczącego sztucznej inteligencji, śledź AI Buzz Wire.

Przeczytaj więcej aktualności o sztucznej inteligencji →