Верховний суд Данії визнав незаконними зображення жорстокого поводження з дітьми, створені ШІ

Верховний суд Данії підтвердив обвинувальний вирок 31-річному чоловікові за створення та розповсюдження понад 36 000 зображень, створених штучним інтелектом, які зображують сексуальне насильство над дітьми, підтвердивши вирок до 18 місяців ув’язнення та вирішивши питання, яке обговорювалося судами по всьому світу: чи вважаються штучно створені матеріали насильства злочинними так само, як зображення реальних жертв. Відповідь суду, оголошена цього тижня, однозначна: створені ШІ матеріали про сексуальне насильство над дітьми є такими ж незаконними та караними, як і справжні.

Постанова, про яку повідомили міжнародні видання, зокрема Reuters, і оприлюднена судами Данії, завершує одне з перших знакових апеляційних перевірок того, як багатовіковий закон про захист дітей поглинає генеративний ШІ. Відповідач був засуджений судом нижчої інстанції за володіння та розповсюдження матеріалу, і подав апеляцію на підставі аргументу, що жодна справжня дитина не була залучена до створення зображень. Верховний суд повністю відхилив цю аргументацію, встановивши, що вигаданий характер зображень не ставить їх поза межами кримінального права. Для читачів, які відслідковують, як правові системи реагують на генеративні технології, це рішення є одним із найбільш важливих записів цього року в Новинах штучного інтелекту про регулювання.

Чому ця справа мала значення

Юридичне питання, яке лежить в основі апеляції, оманливо просте: коли зображення створюється, а не фотографується, чи це взагалі "матеріал сексуального насильства над дітьми"? Аргументи захисту в подібних справах традиційно спиралися на відсутність ідентифікованої жертви — жодна справжня дитина не була сфотографована, не завдана шкоди чи навіть причетна. Цей аргумент набирає правдоподібності, оскільки сучасні генератори зображень можуть створювати фотореалістичні зображення дітей, яких не існує, разом із реалістичними обличчями, тілами та обстановкою, без будь-яких еталонних зображень реальної людини.

Відповідь Верховного суду Данії узгоджує датське законодавство з захисними цілями Конвенції ООН про права дитини, для виконання яких покликаний служити данський закон про імплементацію. Суд визначив, що закон не передбачає безпечної гавані для фіктивних зображень, і що створений штучним інтелектом матеріал підпадає під дію існуючих заборон. Практичним наслідком є ​​те, що створення, володіння чи розповсюдження таких зображень тягне за собою таке ж кримінальне викриття, як і традиційні матеріали зловживань — у цьому випадку 18 місяців ув’язнення за матеріали, які ніколи не включали справжню фотографію.

Постанова, що має виходи за межі Данії

Хоча це рішення є обов’язковим лише для судів Данії, воно має міжнародне значення. Прокуратура в Європі та Північній Америці бореться зі сплеском образів насильства, створених штучним інтелектом, і суди в кількох юрисдикціях дійшли подібних висновків за допомогою різних правових шляхів — деякі покладаючись на закони, які вже охоплюють зображення незалежно від того, чи була використана справжня дитина, інші розширювали існуючі рамки непристойності та захисту дітей шляхом тлумачення. Рішення Данії додає чітку апеляційну заяву від юрисдикції з репутацією передового технологічного мислення в законодавстві, що зміцнює міжнародний консенсус щодо того, що відсутність реальної жертви у виробничому процесі не є захистом.

Масштаб справи — понад 36 000 зображень — ілюструє, чому проблема так швидко загострилася. Генеративні інструменти знизили вартість створення зображень насильства майже до нуля, а статистика конфіскацій від правоохоронних органів у багатьох країнах показала, що створений ШІ матеріал з’являється у все більшій частині розслідувань щодо експлуатації дітей. На відміну від традиційного матеріалу, кожне зображення можна нескінченно генерувати, відновлювати та варіювати, що в рази збільшує як обсяг, який мають сортувати слідчі, так і ризик використання реалістичних підробок для виховання, шантажу чи десенсибілізації справжніх дітей.

Данія ширше придушує генеративне зловживання

Постанова вписується в чітко активістську позицію Данії щодо генеративної шкоди ШІ. Данія просуває законодавство, яке забороняє без згоди ділитися дипфейками реальних людей, створеними за допомогою штучного інтелекту, законопроект, який надасть громадянам контроль над власною схожістю, подібно до авторського права, — підхід, який привернув широку увагу, коли він був запропонований. Щодо захисту дітей, то органи влади Данії вважають синтетичні матеріали для насильства пріоритетною метою правоохоронних заходів, а не сіру зону законодавства.

Ця комбінація — агресивне законодавство, спрямоване проти дипфейків, а тепер і прецедент Верховного суду щодо CSAM, створеного штучним інтелектом — позиціонує Данію як орієнтир для інших держав-членів ЄС, які впроваджують Закон блоку про штучний інтелект та пов’язані з ним зобов’язання щодо безпеки дітей. Платформи та постачальники моделей, які працюють у Європі, тепер мають більш чітку картину: зобов’язання щодо фільтрації, виявлення та звітування щодо синтетичних матеріалів насильства не обмежуються зображеннями, отриманими від реальних жертв.

Що це означає для компаній ШІ

Для компаній, які створюють генеративні моделі зображень і відео, рішення, подібні до цього, посилюють правове середовище навколо вже невблаганної сфери відповідності. Кожна велика передова лабораторія підтримує фільтри, призначені для блокування сексуалізованих зображень неповнолітніх, і галузь інвестувала в стандарти походження, як-от облікові дані вмісту, щоб розрізняти синтетичні носії. Данське рішення не змінює ці інженерні зобов’язання — воно змінює ставки. Коли апеляційні суди стверджують, що створені образи зловживань переслідуються так само, як і фотоматеріали, аргумент на користь розгляду заходів безпеки щодо вмісту зловживань як основної інфраструктури безпеки, а не необов’язкової модерації, стає майже безпідставним.

Постанова також пропонує шаблон для законодавців, які все ще готують свої відповіді. Замість того, щоб чекати, доки парламенти приймуть нові закони, у яких конкретно будуть названі створені штучним інтелектом матеріали, суди демонструють, що існуючі системи захисту дітей можуть сприйняти цю технологію, але чітка формулювання закону усуне двозначність, яку відповідачі в майбутніх справах продовжуватимуть перевіряти.

18-місячний вирок 31-річного чоловіка наразі діє. І юридична вигадка про те, що «жодна справжня дитина не постраждала», зазнала значної публічної поразки у європейському верховному суді — це сигнал, який відлунить у судовому переслідуванні насильницького матеріалу, створеного ШІ, далеко за межами Данії.

Будьте в курсі регулювання ШІ

Суди та регулятори намагаються не відставати від генеративного ШІ. Для перевірених звітів щодо законодавства, політики та правозастосування щодо штучного інтелекту читайте AI Buzz Wire.

Читати більше новин AI →