Верховный суд Дании постановил, что изображения жестокого обращения с детьми, созданные с помощью искусственного интеллекта, являются незаконными

Верховный суд Дании оставил в силе приговор 31-летнему мужчине за создание и распространение более 36 000 сгенерированных искусственным интеллектом изображений, изображающих сексуальное насилие над детьми, подтвердив приговор к 18 месяцам тюремного заключения и разрешив вопрос, который обсуждался в судах по всему миру: считаются ли искусственно созданные материалы о насилии преступными так же, как изображения с участием реальных жертв. Ответ суда, объявленный на этой неделе, однозначен: созданные ИИ материалы о сексуальном насилии над детьми так же незаконны и наказуемы, как и настоящие.

Постановление, о котором сообщили международные СМИ, включая Reuters, и опубликованное через датские суды, завершает одно из первых знаковых апелляционных испытаний того, как многовековой закон о защите детей поглощает генеративный ИИ. Обвиняемый был признан виновным в суде низшей инстанции за хранение и распространение материалов и подал апелляцию на том основании, что в создании изображений не участвовал ни один настоящий ребенок. Верховный суд полностью отверг это довод, установив, что вымышленный характер изображений не ставит их вне уголовного права. Для читателей, следящих за тем, как правовые системы реагируют на генеративные технологии, это решение входит в число наиболее важных статей в AI news этого года, посвященных регулированию.

Почему дело имело значение

Юридический вопрос, лежащий в основе апелляции, обманчиво прост: когда изображение создается, а не фотографируется, является ли оно вообще «материалом о сексуальном насилии над детьми»? Аргументы защиты в подобных случаях традиционно основывались на отсутствии идентифицируемой жертвы — ни один настоящий ребенок не был сфотографирован, ему не был причинен вред или даже не был замешан в этом. Этот аргумент становится все более убедительным, поскольку современные генераторы изображений могут создавать фотореалистичные изображения несуществующих детей с реалистичными лицами, телами и окружением, без каких-либо эталонных изображений реального человека.

Ответ Верховного суда Дании приводит датское законодательство в соответствие с защитными намерениями Конвенции ООН о правах ребенка, которой призван служить датский имплементационный закон. Суд постановил, что закон не создает безопасной гавани для вымышленных изображений и что материалы, созданные с помощью ИИ, подпадают под действие существующих запретов. Практическим последствием является то, что создание, хранение или распространение таких изображений влечет за собой ту же уголовную ответственность, что и традиционные материалы оскорбительного характера — в данном случае 18-месячное тюремное заключение за материал, который никогда не содержал настоящей фотографии.

Решение, выходящее за пределы Дании

Хотя это решение имеет обязательную силу только для датских судов, его значение имеет международное значение. Прокуроры по всей Европе и Северной Америке борются с резким ростом изображений насилия, созданных с помощью ИИ, а суды в нескольких юрисдикциях пришли к аналогичным выводам разными юридическими путями — некоторые полагаются на законы, которые уже охватывают изображения независимо от того, использовался ли реальный ребенок, другие расширяют существующие рамки непристойности и защиты детей путем интерпретации. Постановление Дании добавляет четкое заявление апелляционного уровня от юрисдикции с репутацией технологического дальновидного законодательства, укрепляющее формирующийся международный консенсус о том, что отсутствие реальной жертвы в производственном процессе не является защитой.

Масштаб дела — более 36 000 изображений — иллюстрирует, почему проблема обострилась так быстро. Генеративные инструменты снизили стоимость создания изображений насилия почти до нуля, а статистика изъятий правоохранительных органов во многих странах показала, что материалы, созданные с помощью ИИ, появляются в растущей доле расследований эксплуатации детей. В отличие от традиционного материала, каждое изображение может создаваться, регенерироваться и изменяться бесконечно, что увеличивает как объем, который следователи должны сортировать, так и риск того, что реалистичные подделки будут использоваться для ухаживания, шантажа или снижения чувствительности реальных детей.

Более широкое преследование в Дании генеративных злоупотреблений

Это решение вписывается в явно активистскую позицию Дании в отношении вреда, наносимого генеративным ИИ. Дания продвигает закон, запрещающий распространение без согласия созданных искусственным интеллектом дипфейков реальных людей. Законопроект, который предоставит гражданам контроль над своим собственным изображением, аналогичный авторскому праву. Этот подход привлек широкое внимание, когда был предложен. В частности, что касается защиты детей, датские власти рассматривают синтетические материалы насилия как приоритетную цель правоприменения, а не как серую юридическую зону.

Такое сочетание — агрессивное законодательство, направленное против дипфейков, а теперь и прецедент Верховного суда по CSAM, созданному искусственным интеллектом — позиционирует Данию как ориентир для других государств-членов ЕС, реализующих Закон блока об искусственном интеллекте и связанные с ним обязательства по безопасности детей. Платформы и поставщики моделей, работающие в Европе, теперь видят более четкую картину: обязательства по фильтрации, обнаружению и сообщению о синтетических материалах, связанных с насилием, не ограничиваются изображениями, полученными от реальных жертв.

Что это значит для компаний, занимающихся искусственным интеллектом

Для компаний, создающих генеративные модели изображений и видео, подобные постановления ужесточают правовую среду вокруг и без того неумолимой области соблюдения требований. В каждой крупной пограничной лаборатории установлены фильтры, предназначенные для блокировки сексуальных изображений несовершеннолетних, а отрасль вложила средства в стандарты происхождения, такие как учетные данные контента, чтобы отличать синтетические медиа. Решение Дании не меняет этих инженерных обязательств — оно меняет ставки. Когда апелляционные суды подтверждают, что сгенерированные изображения оскорбительного содержания преследуются так же, как и фотографические материалы, аргумент в пользу того, чтобы рассматривать меры защиты оскорбительного контента как основную инфраструктуру безопасности, а не необязательную модерацию, становится почти безответным.

Постановление также предлагает образец для законодателей, которые все еще готовят свои ответы. Вместо того, чтобы ждать, пока парламенты примут новые законы, конкретно называющие материалы, созданные ИИ, суды демонстрируют, что существующие системы защиты детей могут использовать эту технологию, но четкие законодательные формулировки устранят двусмысленность, которую обвиняемые в будущих делах будут продолжать проверять.

Приговор 31-летнего подростка к 18 месяцам заключения в настоящее время остается в силе. А юридическая фикция о том, что «ни один настоящий ребенок не пострадал», потерпела значительное публичное поражение в европейском верховном суде — сигнал, который отзовется в судебных преследованиях за материалы оскорбительного характера, созданные ИИ, далеко за пределами Дании.

Будьте в курсе регулирования ИИ

Суды и регулирующие органы стремятся не отставать от генеративного ИИ. Чтобы ознакомиться с проверенными отчетами о законодательстве, политике и правоприменении в области ИИ, следуйте AI Buzz Wire.

Читать больше новостей об искусственном интеллекте →