덴마크 대법원, AI가 생성한 아동 학대 이미지는 불법이라고 판결

덴마크 최고 법원은 AI가 생성한 학대 이미지 수만 장을 배포한 남성에게 18개월 형을 선고했으며, 허구 묘사도 실제처럼 처벌할 수 있다고 판결했습니다.

덴마크 대법원은 아동 성적 학대를 묘사한 36,000개 이상의 AI 생성 이미지를 제작 및 배포한 31세 남성의 유죄 판결을 확정하고 18개월의 징역형을 선고했으며 전 세계 법원을 통해 제기된 질문을 해결했습니다. 인위적으로 생성된 학대 자료가 실제 피해자가 관련된 이미지와 동일한 방식으로 범죄로 취급되는지 여부입니다. 이번 주에 발표된 법원의 답변은 명백합니다. AI가 생성한 아동 성적 학대 자료는 실제와 마찬가지로 불법이며 처벌 가능합니다.

로이터를 비롯한 국제 언론이 보도하고 덴마크 법원을 통해 발표된 이 판결은 수세기 동안 지속된 아동 보호법이 생성 AI를 어떻게 흡수하는지에 대한 최초의 획기적인 항소 테스트 중 하나를 마무리합니다. 피고는 해당 자료를 소유하고 배포한 혐의로 하급 법원에서 유죄 판결을 받았으며, 이미지 제작에 실제 아동이 관여하지 않았다는 주장에 대해 항소했습니다. 대법원은 묘사의 허구적 성격이 형법 범위를 벗어나지 않는다고 판단하면서 그러한 추론을 완전히 거부했습니다. 법률 시스템이 생성 기술에 어떻게 반응하는지 추적하는 독자들에게 이번 결정은 규제에 관한 올해 AI 뉴스에서 가장 중요한 항목 중 하나입니다.

사건이 중요한 이유

항소의 핵심인 법적 질문은 믿을 수 없을 정도로 간단합니다. 사진을 찍는 것이 아니라 이미지를 생성하는 경우에도 "아동 성적 학대 자료"에 해당합니까? 이와 같은 사건의 방어 주장은 전통적으로 식별 가능한 피해자가 없다는 점에 의존해 왔습니다. 실제 어린이는 사진을 찍거나 해를 입히거나 심지어 연루되지도 않았습니다. 현대 이미지 생성기가 실제 인물에 대한 참조 이미지 없이 사실적인 얼굴, 신체 및 설정을 갖춘, 존재하지 않는 어린이에 대한 사실적인 묘사를 생성할 수 있기 때문에 이러한 주장은 표면적 타당성을 얻고 있습니다.

덴마크 대법원의 답변은 덴마크 법률이 덴마크 이행법이 제공하도록 고안된 UN 아동 권리 협약의 보호 의도와 일치합니다. 법원은 법이 허구 묘사에 대한 면책 조항을 마련하지 않으며 AI 생성 자료가 기존 금지 범위에 속한다고 판단했습니다. 실질적인 결과는 그러한 이미지를 생성, 소유 또는 배포하는 것이 기존 학대 자료와 동일한 범죄 노출을 초래한다는 것입니다. 이 경우 실제 사진이 전혀 포함되지 않은 자료의 경우 18개월 형을 선고받습니다.

덴마크를 넘어서는 판결

이번 판결은 덴마크 법원에만 구속력을 가지지만 그 중요성은 국제적이다. 유럽과 북미 전역의 검찰은 AI로 생성된 학대 이미지의 급증으로 어려움을 겪고 있으며 여러 관할권의 법원은 다양한 법적 경로를 통해 유사한 결론에 도달했습니다. 일부는 실제 아동이 사용되었는지 여부에 관계없이 이미 묘사를 다루는 법령에 의존하고, 다른 일부는 해석을 통해 기존의 외설 및 아동 보호 프레임워크를 확장합니다. 덴마크 판결이 추가한 것은 법적으로 기술적 미래 지향적 사고로 명성이 높은 관할권의 명확한 항소 수준 성명으로, 생산 과정에서 실제 피해자가 없다는 것이 방어가 아니라는 새로운 국제적 합의를 강화합니다.

36,000개 이상의 이미지로 구성된 사건의 규모는 문제가 왜 그렇게 빠르게 확대되었는지를 보여줍니다. 생성 도구는 학대 이미지 생성 비용을 거의 0으로 줄였으며, 여러 국가의 법 집행 기관의 압수 통계에 따르면 AI 생성 자료가 아동 착취 조사에서 점점 더 많은 비중을 차지하고 있는 것으로 나타났습니다. 기존 자료와 달리 모든 이미지는 끝없이 생성, 재생성 및 다양화될 수 있으므로 조사자가 선별해야 하는 양이 늘어나고 실제 어린이를 손질하거나 협박하거나 둔감하게 만드는 데 현실적인 가짜가 사용될 위험이 모두 증가합니다.

생성적 학대에 대한 덴마크의 광범위한 단속

이번 판결은 생성적 AI 피해에 대한 뚜렷한 활동가인 덴마크의 입장에 부합합니다. 덴마크는 AI가 생성한 실제 인물의 딥페이크를 동의 없이 공유하는 것을 금지하는 법안을 추진해 왔습니다. 이 법안은 시민들에게 자신의 초상에 대한 저작권과 같은 통제권을 부여하는 법안입니다. 이 법안은 제안되었을 때 큰 관심을 끌었습니다. 특히 아동 보호와 관련하여 덴마크 당국은 합성 학대 자료를 법적 회색지대가 아닌 우선 집행 대상으로 취급했습니다.

딥페이크를 겨냥한 공격적인 법안과 AI 생성 CSAM에 대한 대법원 판례가 된 이 조합은 덴마크를 블록의 AI법 및 관련 아동 안전 의무를 이행하는 다른 EU 회원국의 기준점으로 자리매김하고 있습니다. 유럽에서 운영되는 플랫폼 및 모델 제공업체는 이제 더 명확한 상황에 직면해 있습니다. 합성 남용 자료에 대한 필터링, 감지 및 보고 의무는 실제 피해자에서 파생된 이미지에만 국한되지 않습니다.

AI 기업에 미치는 영향

생성 이미지 및 비디오 모델을 구축하는 회사의 경우, 이와 같은 판결은 이미 용서할 수 없는 규정 준수 영역 주변의 법적 환경을 강화합니다. 모든 주요 연구실에서는 미성년자의 성적인 묘사를 차단하기 위한 필터를 유지 관리하고 있으며 업계에서는 합성 미디어를 구별하기 위해 콘텐츠 자격 증명과 같은 출처 기준에 투자해 왔습니다. 덴마크 판결은 이러한 엔지니어링 의무를 변경하는 것이 아니라 이해관계를 변경합니다. 항소 법원이 생성된 학대 이미지가 사진 자료와 동일하게 기소된다고 확인하면, 학대 콘텐츠 보호 장치를 선택적인 중재가 아닌 핵심 안전 인프라로 취급해야 한다는 주장은 거의 답할 수 없게 됩니다.

또한 이번 판결은 아직 답변 초안을 작성 중인 입법자들을 위한 템플릿도 제공합니다. AI로 생성된 자료를 구체적으로 명명하는 새로운 법령이 의회에서 통과될 때까지 기다리지 않고, 법원은 기존 아동 보호 프레임워크가 기술을 흡수할 수 있음을 입증하고 있습니다. 그러나 명확한 법적 표현은 피고인이 향후 소송에서 계속 테스트하게 될 모호성을 제거할 것입니다.

31세 소년의 형기는 이제 18개월이다. 그리고 "실제 어린이는 해를 입지 않았다"는 법적 허구는 유럽 대법원에서 상당한 공개 패배를 겪었습니다. 이는 덴마크 국경을 넘어 AI가 생성한 학대 자료에 대한 기소를 통해 울려 퍼지게 될 신호입니다.