デンマーク最高裁判所、AI生成の児童虐待画像は違法と判決

デンマークの最高裁判所は、AIが生成した数万枚の虐待画像を配布した男に対する18か月の懲役刑を支持し、架空の描写も現実の描写と同様に処罰されるとの判決を下した。

デンマークの最高裁判所は、児童の性的虐待を描いた3万6,000枚以上のAI生成画像を作成・配布した31歳男性の有罪判決を支持し、懲役18カ月の実刑を確定させ、人工的に生成された虐待素材が実際の被害者を含む画像と同様に犯罪として扱われるかどうかという世界中の法廷を争う問題に決着をつけた。今週発表された裁判所の回答は明白で、AIが生成した児童性的虐待素材は本物と同様に違法であり、処罰の対象となる。

ロイターなどの国際報道機関が報じ、デンマークの裁判所を通じて公表されたこの判決は、何世紀にもわたる児童保護法が生成型AIをどのように吸収するかについての最初の画期的な控訴審のテストの1つを終了させるものである。被告は素材の所持と頒布で下級裁判所で有罪判決を受けており、画像の制作には実の子供は関与していないという主張で控訴した。最高裁判所はその推論を全面的に否定し、描写のフィクション性から刑法の範囲外にはならないと判断した。法制度が生成テクノロジーにどのように対応しているかを追跡している読者にとって、この決定は、規制に関する今年の AI ニュース の中で最も重要な項目の 1 つにランクされます。

この事件が重要な理由

控訴の中心となる法的問題は一見単純だ。画像が撮影されたのではなく生成された場合、それはそもそも「児童性的虐待素材」なのか？このような事件における弁護側の主張は伝統的に、身元を特定できる被害者が存在しないこと、つまり実際の子供は写真に撮られたり、危害を加えられたり、関与したりすることさえなかったということに基づいてきた。最新の画像ジェネレーターは、実在の人物の参照画像を一切使用せずに、現実的な顔、体、設定を備えた、存在しない子供たちの写実的な描写を生成できるため、この議論は表面的な妥当性を獲得しつつあります。

デンマーク最高裁判所の対応は、デンマークの法律を国連児童の権利条約の保護目的と整合させるものであり、デンマークの施行法はその目的にかなうものとなっている。裁判所は、この法律は架空の描写に安全な場所を設けておらず、AI によって生成された素材は既存の禁止事項の範囲内にあると判断しました。実際的な結果は、そのような画像の生成、所持、配布は従来の虐待素材と同じ刑事摘発につながるということです。この場合、本物の写真がまったく含まれていない素材に対しては 18 か月の懲役が科せられます。

デンマークを超えて影響を与える判決

この判決はデンマークの裁判所のみを拘束しますが、その重要性は国際的です。ヨーロッパと北アメリカの検察当局は、AIによって生成された虐待画像の急増に苦慮しており、いくつかの管轄区域の裁判所は、異なる法的ルートを通じて同様の結論に達している。一部の裁判所は、本物の子供が使用されたかどうかに関係なく、すでに描写を対象としている法律に依存しており、他の裁判所は解釈によって既存のわいせつおよび児童保護の枠組みを拡張している。デンマークの判決が付け加えているのは、法律の技術的先進性で定評のある法域からの明確な控訴レベルの声明であり、生産プロセスにおける真の被害者の不在は弁護にはならないという新たな国際的コンセンサスを強化するものである。

36,000 枚を超える画像というこの事件の規模は、問題がこれほど急速に拡大した理由を示しています。生成ツールのおかげで虐待画像の制作コストはほぼゼロにまで下がり、複数の国の法執行機関による押収統計によると、児童搾取捜査においてAIが生成した素材の割合が増加していることが示されている。従来の素材とは異なり、すべての画像は無限に生成、再生成、変更できるため、調査員がトリアージしなければならない量と、本物の子供を手入れしたり、脅迫したり、感覚を鈍らせるために本物の偽物が使用されるリスクが増大します。

デンマークによる生成的虐待に対する広範な取り締まり

この判決は、生成型 AI の害に対する明らかに活動的なデンマークの姿勢に適合します。デンマークは、AIが生成した本物の人物のディープフェイクを同意なしに共有することを禁止する法案を進めている。この法案は、国民に自分の肖像に対する著作権のような制御を与えるもので、このアプローチは提案された当時、幅広い注目を集めた。特に児童保護に関して、デンマーク当局は合成虐待資料を法的なグレーゾーンではなく、優先的な取り締まり対象として扱っている。

この組み合わせ、つまりディープフェイクを対象とした積極的な法案と、現在AI生成のCSAMに関する最高裁判所の先例となっているこの組み合わせにより、デンマークは、ブロックのAI法とそれに関連する子供の安全義務を施行する他のEU加盟国にとっての基準点として位置づけられることになる。ヨーロッパで活動するプラットフォームとモデルのプロバイダーは現在、より明確な状況に直面しています。合成虐待素材に関するフィルタリング、検出、報告の義務は、実際の被害者に由来する画像に限定されないということです。

AI 企業にとっての意味

画像やビデオの生成モデルを構築している企業にとって、今回のような判決は、すでに容赦のないコンプライアンス分野をめぐる法的環境を強化することになる。すべての主要なフロンティアラボは、未成年者の性的描写をブロックすることを目的としたフィルターを維持しており、業界は合成メディアを区別するためのコンテンツ認証情報などの出所基準に投資してきました。デンマークの判決はこれらのエンジニアリング上の義務を変更するものではなく、賭け金を変更するものです。控訴裁判所が、生成された虐待画像は写真素材と同様に訴追されると認めた場合、虐待コンテンツの保護手段を任意のモデレーションではなく中核的な安全インフラストラクチャとして扱うという議論は、ほぼ答えられないものになります。

この判決は、まだ答弁書を作成中の議員向けにテンプレートも提供している。 AIが生成した素材に具体的に名前を付ける新しい法律が議会で可決されるのを待つのではなく、裁判所は、既存の児童保護の枠組みがこのテクノロジーを吸収できることを実証しているが、明確な法文言があれば、将来の訴訟で被告が引き続きテストするであろう曖昧さは解消されるだろう。

31歳のこの男には現在、懲役18か月が言い渡されている。そして、「実の子供は傷つけられていない」という法的フィクションは、欧州最高裁判所で公の場で重大な敗北を喫した。このシグナルは、デンマークの国境をはるかに越えてAIが生成した虐待資料の訴追を通じて響くだろう。