エディンバラ大学に本拠を置く世界児童安全研究所チャイルドライトのデータによると、生成型 AI に関連する児童性的虐待の報告は、2023 年の約 4,700 件から 2025 年には 400,000 件以上に爆発的に増加しました。これは 2 年間で 8,400% 以上の増加です。
この数字はチャイルドライトの2026年イントゥ・ザ・ライト・インデックスの一部として11月16日月曜日に発表され、ガーディアン紙が報じた。これらはテクノロジー企業が米国国立行方不明児童搾取センター(NCMEC)に提出した紹介を表しており、流通しているすべてのものを調査したものではなく、プラットフォームが検出および報告したものの数を数えている。この急増は、業界によって長らく差し迫ったリスクとして説明されてきた生成型 AI 虐待が、オンライン児童搾取報告の最大のカテゴリーの 1 つとなったことを示す、これまでで最も明確な定量的なシグナルであり、その変化は、プラットフォームの安全性と規制に関する継続的な AI ニュース速報 で文書化されています。
4,700 件から 400,000 件の紹介
このインデックスは、テクノロジー企業が自社のサービス上で児童性的虐待の疑いのあるコンテンツを検出した場合、NCMEC に送信することが法的に義務付けられているという報告を追跡しています。 2023 年の約 4,700 件の紹介件数から 2025 年には 400,000 件以上に増加したことは、同時期の消費者による画像ジェネレーターと安価な微調整ツールの展開をほぼ正確に反映しています。
流通している数字は見出しの数字だけではありません。 NCMECは別途、同社のCyberTiplineが2025年1月から9月までに100万件以上の生成AI関連報告を受け取ったと発表したが、これはChildlightが引用した40万件よりも多い合計であり、2つの件数の範囲の違いを反映している。 2 つのデータセットは重複しているものの異なるものを測定しており、どちらも同じ方向を向いています。
本物の子供のアプリとディープフェイクを裸化する
Childlight のレポートでは、生成 AI を使用して子供の顔を露骨な画像上に配置する、いわゆる nudify アプリの成長も強調しています。写真は合成ですが、害はありません。画像は実際の子供を描いており、犯罪者の間で共有され、未成年者に対する脅迫や嫌がらせに使用されることが増えています。
ガーディアン紙の報道によると、チャイルドライトのデータ担当ディレクターであるデビ・フライ教授は、AIが子どもたちに対する脅威を変えるスピードが非常に懸念されていると述べた。懸念されるのは、もはや仮説上の能力ではなく、産業規模の生産です。2023 年に必要な労力とスキルが、アプリ ストアからダウンロードするだけで済むようになりました。
番犬が見つけているもの
独立した評価により、問題の規模が裏付けられます。報告された内容を直接評価する英国の監視機関である Internet Watch Foundation は、2026 年上半期に児童性的虐待の法的定義を満たす AI 生成画像を 6,310 枚発見しました。これは 2025 年全体よりも 40% 増加しています。
ビデオの軌跡はさらに厳しいものになります。 IWFは、AIが生成した児童性的虐待動画を2025年に3,440本特定したが、2024年のわずか13本から増加しており、その65%が英国の法律で最も厳しい等級であるカテゴリーAに該当していた。 1 年間で 13 件から 3,440 件に急増したことは、検出システムが適応できるよりも早く、ツールが静止画像から動画に移行したことを示しています。
規制が追いつくのを急いでいる
英国はこれまでで最も前進した。政府独自のファクトシートによると、2026年犯罪警察法に基づき、児童虐待の素材を生成するように設計されたAIツールの所持、作成、配布は刑事犯罪となり、最高5年の懲役刑が科されることになる。同じ法律は、ヌード化ツールの作成または提供を犯罪としています。これは、その背後にあるアプリ開発者を直接対象とした条項です。
他の場所では絵が薄くなります。 Childlight のインデックスでは、調査した 103 か国のうち、オフラインおよびテクノロジーによって促進された児童虐待の両方をカバーする包括的な調査データを持っているのは 22 か国だけであることがわかりました。これは、ほとんどの政府が信頼できるベースラインを持たずに法律を制定していることを意味します。同研究所は、オンライン安全法の強化、データ収集の改善、テクノロジー部門の説明責任の強化、早期の予防活動を求めている。
レポートパイプラインの問題
数字を解釈する際に重要な制限が 1 つあります。データには、報告された資料の出所として特定のモデルやプラットフォームの名前が記載されていません。このヒントは、自社のサービスをスキャンして発見した内容を報告するテクノロジー企業からのものです。つまり、スキャンを行わない企業はレポートを生成しません。ガーディアン紙の報道が指摘しているように、検出主導のレポートは安全性が希薄であり、次の一連の数字はどの企業が実際に調査しているかを示すことになる。
AI 業界にとって、この指数のメッセージは明確です。生成ツールの悪用は、モデル カードのリスク セクションで予測されるものではなくなりました。これは帳簿上の最大の境界線であり、悪用を安価にできるモデルやアプリを所有する企業は、執行措置、コンプライアンス費用、法律において、その代償を支払うよう求められようとしている。
AI の先を行く
AI の安全性と規制をめぐる議論の展開を追ってみましょう。 AIニュースをもっと読む→
