Meta の AI 広告スクリーニングでは数百件の児童虐待広告を阻止できなかったことが研究者らによって判明

研究者らは、それらをブロックするために新しいAIツールが構築されたにもかかわらず、8月以降、メタのプラットフォーム上で児童性的虐待の内容を含む追加の広告が250件以上発見された。

『WIRED』と共有され火曜日に発表された非営利団体Tech Transparency Projectの調査結果によると、メタ社がその種のコンテンツを正確に検出してブロックするように設計された新しいAIツールを発表してから数週間で、児童性的虐待の内容を含む追加の広告が250以上もメタ社のプラットフォーム上で流されたという。この発見は、AIを活用した広告スクリーニングによってギャップがほぼ埋まったという同社の主張を覆すものであり、議員らは調査を計画していると述べている中での発表となった。

新しい数字は以前の開示を拡張するものです。『WIRED』の以前の報道を受けて、メタ社は先月、フェイスブック、インスタグラム、スレッドに投稿された児童性的虐待の内容を直接含む約50件の広告を削除した。当時同社は、不正広告のほとんどは新しいAI検出ツールを導入する前に公開されていたと述べていた。研究者らは、予想された減少の代わりに、ここ数週間でさらに数百件の広告を発見したと述べており、その中にはメタが削除したばかりの広告と同一のものも含まれていたという。プラットフォームの安全性と最新の AI ニュースについて継続的に報道するには、AI Buzz Wire をフォローしてください。

失敗の規模

Tech Transparency Projectの研究者らは、昨年末以降、Facebook、Instagram、Messenger、Threads、そしてMetaの広範な広告ネットワークにわたるMetaのプラットフォーム上で実行されていた虐待的なビデオ広告を合計350本以上文書化した。同グループが特定した最初の53枚の広告セットとは異なり、新しいバッチには純粋に合成されたものではなく、本物の子供の画像が含まれていた。 WIREDは、あるソース画像がヨーロッパ王室の公式ウェブサイトからのものであることを認めた。研究者らは、公式に公開された家族の未成年者の写真が性行為を描写するビデオに加工されたと述べている。研究者らは被害者を保護するために王室の名前を挙げておらず、関係国の当局者に連絡を取ったとしている。

同グループのディレクターであるケイティ・ポール氏は『WIRED』に対し、問題はAIが生成した画像に限定されないと語った。「私たちがここで話しているのは、単にAIによって生成された児童性的虐待の素材ではありません」と彼女は述べ、多くの画像が広告で使用される前にオープンウェブから取得されたようだと指摘した。「メタがその過程でお金をかき集めている間、これによって多くの害が生じる可能性があります。」研究者らは、広告に画像が使用されていた未成年者 4 人の現実世界での身元を特定した。

ヌード認証アプリへのファネル

報道によると、広告は一貫したパターンに従っているという。多くは、プレティーンまたは十代の少女の無害な写真を公開しており、研究者らは少年が写っている写真を発見しただけだった。その写真には、その画像が「単なる写真ではない」こと、そしてその画像で何ができるかについて「制限はない」と宣言するテキストが重ねて置かれている。短いビデオが再生されると、子供の顔が露骨なビデオに変わります。クリックすると、Apple と Google のアプリストアで入手できる AI 顔交換アプリと「裸化」アプリが表示されますが、その多くは中国の開発者に関連しています。 WIREDは、Metaのプラットフォーム上で成人を描いた何百もの関連する裸体広告を個別に特定した。

遅いレビューと開示漏れ

Metaのポリシーには、同社がプラットフォーム上で掲載されるすべての広告を審査しており、広告は児童搾取、成人搾取、ヌードに関する規定に違反していると記載されている。研究者らの報告によると、実際には、Meta が自社のツールを通じて報告されたライブ広告をレビューするのに最大 1 週間かかることもあったという。『WIRED』が確認したスクリーンショットによると、その間に広告はさらに数百回のビューを蓄積したという。一部の広告が削除されたとき、削除記録には当初、同社の児童性的虐待ポリシーに違反したという開示がなかった。これらの詳細は『WIRED』がメタに矛盾について尋ねた後に初めて明らかになった。

研究者らは、見つけたすべての広告を国立行方不明児童搾取センターのサイバーティップラインとメタの報告ツールを通じて報告した。 Meta 独自の広告ライブラリによると、広告は欧州連合諸国の 29,000 アカウント以上、英国では約 7,000 アカウントにまとめて表示され、そのうち米国では 250 以上、オーストラリアで 120 アカウント、インドで 80 アカウントが表示されました。この数字は、詳細な広告パフォーマンスデータが不足している国もあるため、総リーチを過小評価している可能性があります。

メタ応答

メタ氏は調査結果の重要性を主張した。同社広報担当のトレイシー・クレイトン氏は「当社は、本物かAI生成かを問わず、ヌード化アプリやあらゆる種類の児童搾取を容認しない」とWIREDに語り、同社はこれまでにヌード化ポリシーに違反したとして数十万件の広告を削除したと付け加えた。メタ社によると、研究者らが発見した広告の多くはすでに削除されており、ほとんどの広告のインプレッション数は200未満で、広告代金の回収額は5000ドル未満だったという。同社はまた、AIが生成したビデオには成人が出演している一方、未成年者が関与したクリップは短く、またはぼかされており、検出がより困難になっていると述べ、児童搾取コンテンツをNCMECに報告していると述べた。

議員と規制当局の動き

複数の議員や規制当局は現在、『WIRED』の報道を受けて、この広告について調査または検討していると述べている。先の報道を受けてメタ社の最高経営責任者（CEO）マーク・ザッカーバーグ氏に書簡を送ったバージニア州上院議員マーク・ワーナー氏は、「メタ社が児童性的虐待の内容や合意のない親密な画像を取り上げた広告を、メタ社の注目を集めた後も掲載し続けていることは残念だ」と述べた。ミシガン州の司法長官は同局が「この件について積極的に調査している」と述べ、フロリダ州の司法長官は同局が調査中であると投稿し、オーストラリアのeSafety規制当局は「非常に懸念」しており、上級レベルでメタ社に情報提供を求めていると述べた。

自社のソーシャルネットワークが児童に危害を加えたとする訴訟の解決にすでに最大167億ドルを支払い、CSAM報告プロセスの改善を求めるニューメキシコ州裁判所の判決に対して控訴している企業にとって、この厳しい調査はさらなる圧力となっている。 AI 業界にとってのより広範な問題は、自動モデレーションが AI の活用が進む不正行為に追いつくことができるかどうかです。また、修正案がこうした議論に直接反映されるため、検出システムが引用されてから数週間後に何百もの違反広告をキャッチできなかったという証拠があります。