ロイター通信によると、オープンAIとメタプラットフォームの代表者らは木曜日、連邦司法委員会に対し、AIが生成するディープフェイクが非常に高度になっており、法廷での音声と映像の証拠の信頼性を検証することがますます困難になるだろうと述べた。

技術専門家らは、ボストンで開催された米国司法会議の証拠規則に関する諮問委員会の会議で懸念を表明した。この委員会は、裁判所が認めることができる証拠を規定する連邦規則の変更を勧告する責任を負う機関である。同委員会は2023年から法廷でAIが生成した捏造証拠のリスクにどう対処するかについて取り組んでいる。 この件の詳細は、AIニュースをご覧ください。

AI 研究所は、検出には科学的な未来はないと言っています

OpenAIの政策顧問シーラ・アンダーソン氏は委員会に対し、AI画像の品質は向上し続けており、それらを検出する科学的方法が将来存在するとは信じていないと述べた。これは、そのコンテンツを生成する生成システムを構築する企業の驚くべき認めである。

Meta社の製品管理ディレクターであるDevin Norder氏はパネルディスカッションに対し、最近のAIモデルによって作成されたメディアは人間が本物のコンテンツと区別することはできず、そのようなメディアの作成には最小限のコストと時間がかかるようになったと語った。

両社はビジュアル コンテンツの出所と検証ツールを開発しており、カリフォルニア州と欧州連合の新しい法律では、AI で生成されたメディアに透かしを入れることが義務付けられています。しかし、アンダーソン氏は、各企業が独自のシステムを使用していること、つまりエコシステム全体ですべての透かしを確実に検出したり、ビジュアルコンテンツの信頼性を検証したりするための普遍的な方法が存在しないことを意味すると委員会に警告した。

裁判所はまだその波を感じていない

委員会の委員長であるマンハッタンの連邦地方判事ジェシー・ファーマン氏は、この警鐘に対して反論を行った。学術評論では裁判所がディープフェイクに対処すると予測しているが、この問題は実際の訴訟ではまだ頻繁には現れていない。

連邦司法センターが3月に実施した調査では、そのギャップが浮き彫りになった。回答した裁判官 931 人中、当事者がディープフェイクであるという理由で証拠を異議を申し立てる訴訟に遭遇したのは、**15 人だけでした。

予測と実践の間のギャップが委員会の中心的なジレンマです。連邦証拠規則 901 および 902 に基づく、証拠を認証するための既存の基準は、委員会自身の報告書が述べているように、穏やかなものです。当事者は、その品目が提案者が主張するものであるという認定を裏付けるのに十分な証拠を提出するだけで済みます。ディープフェイクは、その基準をストレステストします。これは、録音を認証するための従来の経路（証人の証言、システム文書）では、大規模な偽造は困難で高価であり、検出可能であると想定されているためです。

委員会自身の報告書は、異常なまでに率直な態度で問題を浮き彫りにしている。 2025年12月の報告書では、裁判で提供されたビデオや音声がディープフェイクだった場合に何が起こるかを調査し、既存の真正性基準が緩やかなものであるからこそ、規則901および902に基づく真正性要件に直接の挑戦となると結論づけた。その基準をどのように強化するか、そして強化するかどうかは、委員会が3年間検討してきた問題であり、研究室の代表者が警告したように、検出科学が生成科学に決して追いつかないのであれば、その緊急性はさらに高まる。

実践者が今できること

規則が変わるまでは、実際的な負担は訴訟担当者と裁判官に課されることになる。出所ツール (作成時に埋め込まれた暗号化されたコンテンツ認証情報) は、カメラ アプリやクリエイティブ ソフトウェアを通じて普及していますが、それらを提供するメディアにのみ役立ちます。録音をキャプチャした人物の宣誓に基づく反対尋問、オリジナルファイルと世代のメタデータの開示要求、ソーシャルプラットフォーム上で流通している出典のないクリップの綿密な精査が現在の防御手段となっている。今週の諮問委員会のメッセージは事実上、非公式なものはOpenAIとMetaがもはや存在しないと主張する検出可能性を前提としているため、これらの一時しのぎには正式なルールレベルの基盤が必要であるというものだった。

研究室の証言が重要な理由

リスクを生み出す製品を提供する企業が、そのリスクについて司法当局に警告していることは注目に値する。 OpenAI と Meta は、ルールの適用に関して直接的な商業的および評判上の利益を持っています。厳格な認証要件は AI メディアの正当な使用に摩擦をもたらす可能性があり、一方、緩い認証要件は法廷での詐欺の媒介となる可能性があります。委員会に対する彼らのメッセージは、事実上、検出だけでは拡張できないため、出所標準 (透かし、コンテンツ認証情報、保管管理文書) が実行可能な方法であるというものでした。

委員会の3年間の見直しにより、AI時代に向けて連邦証拠規則の修正が必要かどうかが通知されることが期待されている。いかなる変更も議会に提出される前に、パブリックコメントを含む司法会議の規則策定プロセスを経ることになる。

より広範な規制の全体像

この公聴会はディープフェイク関連の政策活動が急増するさなか開催された。カリフォルニア州と EU はウォーターマーキング義務を制定しました。デンマークは、同意のないAIディープフェイクの共有を禁止する法案を進めた。米国の裁判所はすでにAIによる捏造が提出書類で表面化しているのを確認しており、裁判官はチャットボットによって生成された偽の引用を提出した弁護士を制裁している。

今のところ、連邦司法当局は急速な規則変更よりも慎重な調査を選択している。しかし、この技術を構築している企業の証言は、業界自体が検出ツールの進歩に追いつくことを期待していないことを示唆している。そのため、負担は出所基準、生の証言要件などの手続き上の保護、そして最終的には何を信じるべきかについての裁判官や陪審員の判断へと移っている。

---

AIの最新情報をお届け

AIの最新ニュース、分析、ブレイクスルーを一箇所で。

AIニュースをもっと読む →