OpenAI와 Meta Platforms의 대표자들은 목요일 연방 사법위원회에서 AI로 생성된 딥페이크가 너무 발전하여 법정에서 오디오 및 비디오 증거의 진위를 확인하는 것이 더욱 어려워질 것이라고 말했습니다.

기술 전문가들은 보스턴에서 열린 미국 사법 회의의 증거 규칙 자문 위원회 회의에서 우려 사항을 제시했습니다. 이 위원회는 법원이 인정할 수 있는 증거를 규제하는 연방 규칙에 대한 변경을 권장하는 역할을 담당합니다. 위원회는 2023년부터 법정에서 AI 생성 증거 조작의 위험을 해결하는 방법을 연구해 왔습니다. 이 이야기에 대한 자세한 내용은 AI 뉴스를 참조하세요.

AI 연구소는 탐지에는 과학적 미래가 없다고 말합니다

OpenAI의 정책 고문인 Shira Anderson은 AI 이미지의 품질이 지속적으로 향상되고 있으며 이를 감지하는 과학적 방법이 미래에 존재할 것이라고 믿지 않는다고 위원회에 말했습니다. 이는 해당 콘텐츠를 생성하는 생성 시스템을 구축하는 회사의 놀라운 인정입니다.

Meta의 제품 관리 이사인 Devin Norder는 최근 AI 모델로 생성된 미디어는 인간이 실제 콘텐츠와 구별할 수 없으며 이러한 미디어를 만드는 데에는 최소한의 비용과 시간이 필요하다고 패널에게 말했습니다.

두 회사 모두 시각적 콘텐츠에 대한 출처 및 검증 도구를 개발했으며 캘리포니아와 유럽 연합의 새로운 법률에서는 AI 생성 미디어에 워터마킹을 요구합니다. 그러나 앤더슨은 위원회에 각 회사가 자체 시스템을 사용한다고 경고했습니다. 이는 모든 워터마크를 안정적으로 감지하거나 생태계 전반에 걸쳐 시각적 콘텐츠의 신뢰성을 확인할 수 있는 보편적인 방법이 존재하지 않는다는 것을 의미합니다.

법원은 아직 파도를 느끼지 못했습니다

위원회 위원장인 맨해튼의 미국 지방 판사 제시 퍼먼(Jesse Furman)은 경고에 대한 균형추를 제시했습니다. 학계 논평에서는 법원이 딥페이크를 처리할 것이라고 예측하지만 이 문제는 실제 사건에서 아직 자주 나타나지 않았습니다.

지난 3월 연방사법센터가 실시한 설문조사는 이러한 격차를 강조했습니다. 응답한 931명의 판사 중 15명만이 딥페이크라는 이유로 당사자가 증거에 이의를 제기하는 사례를 접했습니다.

예측과 실제 사이의 격차가 위원회의 핵심 딜레마입니다. 연방 증거 규칙 901 및 902에 따라 증거 인증에 대한 기존 표준은 위원회 자체 보고서에 따르면 온화한 표준입니다. 즉, 당사자는 해당 항목이 제안자가 주장하는 것과 일치한다는 결론을 뒷받침하기에 충분한 증거만 제시하면 됩니다. 녹음을 인증하는 전통적인 경로(증인 증언, 시스템 문서)에서는 대규모 위조가 어렵고, 비용이 많이 들고, 탐지 가능하다고 가정하기 때문에 딥페이크는 해당 표준에 대한 스트레스 테스트를 실시합니다.

위원회 자체 보고에서는 이 문제를 유난히 무뚝뚝하게 표현했습니다. 2025년 12월 보고서에서는 재판에서 제공된 비디오 또는 오디오가 딥페이크인 경우 어떤 일이 발생하는지 조사했으며, 이는 기존 진위 표준이 약하기 때문에 규칙 901 및 902에 따른 진위 요구 사항에 직접적인 도전을 제기한다는 결론을 내렸습니다. 그 기준을 강화하는 방법과 여부는 위원회가 3년 동안 계속 고민해 온 문제이며, 연구실 대표자들이 경고했듯이 탐지 과학이 생성 과학을 결코 따라잡지 못한다면 더욱 시급해집니다.

실무자가 지금 할 수 있는 일

규정이 바뀔 때까지 실질적인 부담은 소송담당자와 재판관의 몫이다. 생성 시 내장된 암호화 콘텐츠 자격 증명인 출처 도구는 카메라 앱과 크리에이티브 소프트웨어를 통해 확산되고 있지만 이를 전달하는 미디어에만 도움이 됩니다. 녹음을 캡처한 사람의 선서에 따른 반대 심문, 원본 파일 및 생성 메타데이터에 대한 검색 요구, 소셜 플랫폼에 유포되는 출처가 없는 클립에 대한 면밀한 조사가 현재의 방어 수단입니다. 이번 주 자문 위원회의 메시지는 이러한 미봉책에는 공식적인 규칙 수준의 기반이 필요하다는 것이었습니다. 왜냐하면 비공식적인 것들은 OpenAI와 Meta가 더 이상 존재하지 않는다고 말하는 탐지 가능성을 가정하기 때문입니다.

연구소의 증언이 중요한 이유

위험을 초래하는 제품을 생산하는 회사가 이에 대해 사법부에 경고하는 회사라는 점은 주목할 만합니다. OpenAI와 Meta는 규칙이 어떻게 적용되는지에 대해 직접적인 상업적, 평판적 이익을 가지고 있습니다. 엄격한 인증 요구 사항은 AI 미디어의 합법적인 사용에 마찰을 일으킬 수 있는 반면, 느슨한 인증 요구 사항은 도구를 법정 사기를 위한 벡터로 만들 수 있습니다. 위원회에 보낸 메시지는 탐지만으로는 확장할 수 없기 때문에 워터마킹, 콘텐츠 자격 증명, 관리 연속성 문서와 같은 출처 표준이 실행 가능한 경로라는 것이었습니다.

위원회의 3년 검토는 AI 시대에 맞춰 연방 증거 규정에 수정이 필요한지 여부를 알릴 것으로 예상된다. 모든 변경 사항은 의회에 제출되기 전에 공개 논평을 포함한 사법 회의의 규칙 제정 과정을 거쳐야 합니다.

광범위한 규제 상황

청문회는 딥페이크 관련 정책 활동이 급증하는 가운데 진행됩니다. 캘리포니아와 EU는 워터마킹 의무를 제정했습니다. 덴마크는 동의 없이 AI 딥페이크 공유를 금지하는 법안을 추진했습니다. 미국 법원은 이미 AI가 생성한 조작이 서류에서 표면화되는 것을 확인했으며, 판사는 챗봇이 생성한 가짜 인용문을 제출한 변호사를 제재했습니다.

현재 연방 사법부는 급격한 규칙 변경보다 신중한 연구를 선택하고 있습니다. 그러나 기술을 구축하는 회사의 증언에 따르면 업계 자체는 탐지 도구가 속도를 따라갈 것으로 기대하지 않습니다. 이로 인해 출처 기준, 실시간 증언 요구 사항과 같은 절차적 보호 장치, 궁극적으로 무엇을 믿을지에 대한 판사와 배심원의 판단으로 부담이 옮겨집니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →