메타의 AI 광고 스크리닝으로 수백 개의 아동 학대 광고를 차단하지 못했다는 사실이 밝혀졌습니다.

연구원들은 이를 차단하기 위해 구축된 새로운 AI 도구에도 불구하고 8월 이후 Meta의 플랫폼에서 아동 성 학대 자료가 포함된 광고를 250개 이상 추가로 발견했습니다.

비영리 기술 투명성 프로젝트(Tech Transparency Project)가 WIRED와 공유하고 화요일에 발표한 연구에 따르면, 아동 성적 학대 콘텐츠를 포함하는 250개 이상의 추가 광고가 Meta가 해당 유형의 콘텐츠를 정확하게 감지하고 차단하도록 설계된 새로운 AI 도구를 출시한 지 몇 주 만에 Meta의 플랫폼에 게재되었습니다. 이번 발견은 AI 기반 광고 심사가 격차를 크게 줄였다는 회사의 주장을 약화시키며, 국회의원들이 조사할 계획이라고 말하는 가운데 나온 것입니다.

새로운 수치는 이전 공개를 확장합니다. 지난 달 Meta는 WIRED의 이전 보고에 이어 Facebook, Instagram 및 Threads에 게시된 아동 성적 학대 콘텐츠를 직접 포함하는 약 50개의 광고를 삭제했습니다. 당시 회사는 대부분의 악의적인 광고가 새로운 AI 탐지 도구를 배포하기 전에 게시되었다고 밝혔습니다. 연구원들은 예상했던 감소 대신 최근 몇 주 동안 Meta가 방금 제거한 것과 동일한 광고를 포함하여 수백 개의 광고를 더 발견했다고 말합니다. 플랫폼 안전과 최신 AI 뉴스에 대한 지속적인 보도를 보려면 AI Buzz Wire를 팔로우하세요.

실패의 규모

기술 투명성 프로젝트(Tech Transparency Project)의 연구원들은 작년 말부터 Facebook, Instagram, Messenger, Threads 및 Meta의 광범위한 광고 네트워크에 걸쳐 Meta의 플랫폼에서 실행되는 악의적인 비디오 광고 중 350개 이상을 기록했습니다. 그룹이 식별한 53개 광고의 초기 세트와 달리 최신 배치에는 순수한 합성 광고가 아닌 실제 어린이의 이미지가 포함되었습니다. WIRED는 한 소스 이미지가 유럽 왕실의 공식 웹사이트에서 나온 것임을 확인했습니다. 연구원들은 공식적으로 공개된 가족 중 미성년자의 사진이 성행위를 묘사하는 비디오로 조작되었다고 말했습니다. 연구진은 피해자 보호를 위해 왕족의 이름을 밝히지 않고 해당 국가 관계자에게 연락했다고 밝혔다.

그룹 이사인 케이티 폴(Katie Paul)은 문제가 AI 생성 이미지에만 국한되지 않는다고 WIRED에 말했습니다. 그녀는 "여기서 우리가 이야기하고 있는 것은 단순히 AI가 생성한 아동 성 학대 자료가 아니다"라고 말하면서 많은 이미지가 광고에 사용되기 전에 공개 웹에서 가져온 것으로 보인다고 지적했습니다. "메타가 그 과정에서 돈을 긁어 모으는 동안 이로 인해 발생할 수 있는 피해가 많습니다." 연구원들은 광고에 이미지가 사용된 미성년자 4명의 실제 신원을 확인했습니다.

누드화 앱으로의 유입 경로

보고에 따르면 광고는 일관된 패턴을 따릅니다. 많은 사람들이 10대 초반이나 10대 소녀의 무해한 사진을 열었습니다. 연구원들은 소년이 등장하는 단 한 장의 사진만 발견했습니다. 그 이미지는 "단순한 사진이 아닙니다"라고 선언하는 텍스트와 함께 오버레이되어 있으며 이를 통해 수행할 수 있는 작업에는 "제한 없음"이 있습니다. 짧은 영상이 재생되면 아이의 얼굴이 노골적인 영상으로 변한다. 클릭하면 AI 얼굴 교환 및 '누드화' 앱이 Apple과 Google의 앱 스토어에서 제공되며, 그 중 상당수는 중국 개발자와 연결되어 있습니다. WIRED는 Meta의 플랫폼에서 성인을 묘사하는 수백 개의 관련 누드 광고를 별도로 식별했습니다.

느린 검토 및 공개 누락

Meta의 정책에 따르면 회사는 플랫폼에 게재되는 모든 광고를 검토하며 해당 광고는 아동 착취, 성인 착취 및 과도한 노출에 대한 규정을 위반했습니다. 실제로 연구원들은 Meta가 회사 자체 도구를 통해 보고된 라이브 광고를 검토하는 데 최대 일주일이 걸렸다고 보고했습니다. WIRED가 검토한 스크린샷에 따르면 이 기간 동안 광고는 수백 건의 추가 조회수를 기록했습니다. 일부 광고가 삭제되었을 때 해당 광고의 게시 중단 기록에는 처음에 회사의 아동 성적 학대 정책을 위반했다는 공개가 부족했습니다. 이러한 세부 사항은 WIRED가 Meta에게 불일치에 대해 질문한 후에야 나타났습니다.

연구원들은 발견한 모든 광고를 미국 국립실종착취아동센터의 CyberTipline과 Meta의 보고 도구를 통해 보고했습니다. Meta의 자체 광고 라이브러리에 따르면 광고는 유럽 연합 국가 전체에서 29,000개 이상의 계정, 영국에서는 약 7,000개 계정에 총체적으로 표시되었으며, 그 중 미국에서 250개 이상, 호주에서 120개, 인도에서 80개가 표시되었습니다. 일부 국가에서는 세부적인 광고 성과 데이터가 부족하기 때문에 총 도달 범위가 과소평가될 수 있습니다.

메타 응답

Meta는 연구 결과의 중요성에 대해 반발했습니다. 회사 대변인 Tracy Clayton은 WIRED와의 인터뷰에서 "우리는 나체화 앱이나 모든 종류의 아동 착취를 용납하지 않습니다. 실제이든 AI가 생성했든 간에 회사는 이전에 나체화 정책을 위반한 수십만 개의 광고를 삭제했다고 덧붙였습니다." Meta는 연구원들이 발견한 많은 광고가 이미 제거되었으며 대부분의 노출수는 200회 미만이며 광고 지불금은 5,000달러 미만이라고 말했습니다. 회사는 또한 AI가 생성한 영상에는 성인이 등장하고 미성년자가 등장하는 영상은 짧거나 흐릿해 탐지가 더 어렵다며 아동 착취 콘텐츠를 NCMEC에 신고했다고 밝혔습니다.

국회의원과 규제기관의 움직임

여러 국회의원과 규제 당국은 이제 WIRED의 보도에 따라 광고를 조사 중이라고 밝혔습니다. 이전 보도 이후 메타 CEO인 마크 저커버그에게 서한을 보낸 버지니아 상원의원 마크 워너는 "메타가 주목을 받은 후에도 아동 성적 학대 자료와 합의되지 않은 은밀한 이미지가 포함된 광고를 계속 게재하는 것은 실망스럽다"고 말했습니다. 미시간 주 법무장관은 사무실이 "이 문제를 적극적으로 조사하고 있다"고 밝혔고, 플로리다 법무장관은 자신의 사무실에서 조사 중이라고 게시했으며, 호주 eSafety 규제 기관은 "매우 우려하고 있다"고 고위급에서 Meta에 정보를 요청했습니다.

이번 조사는 소셜 네트워크가 아동에게 피해를 입혔다고 주장하는 소송을 해결하기 위해 이미 최대 167억 달러를 지불하고 CSAM 보고 프로세스를 개선해야 하는 뉴멕시코 법원 결정에 항소하는 회사에 압력을 가하는 것입니다. AI 업계에 대한 더 넓은 질문은 자동화된 조정이 AI의 지원을 점점 더 많이 받고 있는 남용에 보조를 맞출 수 있는지 여부입니다. 그리고 탐지 시스템이 수정 사항이 언급된 지 몇 주 후에 수백 개의 위반 광고를 포착하지 못했다는 증거는 이러한 논쟁에 직접 영향을 미칠 것입니다.