에딘버러 대학 산하 글로벌 아동 안전 연구소인 Childlight의 데이터에 따르면 생성적 AI와 관련된 아동 성적 학대 자료에 대한 보고는 2023년 약 4,700건에서 2025년 400,000건 이상으로 폭발적으로 증가했습니다. 이는 2년 만에 8,400% 이상 증가한 수치입니다.

이 수치는 Childlight의 2026 Into the Light Index의 일부로 11월 16일 월요일에 발표되었으며 The Guardian에 의해 보고되었습니다. 이는 기술 회사가 미국 국립실종착취아동센터(NCMEC)에 제출한 추천을 나타냅니다. 이는 유통되는 모든 것에 대한 인구 조사가 아니라 플랫폼이 감지하고 보고한 수입니다. 이러한 급증은 업계에서 오랫동안 위험으로 여겨졌던 생성적 AI 남용이 온라인 아동 착취 보고의 가장 큰 범주 중 하나가 되었다는 가장 명확한 정량적 신호입니다. 이는 플랫폼 안전 및 규제에 대한 진행 중인 AI 속보 보도에 기록된 변화입니다.

추천 수 4,700~400,000개

이 색인은 기술 회사가 자사 서비스에서 아동 성적 학대로 의심되는 자료를 발견하면 법적으로 NCMEC에 보내야 한다는 보고서를 추적합니다. 2023년 약 4,700건의 추천에서 2025년 400,000건 이상으로의 점프는 같은 기간 동안 소비자가 이미지 생성기와 값싼 미세 조정 도구를 출시한 것과 거의 정확히 일치합니다.

헤드라인 수치는 유통되는 유일한 숫자가 아닙니다. NCMEC는 CyberTipline이 2025년 1월부터 9월 사이에 100만 개 이상의 생성 AI 관련 보고서를 접수했다고 별도로 밝혔습니다. 이는 두 건의 범위를 지정하는 방식의 차이를 반영하여 Childlight가 인용한 400,000건보다 더 많은 수치입니다. 두 데이터 세트는 중복되지만 서로 다른 것을 측정하며 둘 다 동일한 방향을 가리킵니다.

실제 어린이의 누드 앱과 딥페이크

Childlight의 보고서는 또한 생성 AI를 사용하여 노골적인 이미지에 어린이의 얼굴을 배치하는 소위 누드화 앱의 성장을 강조합니다. 사진은 합성되었지만 해로움은 없습니다. 이미지는 실제 어린이를 묘사하고 범죄자들 사이에 공유되며 미성년자를 협박하고 희롱하는 데 점점 더 많이 사용되고 있습니다.

Guardian의 보도에 따르면 Childlight의 데이터 이사인 Debi Fry 교수는 AI가 어린이에 대한 위협을 변화시키는 속도가 매우 우려스럽다고 말했습니다. 문제는 더 이상 가상의 역량이 아니라 산업 규모의 생산입니다. 2023년에 필요한 노력과 기술은 이제 앱 스토어 다운로드만 있으면 됩니다.

감시견이 발견한 것

독립적인 평가는 문제의 규모를 확증합니다. 보고된 자료를 직접 평가하는 영국 감시 기관인 인터넷 감시 재단(Internet Watch Foundation)은 2026년 상반기에 아동 성적 학대의 법적 정의를 충족하는 AI 생성 이미지 6,310개를 발견했습니다. 이는 2025년 전체보다 40% 더 많은 수치입니다.

비디오의 궤적은 여전히 ​​완전합니다. IWF는 AI가 생성한 아동 성적 학대 동영상을 2024년 13개에서 2025년 3,440개로 확인했으며, 그 중 65%가 영국 법률에 따라 가장 심각한 등급인 카테고리 A에 속했습니다. 1년 만에 13개에서 3,440개로 증가한 것은 탐지 시스템이 적응할 수 있는 것보다 더 빠르게 도구가 정지 이미지에서 움직이는 비디오로 이동했음을 보여줍니다.

규제가 따라잡기 위해 경주 중

영국은 지금까지 가장 멀리 나아갔습니다. 2026년 범죄 및 치안법(Crime and Policing Act 2026)에 따라 정부 자체 자료표에 따르면 아동 학대 자료를 생성하도록 설계된 AI 도구를 소유, 제작 또는 배포하는 것은 이제 형사 범죄로 간주되며 최대 5년의 징역형을 받을 수 있습니다. 동일한 법안은 누드화 도구를 만들거나 공급하는 것을 범죄로 규정합니다. 이는 그 뒤에 있는 앱 개발자를 직접 겨냥한 조항입니다.

다른 곳에서는 그림이 더 얇아집니다. Childlight의 지수에 따르면 조사 대상 103개 국가 중 오프라인 및 기술을 활용한 아동 학대를 모두 포괄하는 포괄적인 조사 데이터를 보유한 국가는 22개에 불과합니다. 이는 대부분의 정부가 신뢰할 수 있는 기준 없이 입법을 진행하고 있음을 의미합니다. 연구소는 더 엄격한 온라인 안전법, 더 나은 데이터 수집, 기술 부문의 더 큰 책임 및 조기 예방 작업을 요구하고 있습니다.

보고 파이프라인 문제

숫자를 해석할 때 한 가지 제한 사항이 중요합니다. 데이터에는 보고된 자료의 출처로 특정 모델이나 플랫폼이 명시되어 있지 않습니다. 팁은 서비스를 검사하고 찾은 내용을 보고하는 기술 회사에서 나옵니다. 즉, 검사하지 않는 회사는 보고서를 생성하지 않는다는 의미입니다. 탐지 주도 보고는 Guardian의 보고에 따르면 일종의 안전 수준이며 다음 수치에서는 ​​어떤 회사가 실제로 찾고 있는지를 보여줍니다.

AI 산업의 경우, 지수의 메시지는 분명합니다. 생성 도구의 남용은 더 이상 모델 카드의 위험 섹션에 투영되지 않습니다. 이는 원장에서 가장 큰 부분이며, 남용을 저렴하게 만든 모델과 앱을 보유한 회사는 집행 조치, 규정 준수 비용 및 법적 측면에서 이에 대한 비용을 지불하라는 요청을 받게 될 것입니다.

AI보다 앞서 나가세요

AI 안전 및 규제에 관한 논쟁이 진행되는 과정을 따라가보세요. AI 뉴스 자세히 보기 →