xAI는 처음으로 회사가 실제 및 AI에서 생성된 아동 성적 학대 자료에 대해 Grok 모델을 교육했다고 비난하는 집단 소송 제안에 직면해 있습니다. 수요일에 접수되어 Ars Technica가 보고한 고소장은 회사 서버에 저장된 모든 자료를 법원 명령으로 파기하고 Grok이 성적인 콘텐츠를 처리하는 방법을 전면적으로 변경하라는 명령을 받았습니다.

해당 주장은 민사소송에서 입증되지 않은 주장으로 남아 있다. xAI를 소유한 X는 Ars Technica의 제출 의견 요청에 응답하지 않았습니다. 이 이야기에 대한 자세한 내용은 인공지능 뉴스를 참조하세요.

원고와 혐의

Jane Doe로 확인된 원고는 자신이 학대하는 이미지가 제작되어 온라인에 판매되었던 2000년대 초반 미취학 아동의 피해자였다고 고소장에서 주장합니다. 이러한 이미지는 국립실종착취아동센터(NCMEC)와 캐나다 아동보호센터(CCCP)가 관리하는 해시 목록에 오랫동안 분류되어 왔으며, 알려진 학대 자료를 추적하여 탐지하고 제거할 수 있습니다.

고소장에 따르면 CCCP는 Doe에게 xAI 플랫폼에서 그녀를 묘사하는 AI 생성 학대 자료를 식별했다고 통보했습니다. 그녀의 변호사는 보도 자료에서 그녀의 NCMEC 해시 목록 항목과 일치하는 자료가 "Grok의 이미지 및 비디오 생성 기능을 구축하는 데 사용되는 xAI 데이터 세트의 일부였다"고 밝혔습니다. 고소장은 또한 온라인 포럼에서 발견된 메시지에서 범죄자들이 Doe 및 기타 기존 학대 자료의 알려진 피해자에 대한 AI 생성 학대 이미지 생성에 대해 논의하는 것을 보여주었다고 주장합니다.

법률 이론: 단순한 출력이 아닌 훈련 데이터

xAI에 대한 이전 소송과 이번 소송이 구별되는 점은 개별 사용자가 생성한 것보다는 모델 자체에 초점을 맞춘다는 것입니다. 불만 사항은 Grok의 서비스 약관이 기본적으로 X 및 Grok 자체 출력에 대한 공개 게시물을 교육 데이터로 취급하기 때문에 공개적으로 게시된 모든 게시물은 모델을 교육하고 개선하는 데 사용되는 파이프라인에 직접 피드된다고 주장합니다.

이 서류는 xAI가 교육 데이터에서 폭력적인 콘텐츠를 필터링한다는 점을 인정하지만 회사의 약관에는 아동 성적 학대 자료, 합의되지 않은 친밀한 이미지 또는 기타 성인 콘텐츠가 제외 카테고리에 속하는지 여부를 명시하지 않는다고 주장합니다. 또한 문제가 되는 이미지가 제거된 경우에도 이미 훈련된 모델에 대한 훈련 예제의 영향은 기술적으로 완전히 제거하기 어렵고 xAI는 그렇게 했다고 공개적으로 주장하지 않았다고 주장합니다.

소송이 추구하는 것

제안된 클래스가 인증되면 어린 시절 이미지가 Grok을 통해 학대 자료를 생성하는 데 사용된 것으로 알려진 모든 사람을 대표하게 됩니다. 이 소송은 학대 자료의 생존자에게 해당 자료의 생산, 소유 및 배포에 대해 소송을 제기할 권리를 부여하는 연방 아동 포르노그라피법과 마샤법(Masha's Law)을 적용합니다.

Doe의 변호사 중 한 명인 Margaret E. Mabie는 Ars Technica가 인용한 보도 자료에서 "세 가지 모두 범죄이며 xAI가 세 가지를 모두 했습니다"라고 말했습니다.

Doe는 금전적 손해배상 외에도 Grok이 생성하여 훈련용으로 저장하고 사용할 수 있는 모든 학대 자료를 파기하고 모델이 어떤 종류의 성적인 결과물도 생성하지 못하도록 xAI에 명령할 것을 법원에 요청하고 있습니다. 이는 학대 이미지뿐만 아니라 Elon Musk가 기능으로 공개적으로 홍보한 합의되지 않은 친밀한 이미지 및 성인용 콘텐츠도 금지하는 요구입니다.

Doe의 또 다른 변호사인 Sarah London은 보도 자료에서 "Doe는 자신에게 일어났던 최악의 일에 대한 이미지가 온라인에서 포식자들 사이에 유포되고 있으며 언제든지 다시 나타날 수 있다는 사실을 알고 거의 20년 동안 살아왔습니다."라고 말했습니다. "xAI는 그녀가 겪은 끔찍한 학대 이미지에 대해 고의로 모델을 훈련시키는 책임을 져야 합니다."

점점 커지는 법적 판단

이번 소송은 Grok의 이미지 및 비디오 기능을 두고 벌어지는 법적 싸움의 최신 전선입니다. 테네시에서 발생한 별도의 사건에서는 Jane Doe 4로 확인된 여성이 Grok과 함께 어린 시절 사진 한 장을 사용하여 자신의 노골적인 이미지 수천 장을 생성했다고 주장하는 소송에 참여했습니다. 이 주장은 AI Buzz Wire가 이번 달 초에 다뤘던 주장입니다. 규제 기관과 법원은 문제가 얼마나 확장되는지 조사하고 있으며 일부 Grok 사용자는 자신이 생성한 자료로 인해 체포되었습니다.

동시에 xAI는 사용자를 상대로 공격을 가했습니다. 폴리티코(Politico)는 이번 주 피해자 소송이 증가함에도 불구하고 회사가 자체 사용자 중 일부를 고소하고 있다고 보도했습니다. 이는 플랫폼이나 이를 유도하는 사람들이 AI 모델이 생산하는 것에 대해 법적 책임을 지는지를 테스트하는 전략입니다.

새로운 불만 사항은 교육 데이터 문제를 싸움의 중심에 두었습니다. 법원이 모델의 훈련 세트가 사용자가 생성할 수 있는 것에 대한 책임을 생성할 수 있다는 주장을 받아들인다면, 그 의미는 xAI를 훨씬 넘어서 사용자 콘텐츠를 다시 훈련에 제공하는 용어를 사용하는 모든 생성 이미지 및 비디오 회사에 영향을 미칠 것입니다. 현재로서는 혐의는 단지 다음과 같습니다. xAI 제출에 대한 주장은 아직 법정에서 답변되지 않았습니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →