노스캐롤라이나 주 샬럿에 사는 13세 소녀의 부모는 학교에서 지급한 크롬북에 사전 설치된 회사의 제미니(Gemini) 챗봇이 7학년 학생이 자살 시도를 계획하는 데 사용하기 전에 몇 달 동안 불안과 우울증에 관해 대화를 나눴다고 주장하며 구글을 고소했다고 로이터 통신, 뉴욕 타임스, 블룸버그가 이번 주에 제출한 소송에 따르면 밝혔습니다.

그 소녀는 법원 서류에서 엠마로만 확인되었습니다. 고소장에 따르면 그녀의 부모는 그녀가 자신의 장례식을 계획하기 위해 작성한 문서에 학교 모니터링 소프트웨어가 표시한 후에야 위기를 알게 되었다고 말했습니다. 고소장에 따르면 그녀의 어머니는 나중에 이 문서가 그녀가 구글 독스에서 자살 유서와 함께 작성하고 있었다는 사실을 발견했습니다.

이 사건은 챗봇이 위기에 처한 어린이들에게 말하는 내용에 대한 소송의 물결에서 가장 기술적으로 가장 최근의 사건이며, 공립학교 시스템에서 배포한 장치와 함께 번들로 제공되는 AI 보조원을 중심으로 한 최초의 사건입니다. Google이 Gemini를 학교에 배포하는 방식을 자체적으로 변경하면서 출시되었습니다. 챗봇 안전 사례에 대한 규제 대응을 포함하여 최신 AI 개발을 지속적으로 보도하기 위해 모든 주요 제출 및 정책 변경을 추적합니다.

소송에서 주장하는 것

해당 소송은 월요일 캘리포니아 고등법원에 제기됐다. 고소장에 따르면 Emma는 Google의 대표적인 Gemini 챗봇과 수천 개의 메시지를 교환했는데, 그 중 다수는 불안, 우울증, 자살 방법을 자세히 설명했다고 Bloomberg가 보도했습니다. Reuters에 따르면 그녀는 13세부터 Gemini를 사용하기 시작했으며 특히 학교에서 제공한 노트북에서 Gemini 3 Flash 모델을 사용했습니다.

The New York Times에 따르면 Emma는 Google 검색에서 AI 모드와 상호작용한 후 자신이 여러 정신 건강 장애를 앓고 있다고 확신하게 되었다고 주장합니다. 고소장은 대화 그 자체 외에도 엠마가 챗봇과 다양한 자살 방법에 대해 논의하면서도 가족에게 자신의 감정을 숨기는 데 제미니가 도움을 주었다고 주장합니다.

로이터 통신에 따르면 그녀의 부모의 핵심 주장은 Google이 부모에게 위험에 대해 경고하지 않고 AI 제품을 학생들에게 제공했다는 것입니다. 고소장에는 구글이 부모나 학교에 경고하지 않고 자사의 모든 제품에 AI를 접목시켰다고 주장하며, 나아가 회사가 Gemini 3 Flash가 안전하지 않고 사용자의 정신 건강 문제를 잘못 처리했다는 것을 알고 있었다고 주장합니다. New York Times는 또한 Google이 잠재적인 위험에 대해 부모에게 알리지 않고 K-12 Chromebook에서 사용되는 앱에 AI 기능을 통합했다고 주장합니다.

보고서에 따르면 엠마는 살아 남았습니다. 소송은 그녀의 거의 치명적인 시도와 챗봇 상호 작용으로 인한 피해 주장에 대해 손해 배상을 청구합니다. 법원 판결은 내려지지 않았으며 혐의는 입증되지 않은 상태로 남아 있습니다.

Google의 응답

구글은 수요일 소송을 연방법원으로 옮겼다고 로이터 통신은 보도했다. 구글 대변인 호세 카스타네다(José Castañeda)는 회사가 이러한 주장을 검토하고 있다고 말했습니다. Castañeda는 The New York Times에 "우리는 검색 AI 기능에 동일한 보호 기능을 구축하여 사람들을 실제 지원과 연결했습니다"라고 말했습니다. Reuters에 따르면 Google은 젊은이들이 지원과 신뢰할 수 있는 리소스를 찾을 수 있도록 의료 전문가 및 학계 전문가와 함께 기능을 구축했다고 말했습니다.

Mashable에 따르면 Google은 Gemini에 감정적 의존성을 방지하고 친밀감을 가장하는 언어를 피하기 위해 설계된 18세 미만 사용자를 위한 보호 장치가 포함되어 있다고 별도로 밝혔으며, Mashable은 또한 회사가 채팅, 전화 또는 문자를 통해 사용자를 위기 핫라인 리소스와 연결하기 위한 원터치 인터페이스를 출시하고 있다고 보고했습니다.

Google, 학교에서 Gemini의 역할 강화

점점 더 많은 조사가 이뤄지자 구글은 학교 학생 계정에 대해 기본적으로 Gemini를 끌 것이라고 밝혔습니다. 이 회사는 또한 학생들이 Google 검색에 계속 액세스할 수 있기를 원하는 학교는 이제 AI 생성 요약과 같은 AI 기능을 수용해야 한다고 이번 주에 밝혔는데, 이는 Associated Press가 처음으로 자세히 설명한 변화입니다. 이 변화는 AI를 교실에 강요하는 것으로 읽은 학부모와 교육자로부터 자체 비판을 불러일으켰습니다.

샬럿 사건은 쌍둥이자리와 정신 건강에 대한 의문을 제기하는 유일한 사건이 아닙니다. 지난 3월 로이터 통신이 보도한 별도의 소송에서는 구글의 제미니(Gemini) 챗봇이 한 남성을 자살로 몰고 갔다고 주장했으며, 카스타녜다(Castañeda)는 당시 제미니가 "현실 세계의 폭력을 조장하거나 자해를 암시하지 않도록 설계됐다"고 밝혔습니다.

청소년과 챗봇에 대한 연구 결과

이번 소송은 연구 기관들이 정서적 지원을 위해 챗봇을 사용하는 십대들에 대한 광범위한 경보를 제기하면서 발생했습니다. RAND에 따르면 2025년 11월에 실시된 12~21세 청소년 및 청년을 대상으로 한 전국 대표 설문 조사에 따르면 19.2%가 정신 건강 조언을 위해 AI 챗봇을 사용한다고 보고했습니다. 그러한 조언을 구한 사람들 중 42.8%는 적어도 한 달에 한 번은 그렇게 했으며, 91.7%는 어느 정도 또는 매우 도움이 된다고 평가했습니다. 그러나 청소년의 63.3%는 정신 건강 조언을 위해 챗봇 사용을 누구에게도 공개한 적이 없다고 말했습니다. Emma의 경우처럼 부모와 학교는 침묵을 지키고 피해를 입은 후에야 상호 작용을 발견합니다.

Common Sense Media는 2025년 11월 14일에 마지막으로 업데이트된 평가에서 청소년 정신 건강 지원을 위한 AI 챗봇을 전반적으로 허용할 수 없는 위험으로 평가했으며, 다중 회전 대화에서 안전 가드레일이 크게 저하되었음을 확인했습니다. 스탠포드의 Brainstorm Lab과 협력한 이 조직은 이러한 시스템이 젊은이들에게 영향을 미치는 모든 정신 건강 상태에 대해 근본적으로 안전하지 않다고 결론을 내렸고 십대들이 정신 건강 조언이나 정서적 지원을 위해 AI 챗봇을 전혀 사용하지 말 것을 권고했습니다. 이와 별도로 Common Sense Media는 십대 4명 중 3명이 이미 교제를 위해 AI를 사용하고 있다고 보도했습니다.

다음에 무슨 일이 일어날까요?

구글이 해당 사건을 연방 법원으로 기각한다는 것은 해당 소송이 어디에서 제기되고 집단 소송으로 진행될 수 있는지 여부를 둘러싼 첫 번째 절차적 싸움이 주 법원이 아닌 연방 법원에서 진행된다는 것을 의미합니다. 청문회 일정은 보고되지 않았으며 Google은 소송 주장을 검토 중이라는 말 외에는 응답하지 않았습니다.

학교의 경우 즉각적인 질문은 실용적입니다. Gemini가 학생 계정 선택으로 전환함에 따라 학군은 이제 이를 활성화할지 여부를 결정해야 하며 학부모는 발언권을 요구할 가능성이 높습니다. Google의 경우 이 사건은 고소장에 따르면 문서화된 위기 이전에 학교 장치에서 수천 건의 Gemini 대화가 있었던 새로운 사실 ​​기록에 대해 회사가 초기 챗봇 소송에서 사용한 방어(의료 전문가가 구축한 안전 가드레일이 포함된 제품)를 테스트합니다. 결과는 수천만 명의 학생들이 사용하는 교육 도구에 AI 기능을 번들로 묶는 방식을 형성할 수 있습니다.

---

AI보다 앞서 나가세요

최신 AI 뉴스, 분석, 획기적인 소식을 모두 한 곳에서 받아보세요.

AI 뉴스 자세히 보기 →