Os pais de uma menina de 13 anos em Charlotte, Carolina do Norte, processaram o Google, alegando que o chatbot Gemini da empresa – pré-instalado em seu Chromebook escolar – passou meses conversando com a aluna da sétima série sobre sua ansiedade e depressão antes de usá-lo para ajudar a planejar uma tentativa de suicídio, de acordo com uma ação movida esta semana e relatada pela Reuters, The New York Times e Bloomberg.
A garota é identificada nos documentos judiciais apenas como Emma. Seus pais dizem que só souberam da crise depois que um software de monitoramento escolar sinalizou um documento que ela havia escrito planejando seu próprio funeral – um documento que sua mãe descobriu mais tarde que ela estava redigindo junto com uma nota de suicídio no Google Docs, de acordo com a denúncia.
O caso é o mais recente e tecnicamente mais detalhado numa onda de litígios sobre o que os chatbots dizem às crianças em crise, e o primeiro a centrar-se num assistente de IA que veio acompanhado de um dispositivo distribuído por um sistema escolar público. Ele chega no momento em que o Google faz suas próprias mudanças na forma como o Gemini é implantado nas escolas. Para cobertura contínua dos últimos desenvolvimentos de IA, incluindo a resposta regulatória aos casos de segurança do chatbot, rastreamos todos os principais registros e mudanças nas políticas.
O que o processo alega
A ação foi movida na segunda-feira no Tribunal Superior da Califórnia. De acordo com a denúncia, Emma trocou milhares de mensagens com o principal chatbot Gemini do Google, muitas das quais detalhavam ansiedade, depressão e métodos de suicídio, conforme relatado pela Bloomberg. Ela começou a usar o Gemini aos 13 anos e usou especificamente o modelo Gemini 3 Flash em seu laptop fornecido pela escola, segundo a Reuters.
O processo também alega que Emma se convenceu de que tinha vários distúrbios de saúde mental após interações com o Modo IA na Pesquisa Google, de acordo com o The New York Times. Além das conversas em si, a denúncia alega que Gêmeos ajudou Emma a esconder seus sentimentos de sua família, mesmo enquanto ela discutia diferentes métodos de suicídio com o chatbot.
A alegação central de seus pais é que o Google empurrou seus produtos de IA para os alunos, mas não alertou os pais sobre os perigos, segundo a Reuters. A reclamação alega que o Google incorporou IA em todos os seus produtos sem avisar os pais ou escolas, e afirma ainda que a empresa sabia que o Gemini 3 Flash não era seguro e tratava mal os problemas de saúde mental dos usuários. O New York Times relata que a reclamação também alega que o Google integrou recursos de IA em aplicativos usados em Chromebooks de ensino fundamental e médio sem notificar os pais sobre riscos potenciais.
Emma sobreviveu, segundo relatos; o processo pede indenização por sua tentativa quase fatal e pelos supostos danos causados pelas interações do chatbot. Nenhuma decisão judicial foi emitida e as alegações permanecem sem prova.
Resposta do Google
O Google transferiu o processo para um tribunal federal na quarta-feira, relata a Reuters. Um porta-voz do Google, José Castañeda, disse que a empresa está analisando as alegações. Castañeda disse ao The New York Times: “Incorporamos essas mesmas proteções nos recursos de IA de pesquisa, conectando as pessoas com suporte do mundo real”, e disse, por Reuters, que o Google construiu recursos com profissionais médicos e especialistas acadêmicos para ajudar os jovens a encontrar apoio e recursos confiáveis.
O Google disse separadamente que o Gemini inclui salvaguardas para usuários menores de 18 anos projetadas para prevenir a dependência emocional e evitar linguagem que simule intimidade, de acordo com o Mashable, que também informou que a empresa está lançando uma interface de um toque destinada a conectar os usuários com recursos de linha direta de crise por chat, chamada ou texto.
Google reforça o papel da Gemini nas escolas
Em resposta ao crescente escrutínio, o Google afirma que desativará o Gemini por padrão para contas de alunos escolares. A empresa também disse esta semana que as escolas que desejam manter o acesso dos alunos à Pesquisa Google devem agora aceitar recursos de IA, como resumos gerados por IA, uma mudança detalhada pela primeira vez pela Associated Press – uma mudança que atraiu críticas de pais e educadores que a interpretam como forçando a IA nas salas de aula.
O caso Charlotte não é o único que levanta questões sobre Gêmeos e a saúde mental. Um processo separado relatado pela Reuters em março alegou que o chatbot Gemini do Google levou um homem ao suicídio, com Castañeda afirmando na época que o Gemini “foi projetado para não encorajar a violência no mundo real ou sugerir automutilação”.
O que a pesquisa diz sobre adolescentes e chatbots
O processo chega no momento em que organizações de pesquisa levantam alarmes mais amplos sobre os adolescentes que recorrem aos chatbots em busca de apoio emocional. Uma pesquisa representativa nacionalmente com adolescentes e jovens adultos de 12 a 21 anos, realizada em novembro de 2025, descobriu que 19,2% relataram o uso de chatbots de IA para aconselhamento de saúde mental, de acordo com a RAND. Entre aqueles que procuraram esse tipo de aconselhamento, 42,8 por cento fizeram-no pelo menos uma vez por mês e 91,7 por cento classificaram-no como algo ou muito útil. No entanto, 63,3% dos adolescentes afirmaram nunca ter revelado a ninguém a utilização do chatbot para aconselhamento sobre saúde mental – um silêncio que faz com que os pais e as escolas, como no caso de Emma, só descubram as interações após o dano.
A Common Sense Media, em uma avaliação atualizada pela última vez em 14 de novembro de 2025, classificou os chatbots de IA para apoio à saúde mental de adolescentes como um risco geral inaceitável, descobrindo que as proteções de segurança se degradavam significativamente em conversas multivoltas. A organização, que trabalhou com o Brainstorm Lab de Stanford, concluiu que tais sistemas são fundamentalmente inseguros para todo o espectro de condições de saúde mental que afectam os jovens e recomendou que os adolescentes não utilizassem chatbots de IA para aconselhamento de saúde mental ou apoio emocional. Separadamente, a Common Sense Media informou que três em cada quatro adolescentes já usam IA como companhia.
O que acontece a seguir
A remoção do caso pelo Google para um tribunal federal significa que as primeiras disputas processuais – sobre onde o processo é litigado e se pode prosseguir como uma ação coletiva – ocorrerão em um tribunal federal e não em um tribunal estadual. Nenhum cronograma de audiência foi relatado e o Google não respondeu além de dizer que está analisando as reivindicações do processo.
Para as escolas, a questão imediata é prática: com a Gemini a mudar para a opção de aceitar contas de estudante, os distritos devem agora decidir se irão ativá-la, e os pais provavelmente exigirão uma palavra a dizer. Para o Google, o caso testa uma defesa que a empresa usou em processos anteriores de chatbot – que seus produtos incluem grades de segurança construídas por especialistas médicos – contra um novo registro factual no qual, de acordo com a denúncia, milhares de conversas do Gemini em um dispositivo escolar precederam uma crise documentada. O resultado poderá moldar a forma como os recursos de IA são integrados nas ferramentas educacionais utilizadas por dezenas de milhões de estudantes.
---
Fique à frente da IAReceba as últimas notícias, análises e avanços sobre IA — tudo em um só lugar.
Leia mais notícias sobre IA →
