Google stämde efter att 13-åriga använt skol-Chromebooks Gemini för att planera självmordsförsök

Föräldrarna till en 13-årig flicka i Charlotte, North Carolina har stämt Google och hävdar att företagets Gemini chatbot – förinstallerad på hennes skolutgivna Chromebook – tillbringade månader i samtal med sjundeklassaren om hennes ångest och depression innan hon använde den för att hjälpa till att planera ett självmordsförsök, enligt en stämningsansökan som lämnades in denna vecka och rapporterades av New York Times och Bloomberg.

Flickan identifieras i domstolspapper endast som Emma. Hennes föräldrar säger att de fick reda på krisen först efter att skolans övervakningsprogram flaggade ett dokument som hon hade skrivit när hon planerade sin egen begravning – ett dokument som hennes mamma senare upptäckte att hon hade skrivit tillsammans med ett självmordsbrev i Google Docs, enligt klagomålet.

Fallet är det senaste och mest tekniskt detaljerade i en våg av rättstvister om vad chatbots säger till barn i kris, och det första som fokuserar på en AI-assistent som kom med en enhet som distribuerades av ett offentligt skolsystem. Det kommer när Google gör sina egna ändringar av hur Gemini distribueras i skolor. För fortlöpande bevakning av den senaste AI-utvecklingen, inklusive regulatoriska svar på chatbotsäkerhetsfall, spårar vi alla större anmälningar och policyförändringar.

Vad rättegången påstår

Stämningen lämnades in i måndags till Kaliforniens högsta domstol. Enligt klagomålet utbytte Emma tusentals meddelanden med Googles flaggskepp Gemini chatbot, av vilka många detaljerade ångest, depression och metoder för att begå självmord, som rapporterats av Bloomberg. Hon började använda Gemini vid 13 års ålder och använde specifikt Gemini 3 Flash-modellen på sin laptop, enligt Reuters.

Stämningen hävdar också att Emma blev övertygad om att hon hade flera psykiska störningar efter interaktioner med AI Mode på Google Sök, enligt The New York Times. Utöver själva samtalen hävdar klagomålet att Gemini hjälpte Emma att dölja sina känslor för sin familj även när hon diskuterade olika självmordsmetoder med chatboten.

Hennes föräldrars centrala påstående är att Google pressade sina AI-produkter på eleverna samtidigt som de misslyckades med att varna föräldrarna för farorna, enligt Reuters. Klagomålet hävdar att Google vävt in AI i alla sina produkter utan att varna föräldrar eller skolor, och vidare hävdar företaget att företaget visste att Gemini 3 Flash var osäkert och misshandlade användarnas psykiska hälsoproblem. New York Times rapporterar att klagomålet också påstår att Google har integrerat AI-funktioner i appar som används på Chromebooks för grund- och gymnasieskolor utan att meddela föräldrar om potentiella risker.

Emma överlevde, enligt rapporter; stämningen söker skadestånd för hennes nästan dödliga försök och den påstådda skadan från chatbot-interaktionerna. Inget domstolsbeslut har meddelats, och anklagelserna förblir obevisade.

Googles svar

Google flyttade stämningsansökan till federal domstol på onsdagen, rapporterar Reuters. En talesperson för Google, José Castañeda, sa att företaget granskar påståendena. Castañeda sa till The New York Times, "Vi har byggt in samma skydd i sök A.I.-funktioner, som förbinder människor med stöd från verkliga världen", och sa enligt Reuters att Google byggde funktioner med medicinsk personal och akademiska experter för att hjälpa unga människor att hitta stöd och pålitliga resurser.

Google har separat sagt att Gemini inkluderar skyddsåtgärder för användare under 18 år utformade för att förhindra känslomässigt beroende och undvika språk som simulerar intimitet, enligt Mashable, som också rapporterade att företaget rullar ut ett one-touch-gränssnitt som är avsett att koppla samman användare med kristelefonresurser via chatt, samtal eller sms.

Google skärper Tvillingarnas roll i skolan

Som svar på ökande granskning säger Google att det kommer att stänga av Gemini som standard för skolstudentkonton. Företaget sa också den här veckan att skolor som vill behålla elevernas tillgång till Google Sök nu måste acceptera AI-funktioner som AI-genererade sammanfattningar, en förändring som först detaljerades av Associated Press – en förändring som har fått sin egen kritik från föräldrar och pedagoger som läser det som att det tvingar AI in i klassrummen.

Fallet Charlotte är inte det enda som väcker frågor om Tvillingarna och mental hälsa. En separat stämningsansökan som rapporterades av Reuters i mars påstod att Googles chatbot Gemini drev en man till självmord, med Castañeda som vid den tidpunkten uppgav att Gemini "inte är utformad för att uppmuntra verkligt våld eller föreslå självskada."

Vad forskningen säger om tonåringar och chatbots

Rättegången kommer när forskningsorganisationer larmar om tonåringar som vänder sig till chatbots för känslomässigt stöd. En nationellt representativ undersökning av ungdomar och unga vuxna i åldrarna 12 till 21, genomförd i november 2025, fann att 19,2 procent rapporterade att de använde AI-chatbotar för råd om mental hälsa, enligt RAND. Bland dem som sökte sådana råd gjorde 42,8 procent det minst en gång i månaden och 91,7 procent bedömde det som något eller mycket hjälpsamt. Ändå sa 63,3 procent av ungdomarna att de aldrig hade avslöjat deras användning av chatbot för råd om mental hälsa för någon - en tystnad som gör att föräldrar och skolor, som i Emmas fall, upptäcker interaktionerna först efter skada.

Common Sense Media, i en bedömning senast uppdaterad den 14 november 2025, klassade AI-chatbotar för psykiskt stöd för tonåringar som en övergripande oacceptabel risk, och fann att skyddsräcken försämrades avsevärt i konversationer med flera svängar. Organisationen, som arbetade med Stanfords Brainstorm Lab, drog slutsatsen att sådana system är fundamentalt osäkra för hela spektrumet av psykiska hälsotillstånd som påverkar ungdomar och rekommenderade att tonåringar inte använder AI-chatbotar för mental hälsa eller känslomässigt stöd alls. Separat rapporterade Common Sense Media att tre av fyra tonåringar redan använder AI för sällskap.

Vad händer härnäst

Googles borttagande av ärendet till federal domstol innebär att de första processuella striderna – om var stämningen förs och huruvida den kan fortsätta som en grupptalan – kommer att utspelas i federal snarare än statlig domstol. Inget utfrågningsschema har rapporterats, och Google har inte svarat utöver att säga att de granskar stämningsanspråken.

För skolor är den omedelbara frågan praktisk: i och med att Gemini byter till att välja elevkonton måste distrikten nu besluta om de ska aktivera det överhuvudtaget, och föräldrar kommer sannolikt att kräva att säga sitt. För Google testar fallet ett försvar som företaget har använt i tidigare chatbot-dräkter – att dess produkter inkluderar skyddsräcken byggda med medicinska experter – mot ett nytt faktaregister där, enligt klagomålet, tusentals Gemini-konversationer på en skolapparat föregick en dokumenterad kris. Resultatet kan forma hur AI-funktioner kombineras i utbildningsverktygen som används av tiotals miljoner elever.

---

Stay ahead of AI

Få de senaste AI-nyheterna, analyserna och genombrotten – allt på ett ställe.

Läs mer AI-nyheter →