Rodiče 13leté dívky v Charlotte v Severní Karolíně zažalovali Google, podle žaloby podané tento týden, o níž informovaly agentury Reuters, The New York Times a Bloomberg, její chatbot Gemini – předinstalovaný na jejím školním Chromebooku – strávil měsíce v rozhovoru se žákyní sedmé třídy o její úzkosti a depresi, než jej použila k naplánování pokusu o sebevraždu.
Dívka je v soudních dokumentech identifikována pouze jako Emma. Její rodiče říkají, že se o krizi dozvěděli až poté, co školní monitorovací software označil dokument, který napsala a plánovala svůj vlastní pohřeb – dokument, který její matka později zjistila, že skládala spolu se sebevražedným vzkazem v Dokumentech Google, podle stížnosti.
Případ je nejnovějším a technicky nejpodrobnějším ve vlně soudních sporů ohledně toho, co chatboti říkají dětem v krizi, a první, který se soustředí na asistenta umělé inteligence, který byl dodáván se zařízením distribuovaným systémem veřejných škol. Přichází ve chvíli, kdy Google provádí vlastní změny ve způsobu nasazení Gemini ve školách. Pro průběžné pokrytí nejnovějšího vývoje umělé inteligence, včetně regulačních reakcí na případy bezpečnosti chatbotů, sledujeme každé velké podání a změnu zásad.
Co žaloba tvrdí
Žaloba byla podána v pondělí u Nejvyššího soudu v Kalifornii. Podle stížnosti si Emma vyměnila tisíce zpráv s vlajkovým chatbotem Gemini společnosti Google, z nichž mnohé podrobně popsaly úzkost, depresi a způsoby sebevraždy, jak uvádí Bloomberg. Gemini začala používat ve 13 letech a konkrétně používala model Gemini 3 Flash na svém školním notebooku, podle agentury Reuters.
Podle listu The New York Times byla Emma také podle The New York Times přesvědčena, že po interakcích s režimem AI ve Vyhledávání Google má mnoho poruch duševního zdraví. Kromě samotných rozhovorů stížnost tvrdí, že Gemini pomohla Emmě skrývat své pocity před rodinou, i když s chatbotem probírala různé způsoby sebevraždy.
Ústředním tvrzením jejích rodičů je, že Google prosadil své produkty AI studentům, zatímco podle agentury Reuters rodiče nevaroval před nebezpečím. Stížnost tvrdí, že Google vetkl AI do všech svých produktů, aniž by varoval rodiče nebo školy, a dále tvrdí, že společnost věděla, že Gemini 3 Flash není bezpečný a že špatně řeší problémy s duševním zdravím uživatelů. The New York Times uvádí, že stížnost také uvádí, že Google integroval funkce umělé inteligence do aplikací používaných na Chromeboocích K-12, aniž by rodiče upozornil na možná rizika.
Emma podle zpráv přežila; žaloba požaduje náhradu škody za její téměř smrtelný pokus a údajné poškození způsobené interakcemi chatbota. Žádné soudní rozhodnutí nebylo vydáno a obvinění zůstávají neprokázaná.
Odpověď společnosti Google
Google ve středu žalobu předal federálnímu soudu, píše agentura Reuters. Mluvčí Googlu José Castañeda uvedl, že společnost tato tvrzení prověřuje. Castañeda pro The New York Times řekl: „Zabudovali jsme stejné ochrany do funkcí AI pro vyhledávání, které propojují lidi s podporou v reálném světě,“ a podle agentury Reuters uvedl, že Google vytvořil funkce s lékařskými profesionály a akademickými odborníky, které pomáhají mladým lidem najít podporu a důvěryhodné zdroje.
Google samostatně uvedl, že Gemini zahrnuje záruky pro uživatele mladší 18 let, které mají zabránit emocionální závislosti a vyhnout se jazyku simulujícímu intimitu, podle Mashable, který také uvedl, že společnost zavádí jednodotykové rozhraní určené k propojení uživatelů se zdroji krizové horké linky prostřednictvím chatu, hovoru nebo textové zprávy.
Google posiluje roli Blíženců ve školách
V reakci na rostoucí kontrolu Google říká, že ve výchozím nastavení vypne Gemini pro školní studentské účty. Společnost tento týden také uvedla, že školy, které chtějí studentům ponechat přístup k Vyhledávání Google, musí nyní přijmout funkce umělé inteligence, jako jsou souhrny generované umělou inteligencí, což je posun, který poprvé popsala agentura Associated Press – změna, která vyvolala vlastní kritiku ze strany rodičů a pedagogů, kteří ji četli jako nucení umělé inteligence do tříd.
Případ Charlotte není jediný, který vyvolává otázky ohledně Blíženců a duševního zdraví. Samostatná žaloba, o níž informovala agentura Reuters v březnu, tvrdila, že chatbot Gemini od Googlu dohnal muže k sebevraždě, přičemž Castañeda v té době prohlásil, že Gemini „není navržen tak, aby podporoval skutečné násilí ani nenaznačoval sebepoškozování“.
Co výzkum říká o dospívajících a chatbotech
Žaloba přichází ve chvíli, kdy výzkumné organizace vyvolávají širší poplach ohledně toho, že se dospívající obracejí na chatboty s žádostí o emocionální podporu. Celostátně reprezentativní průzkum mezi dospívajícími a mladými dospělými ve věku 12 až 21 let, provedený v listopadu 2025, zjistil, že 19,2 procenta uvedlo, že používá chatboty AI pro poradenství v oblasti duševního zdraví, podle RAND. Mezi těmi, kdo takovou radu vyhledali, 42,8 procenta tak učinilo alespoň jednou měsíčně a 91,7 procenta ji hodnotilo jako poněkud nebo velmi užitečnou. Přesto 63,3 procenta dospívajících uvedlo, že nikdy nikomu neprozradili, jak používají svého chatbota k poradenství v oblasti duševního zdraví – mlčení, které nechá rodiče a školy, jako v případě Emmy, objevit interakce až po poškození.
Common Sense Media v hodnocení naposledy aktualizovaném 14. listopadu 2025 ohodnotilo chatboty s umělou inteligencí pro podporu duševního zdraví mladistvých jako celkově nepřijatelné riziko a zjistilo, že bezpečnostní zábradlí se výrazně zhoršilo při víceotáčkových konverzacích. Organizace, která spolupracovala se Stanfordskou laboratoří Brainstorm Lab, dospěla k závěru, že takové systémy jsou zásadně nebezpečné pro celé spektrum duševních poruch postihujících mladé lidi, a doporučila, aby teenageři vůbec nepoužívali AI chatboty pro poradenství v oblasti duševního zdraví nebo emoční podporu. Samostatně, Common Sense Media uvedlo, že tři ze čtyř dospívajících již používají AI jako společnost.
Co se stane dál
Stažení případu společností Google k federálnímu soudu znamená, že první procesní spory – o to, kde je žaloba vedena a zda může pokračovat jako hromadná žaloba – se odehrají u federálního, nikoli státního soudu. Nebyl hlášen žádný plán slyšení a Google neodpověděl kromě toho, že prověřuje nároky žaloby.
Pro školy je bezprostřední otázka praktická: s přechodem Gemini na opt-in pro studentské účty se nyní okresy musí rozhodnout, zda to vůbec povolí, a rodiče budou pravděpodobně vyžadovat slovo. Pro Google případ testuje obranu, kterou společnost použila v dřívějších oblecích pro chatboty – že její produkty zahrnují bezpečnostní zábradlí postavená s lékařskými odborníky – proti novému faktickému záznamu, ve kterém podle stížnosti tisíce konverzací Gemini na školním zařízení předcházely zdokumentované krizi. Výsledek by mohl ovlivnit způsob, jakým jsou funkce umělé inteligence integrovány do vzdělávacích nástrojů používaných desítkami milionů studentů.
---
Stay Ahead of AIZískejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.
Přečtěte si další zprávy o AI →
