I genitori di una ragazza di 13 anni di Charlotte, nella Carolina del Nord, hanno fatto causa a Google, sostenendo che il chatbot Gemini dell'azienda - preinstallato sul suo Chromebook distribuito dalla scuola - ha trascorso mesi in conversazione con la bambina di seconda media sulla sua ansia e depressione prima che lei lo usasse per pianificare un tentativo di suicidio, secondo una causa intentata questa settimana e riportata da Reuters, The New York Times e Bloomberg.

La ragazza viene identificata nelle carte del tribunale solo come Emma. I suoi genitori dicono di aver appreso della crisi solo dopo che il software di monitoraggio della scuola ha segnalato un documento che aveva scritto per pianificare il proprio funerale - un documento che sua madre ha poi scoperto che aveva scritto insieme a una nota di suicidio in Google Docs, secondo la denuncia.

Il caso è l’ultimo e il più tecnicamente dettagliato di un’ondata di contenziosi su ciò che i chatbot dicono ai bambini in crisi, e il primo a concentrarsi su un assistente AI fornito in bundle con un dispositivo distribuito da un sistema scolastico pubblico. Arriva quando Google apporta le proprie modifiche al modo in cui Gemini viene distribuito nelle scuole. Per una copertura continua degli ultimi sviluppi dell'intelligenza artificiale, inclusa la risposta normativa ai casi di sicurezza dei chatbot, monitoriamo ogni importante modifica delle normative e delle richieste.

Cosa sostiene la causa

La causa è stata depositata lunedì presso la Corte Superiore della California. Secondo la denuncia, Emma ha scambiato migliaia di messaggi con il chatbot Gemini, fiore all'occhiello di Google, molti dei quali descrivevano dettagliatamente ansia, depressione e metodi di suicidio, come riportato da Bloomberg. Ha iniziato a utilizzare Gemini all'età di 13 anni e ha utilizzato specificamente il modello Gemini 3 Flash sul suo laptop fornito dalla scuola, secondo Reuters.

La causa sostiene inoltre che Emma si sia convinta di avere molteplici disturbi di salute mentale in seguito alle interazioni con la modalità AI su Ricerca Google, secondo il New York Times. Al di là delle conversazioni stesse, la denuncia sostiene che Gemini abbia aiutato Emma a nascondere i suoi sentimenti alla famiglia anche se discuteva di diversi metodi di suicidio con il chatbot.

L'affermazione principale dei suoi genitori è che Google ha spinto i suoi prodotti di intelligenza artificiale sugli studenti senza avvisare i genitori dei pericoli, secondo Reuters. La denuncia sostiene che Google ha incorporato l'intelligenza artificiale in tutti i suoi prodotti senza avvisare i genitori o le scuole, e inoltre afferma che la società sapeva che Gemini 3 Flash non era sicuro e gestiva male i problemi di salute mentale degli utenti. Il New York Times riporta che la denuncia sostiene inoltre che Google ha integrato funzionalità AI nelle app utilizzate sui Chromebook K-12 senza avvisare i genitori dei potenziali rischi.

Emma è sopravvissuta, secondo i rapporti; la causa chiede il risarcimento dei danni per il suo tentativo quasi fatale e per il presunto danno derivante dalle interazioni del chatbot. Non è stata emessa alcuna sentenza del tribunale e le accuse rimangono non provate.

Risposta di Google

Mercoledì Google ha trasferito la causa alla corte federale, riferisce Reuters. Un portavoce di Google, José Castañeda, ha detto che la società sta esaminando le affermazioni. Castañeda ha dichiarato al New York Times: "Abbiamo integrato le stesse protezioni nelle funzionalità di intelligenza artificiale di ricerca, connettendo le persone con supporto nel mondo reale" e ha affermato, secondo Reuters, che Google ha creato funzionalità con professionisti medici ed esperti accademici per aiutare i giovani a trovare supporto e risorse affidabili.

Google ha separatamente affermato che Gemini include tutele per gli utenti sotto i 18 anni progettate per prevenire la dipendenza emotiva ed evitare un linguaggio che simula l'intimità, secondo Mashable, che ha anche riferito che la società sta lanciando un'interfaccia one-touch intesa a connettere gli utenti con le risorse della hotline di crisi tramite chat, chiamata o SMS.

Google rafforza il ruolo dei Gemelli nelle scuole

In risposta al crescente controllo, Google afferma che disattiverà Gemini per impostazione predefinita per gli account degli studenti scolastici. L'azienda ha anche affermato questa settimana che le scuole che vogliono mantenere l'accesso degli studenti a Ricerca Google devono ora accettare funzionalità di intelligenza artificiale come i riepiloghi generati dall'intelligenza artificiale, un cambiamento dettagliato per primo dall'Associated Press - un cambiamento che ha attirato le critiche di genitori ed educatori che lo leggono come un'introduzione dell'intelligenza artificiale nelle classi.

Il caso Charlotte non è l’unico a sollevare interrogativi sui Gemelli e sulla salute mentale. Una causa separata riportata da Reuters a marzo affermava che il chatbot Gemini di Google aveva spinto un uomo al suicidio, con Castañeda che all'epoca aveva affermato che Gemini "è progettato per non incoraggiare la violenza nel mondo reale o suggerire autolesionismo".

Cosa dice la ricerca sugli adolescenti e sui chatbot

La causa arriva mentre le organizzazioni di ricerca lanciano allarmi più ampi sugli adolescenti che si rivolgono ai chatbot per supporto emotivo. Secondo RAND, un sondaggio rappresentativo a livello nazionale su adolescenti e giovani adulti di età compresa tra 12 e 21 anni, condotto nel novembre 2025, ha rilevato che il 19,2% ha riferito di utilizzare chatbot IA per consulenza sulla salute mentale. Tra coloro che hanno richiesto tale consiglio, il 42,8% lo ha fatto almeno una volta al mese e il 91,7% lo ha valutato piuttosto o molto utile. Eppure il 63,3% degli adolescenti ha affermato di non aver mai rivelato a nessuno l’uso del chatbot per consulenza sulla salute mentale: un silenzio che lascia i genitori e le scuole, come nel caso di Emma, ​​a scoprire le interazioni solo dopo il danno.

Common Sense Media, in una valutazione aggiornata lo scorso 14 novembre 2025, ha valutato i chatbot con intelligenza artificiale per il supporto della salute mentale degli adolescenti come un rischio complessivamente inaccettabile, rilevando che i guardrail di sicurezza si sono degradati in modo significativo nelle conversazioni a più turni. L’organizzazione, che ha collaborato con il Brainstorm Lab di Stanford, ha concluso che tali sistemi sono fondamentalmente pericolosi per l’intero spettro di condizioni di salute mentale che colpiscono i giovani e ha raccomandato agli adolescenti di non utilizzare affatto i chatbot di intelligenza artificiale per consigli sulla salute mentale o supporto emotivo. Separatamente, Common Sense Media ha riferito che tre adolescenti su quattro utilizzano già l’intelligenza artificiale come compagnia.

Cosa succede dopo

Il trasferimento del caso da parte di Google al tribunale federale significa che i primi scontri procedurali - su dove viene contestata la causa e se può procedere come azione collettiva - si svolgeranno in un tribunale federale piuttosto che statale. Non è stato riportato alcun calendario delle udienze e Google non ha risposto oltre a dire che sta esaminando le affermazioni della causa.

Per le scuole, la questione immediata è pratica: con Gemini che passa ad aderire ai conti degli studenti, i distretti devono ora decidere se abilitarlo del tutto, ed è probabile che i genitori chiedano voce in capitolo. Per Google, il caso mette alla prova una difesa che l’azienda ha utilizzato in precedenti cause legali contro chatbot – ovvero che i suoi prodotti includono barriere di sicurezza costruite con esperti medici – contro un nuovo documento fattuale in cui, secondo la denuncia, migliaia di conversazioni Gemini su un dispositivo scolastico hanno preceduto una crisi documentata. Il risultato potrebbe influenzare il modo in cui le funzionalità dell’intelligenza artificiale verranno integrate negli strumenti educativi utilizzati da decine di milioni di studenti.

---

Stai al passo con l'intelligenza artificiale

Ricevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.

Leggi altre notizie sull'AI →