Părinții unei fete de 13 ani din Charlotte, Carolina de Nord, au dat în judecată Google, pretinzând că chatbot-ul Gemini al companiei – preinstalat pe Chromebookul ei eliberat de școală – a petrecut luni de zile în conversație cu elevul de clasa a șaptea despre anxietatea și depresia ei înainte de a le folosi pentru a ajuta la planificarea unei tentative de sinucidere, potrivit unui proces intentat săptămâna aceasta, The New York Times și Bloomberg.
Fata este identificată în actele de judecată doar ca Emma. Părinții ei spun că au aflat de criză abia după ce software-ul de monitorizare a școlii a semnalat un document pe care ea l-a scris pentru planificarea propriei funeralii - un document pe care mama ei a descoperit mai târziu că a scris împreună cu un bilet de sinucidere în Google Docs, potrivit plângerii.
Cazul este cel mai recent și cel mai detaliat din punct de vedere tehnic dintr-un val de litigii cu privire la ceea ce le spun chatboții copiilor aflați în criză și primul care se concentrează pe un asistent AI care a venit la pachet cu un dispozitiv distribuit de un sistem școlar public. Apare pe măsură ce Google își face propriile modificări în modul în care Gemini este implementat în școli. Pentru acoperirea continuă a cele mai recente evoluții AI, inclusiv răspunsul de reglementare la cazurile de siguranță chatbot, urmărim fiecare depunere majoră și schimbare de politică.
Ce pretinde procesul
Procesul a fost intentat luni la Curtea Superioară din California. Potrivit plângerii, Emma a schimbat mii de mesaje cu chatbot-ul emblematic al Google, Gemini, multe dintre ele detaliate despre anxietate, depresie și metode de sinucidere, după cum a raportat Bloomberg. Ea a început să folosească Gemini la vârsta de 13 ani și a folosit în mod special modelul Gemini 3 Flash pe laptopul ei furnizat de școală, conform Reuters.
Procesul susține, de asemenea, că Emma s-a convins că are mai multe tulburări de sănătate mintală în urma interacțiunilor cu modul AI pe Google Search, potrivit The New York Times. Dincolo de conversațiile în sine, plângerea susține că Gemenii au ajutat-o pe Emma să-și ascundă sentimentele de familie, chiar dacă a discutat despre diferite metode de sinucidere cu chatbot-ul.
Afirmația centrală a părinților ei este că Google și-a împins produsele AI asupra studenților, fără a avertiza părinții despre pericole, potrivit Reuters. Plângerea susține că Google a introdus inteligența artificială în toate produsele sale fără a avertiza părinții sau școlile și, în plus, susține că compania știa că Gemini 3 Flash era nesigur și a gestionat greșit problemele de sănătate mintală ale utilizatorilor. New York Times raportează că plângerea susține, de asemenea, că Google a integrat funcții AI în aplicațiile utilizate pe Chromebookurile K-12, fără a anunța părinții cu privire la riscurile potențiale.
Emma a supraviețuit, conform rapoartelor; Procesul solicită despăgubiri pentru tentativa ei aproape fatală și pretinsul prejudiciu din interacțiunile chatbot. Nu a fost emisă nicio hotărâre judecătorească, iar acuzațiile rămân nedovedite.
Răspunsul Google
Google a mutat miercuri procesul la tribunalul federal, relatează Reuters. Un purtător de cuvânt al Google, José Castañeda, a declarat că compania analizează afirmațiile. Castañeda a declarat pentru The New York Times: „Am construit aceleași protecții în funcțiile IA de căutare, conectând oamenii cu asistență din lumea reală” și a spus, potrivit Reuters, că Google a creat funcții cu profesioniști din domeniul medical și experți academicieni pentru a ajuta tinerii să găsească sprijin și resurse de încredere.
Google a declarat separat că Gemini include măsuri de protecție pentru utilizatorii sub 18 ani, concepute pentru a preveni dependența emoțională și a evita limbajul care simulează intimitatea, potrivit Mashable, care a raportat, de asemenea, că compania lansează o interfață cu o singură atingere menită să conecteze utilizatorii cu resursele liniei de criză prin chat, apel sau text.
Google întărește rolul Gemenilor în școli
Ca răspuns la un control din ce în ce mai mare, Google spune că va dezactiva Gemini în mod implicit pentru conturile de elevi. Compania a mai spus în această săptămână că școlile care doresc să păstreze accesul elevilor la Căutarea Google trebuie să accepte acum funcții AI, cum ar fi rezumatele generate de AI, o schimbare detaliată pentru prima dată de Associated Press - o schimbare care și-a atras propriile critici din partea părinților și a educatorilor care au citit-o ca forțând AI să intre în sălile de clasă.
Cazul Charlotte nu este singurul care ridică întrebări despre Gemeni și sănătatea mintală. Un proces separat raportat de Reuters în martie a susținut că chatbot-ul Google Gemini a condus un bărbat la sinucidere, Castañeda afirmând la acea vreme că Gemeni „să nu încurajeze violența în lumea reală sau să sugereze autovătămare”.
Ce spun cercetările despre adolescenți și chatbot
Procesul vine în timp ce organizațiile de cercetare ridică alarme mai ample despre adolescenții care apelează la chatbot pentru sprijin emoțional. Un sondaj reprezentativ la nivel național asupra adolescenților și tinerilor adulți cu vârsta cuprinsă între 12 și 21 de ani, realizat în noiembrie 2025, a constatat că 19,2% au raportat că folosesc chatbot-uri AI pentru sfaturi de sănătate mintală, potrivit RAND. Dintre cei care au solicitat un astfel de sfat, 42,8% au făcut acest lucru cel puțin lunar, iar 91,7% l-au evaluat ca fiind oarecum sau foarte util. Cu toate acestea, 63,3% dintre adolescenți au spus că nu și-au dezvăluit niciodată utilizarea chatbot-ului pentru sfaturi de sănătate mintală nimănui - o tăcere care lasă părinții și școlile, ca în cazul Emmei, să descopere interacțiunile numai după rău.
Common Sense Media, într-o evaluare actualizată ultima dată pe 14 noiembrie 2025, a evaluat chatbot-urile AI pentru sprijinul pentru sănătatea mintală a adolescenților drept un risc general inacceptabil, constatând că barele de siguranță s-au degradat semnificativ în conversațiile cu mai multe rânduri. Organizația, care a lucrat cu Brainstorm Lab din Stanford, a concluzionat că astfel de sisteme sunt fundamental nesigure pentru întregul spectru de afecțiuni de sănătate mintală care afectează tinerii și a recomandat adolescenților să nu folosească chatbot-uri AI pentru sfaturi de sănătate mintală sau sprijin emoțional. Separat, Common Sense Media a raportat că trei din patru adolescenți folosesc deja AI pentru companie.
Ce se întâmplă în continuare
Îndepărtarea de către Google a cazului în fața instanței federale înseamnă că primele lupte procedurale - cu privire la locul în care procesul este litigat și dacă poate decurge ca o acțiune colectivă - se vor desfășura în instanța federală și nu în instanța de stat. Nu a fost raportat niciun program al audierilor, iar Google nu a răspuns decât să spună că examinează pretențiile procesului.
Pentru școli, întrebarea imediată este practică: odată ce Gemenii trec la opt-in pentru conturile de studenți, districtele trebuie acum să decidă dacă o activează, iar părinții sunt probabil să ceară un cuvânt de spus. Pentru Google, cazul testează o apărare pe care compania a folosit-o în costumele anterioare de chatbot - că produsele sale includ balustrade de siguranță construite cu experți medicali - față de un nou dosar faptic în care, conform plângerii, mii de conversații Gemeni pe un dispozitiv școlar au precedat o criză documentată. Rezultatul ar putea modela modul în care funcțiile AI sunt incluse în instrumentele educaționale utilizate de zeci de milioane de studenți.
---
Rămâneți înaintea AIObțineți cele mai recente știri, analize și descoperiri AI - toate într-un singur loc.
Citește mai multe știri AI →
