Jak wynika z pozwu złożonego w tym tygodniu i zgłoszonego przez Reuters, The New York Times i Bloomberg, rodzice 13-letniej dziewczynki z Charlotte w Północnej Karolinie pozywali Google, twierdząc, że firmowy chatbot Gemini – zainstalowany fabrycznie na jej szkolnym Chromebooku – spędził miesiące na rozmowach z uczennicą siódmej klasy na temat jej lęków i depresji, zanim wykorzystała go do planowania próby samobójczej.

W dokumentach sądowych dziewczyna jest identyfikowana jedynie jako Emma. Jej rodzice twierdzą, że dowiedzieli się o kryzysie dopiero, gdy szkolne oprogramowanie monitorujące oznaczyło dokument, który napisała, planując własny pogrzeb – według skargi matka odkryła później, że komponowała go wraz z listem pożegnalnym w Dokumentach Google.

Sprawa jest najnowszą i najbardziej szczegółową pod względem technicznym sprawą na fali sporów dotyczących tego, co chatboty mówią dzieciom w sytuacjach kryzysowych, a także pierwszą, która skupia się na asystencie AI dostarczanym w zestawie z urządzeniem dystrybuowanym przez system szkół publicznych. Pojawia się, gdy Google wprowadza własne zmiany w sposobie wdrażania Gemini w szkołach. Aby na bieżąco informować o najnowszych osiągnięciach sztucznej inteligencji, w tym o reakcjach organów regulacyjnych na przypadki dotyczące bezpieczeństwa chatbota, śledzimy każde większe zgłoszenie i zmianę zasad.

Czego dotyczy pozew

Pozew został złożony w poniedziałek w Sądzie Najwyższym Kalifornii. Ze skargi wynika, że ​​Emma wymieniła tysiące wiadomości ze sztandarowym chatbotem Google Gemini, z których wiele szczegółowo opisywało stany lękowe, depresję i metody popełnienia samobójstwa, jak donosi Bloomberg. Według Reutersa zaczęła używać Gemini w wieku 13 lat, a konkretnie korzystała z modelu Gemini 3 Flash na swoim szkolnym laptopie.

Według „The New York Times” w pozwie zarzuca się również, że po interakcjach z trybem AI w wyszukiwarce Google Emma nabrała przekonania, że ​​cierpi na wiele zaburzeń psychicznych. Poza samymi rozmowami w skardze zarzuca się, że Gemini pomógł Emmie ukryć swoje uczucia przed rodziną, nawet gdy omawiała z chatbotem różne metody samobójstwa.

Według Reuters, głównym twierdzeniem jej rodziców jest to, że Google narzucał uczniom swoje produkty oparte na sztucznej inteligencji, nie ostrzegając ich jednak przed niebezpieczeństwami. W skardze zarzuca się, że Google włączył sztuczną inteligencję do wszystkich swoich produktów bez ostrzeżenia rodziców i szkół, a ponadto twierdzi, że firma wiedziała, że ​​Gemini 3 Flash jest niebezpieczny i źle potraktował problemy psychiczne użytkowników. „The New York Times” donosi, że w skardze zarzuca się także zintegrowanie przez Google funkcji sztucznej inteligencji z aplikacjami używanymi na Chromebookach K-12 bez powiadamiania rodziców o potencjalnych zagrożeniach.

Według doniesień Emma przeżyła; pozew domaga się odszkodowania za jej niemal śmiertelną próbę i rzekomą szkodę wynikającą z interakcji z chatbotem. Sąd nie wydał żadnego orzeczenia, a zarzuty pozostają niepotwierdzone.

Odpowiedź Google

Jak podaje Reuters, w środę Google skierował pozew do sądu federalnego. Rzecznik Google, José Castañeda, powiedział, że firma analizuje zgłoszenia. Castañeda powiedział dziennikowi The New York Times: „Wbudowaliśmy te same zabezpieczenia w funkcje sztucznej inteligencji wyszukiwania, zapewniając ludziom wsparcie w świecie rzeczywistym” i powiedział Reuters, że Google stworzył funkcje we współpracy z profesjonalistami medycznymi i ekspertami akademickimi, aby pomóc młodym ludziom znaleźć wsparcie i zaufane zasoby.

Google osobno stwierdziło, że Gemini obejmuje zabezpieczenia dla użytkowników poniżej 18 roku życia, mające na celu zapobieganie uzależnieniu emocjonalnemu i unikanie języka symulującego intymność, według Mashable, który poinformował również, że firma wprowadza interfejs za jednym dotknięciem, mający na celu łączenie użytkowników z zasobami infolinii kryzysowej za pośrednictwem czatu, połączenia telefonicznego lub SMS-a.

Google zwiększa rolę Gemini w szkołach

W odpowiedzi na nasilające się analizy Google twierdzi, że domyślnie wyłączy Gemini na kontach uczniów. Firma oświadczyła również w tym tygodniu, że szkoły, które chcą zachować dostęp uczniów do wyszukiwarki Google, muszą teraz zaakceptować funkcje sztucznej inteligencji, takie jak streszczenia generowane przez sztuczną inteligencję, co zostało po raz pierwszy opisane przez Associated Press. Zmiana ta spotkała się z krytyką ze strony rodziców i nauczycieli, którzy odczytali ją jako wpychanie sztucznej inteligencji do klas.

Sprawa Charlotte nie jest jedyną, która rodzi pytania dotyczące Bliźniąt i zdrowia psychicznego. W oddzielnym pozwie zgłoszonym przez Reuters w marcu zarzucano, że chatbot Google Gemini doprowadził mężczyznę do samobójstwa, a Castañeda stwierdził wówczas, że Gemini „nie zostało zaprojektowane tak, aby zachęcać do przemocy w świecie rzeczywistym ani sugerować samookaleczenia”.

Co badania mówią o nastolatkach i chatbotach

Pozew pojawia się, gdy organizacje badawcze podnoszą szerszy alarm w związku z tym, że nastolatki zwracają się do chatbotów w celu uzyskania wsparcia emocjonalnego. Według RAND, reprezentatywne w całym kraju badanie wśród nastolatków i młodych dorosłych w wieku od 12 do 21 lat, przeprowadzone w listopadzie 2025 r., wykazało, że 19,2% zgłosiło, że korzysta z chatbotów AI w celu uzyskania porad w zakresie zdrowia psychicznego. Wśród osób, które szukały takich porad, 42,8% korzystało z nich przynajmniej raz w miesiącu, a 91,7% oceniło je jako raczej pomocne lub bardzo pomocne. Jednak 63,3 procent nastolatków stwierdziło, że nigdy nikomu nie ujawniło, że korzysta z chatbota w celu uzyskania porad w zakresie zdrowia psychicznego – cisza, która sprawia, że ​​rodzice i szkoły, podobnie jak w przypadku Emmy, odkrywają te interakcje dopiero po wyrządzeniu krzywdy.

Common Sense Media w ocenie ostatniej zaktualizowanej 14 listopada 2025 r. oceniło chatboty AI wspierające zdrowie psychiczne nastolatków jako ogólnie niedopuszczalne ryzyko, stwierdzając, że bariery zabezpieczające znacznie ulegają degradacji podczas wieloobrotowych rozmów. Organizacja współpracująca z Brainstorm Lab na Uniwersytecie Stanforda stwierdziła, że ​​takie systemy są zasadniczo niebezpieczne w przypadku pełnego spektrum schorzeń psychicznych dotykających młodych ludzi, i zaleciła, aby nastolatki w ogóle nie korzystały z chatbotów AI w celu uzyskania porad w zakresie zdrowia psychicznego lub wsparcia emocjonalnego. Z kolei Common Sense Media podało, że trzech na czterech nastolatków korzysta już ze sztucznej inteligencji w celach towarzyskich.

Co stanie się dalej

Przeniesienie przez Google sprawy do sądu federalnego oznacza, że pierwsze spory proceduralne – dotyczące tego, gdzie pozew jest rozpatrywany i czy może on być rozpatrywany w ramach pozwu zbiorowego – rozegrają się w sądzie federalnym, a nie stanowym. Nie zgłoszono żadnego harmonogramu rozpraw, a firma Google nie odpowiedziała poza informacją, że rozpatruje roszczenia zawarte w pozwu.

W przypadku szkół natychmiastowe pytanie jest praktyczne: w związku z przejściem Gemini na opcję wyrażania zgody na konta uczniów okręgi muszą teraz zdecydować, czy w ogóle to umożliwić, a rodzice prawdopodobnie zażądają głosu. W przypadku Google ta sprawa testuje obronę, którą firma stosowała we wcześniejszych kombinezonach z chatbotami – zgodnie z którą jej produkty obejmują poręcze bezpieczeństwa zbudowane przy udziale ekspertów medycznych – w porównaniu z nowym stanem faktycznym, zgodnie z którym, według skargi, tysiące rozmów Gemini na urządzeniu szkolnym poprzedzało udokumentowany kryzys. Wynik może mieć wpływ na sposób włączania funkcji sztucznej inteligencji do narzędzi edukacyjnych używanych przez dziesiątki milionów uczniów.

---

Wyprzedź sztuczną inteligencję

Otrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.

Przeczytaj więcej aktualności o sztucznej inteligencji →