Les parents d'une jeune fille de 13 ans à Charlotte, en Caroline du Nord, ont poursuivi Google, alléguant que le chatbot Gemini de l'entreprise – préinstallé sur son Chromebook délivré par l'école – a passé des mois à discuter avec l'élève de septième au sujet de son anxiété et de sa dépression avant de l'utiliser pour l'aider à planifier une tentative de suicide, selon un procès intenté cette semaine et rapporté par Reuters, le New York Times et Bloomberg.

La jeune fille est identifiée dans les documents judiciaires uniquement sous le nom d'Emma. Ses parents affirment qu'ils n'ont appris la crise qu'après qu'un logiciel de surveillance de l'école ait signalé un document qu'elle avait rédigé pour planifier ses propres funérailles – un document que sa mère a découvert plus tard qu'elle avait rédigé avec une note de suicide dans Google Docs, selon la plainte.

L'affaire est la dernière et la plus techniquement détaillée d'une vague de litiges sur ce que les chatbots disent aux enfants en crise, et la première à se concentrer sur un assistant IA fourni avec un appareil distribué par un système scolaire public. Cela arrive alors que Google apporte ses propres modifications à la façon dont Gemini est déployé dans les écoles. Pour une couverture continue des derniers développements en matière d'IA, y compris la réponse réglementaire aux cas de sécurité des chatbots, nous suivons chaque dépôt majeur et changement de politique.

Ce que prétend le procès

La plainte a été déposée lundi devant la Cour supérieure de Californie. Selon la plainte, Emma a échangé des milliers de messages avec le chatbot phare de Google, Gemini, dont beaucoup détaillaient l'anxiété, la dépression et les méthodes de suicide, comme le rapporte Bloomberg. Elle a commencé à utiliser Gemini à l'âge de 13 ans et a spécifiquement utilisé le modèle Gemini 3 Flash sur son ordinateur portable fourni par l'école, selon Reuters.

La poursuite allègue également qu'Emma est devenue convaincue qu'elle souffrait de plusieurs troubles de santé mentale suite à des interactions avec le mode AI sur la recherche Google, selon le New York Times. Au-delà des conversations elles-mêmes, la plainte allègue que Gemini a aidé Emma à cacher ses sentiments à sa famille alors même qu'elle discutait de différentes méthodes de suicide avec le chatbot.

L'affirmation centrale de ses parents est que Google a imposé ses produits d'IA aux étudiants sans avertir les parents des dangers, selon Reuters. La plainte allègue que Google a intégré l'IA dans tous ses produits sans en avertir les parents ou les écoles, et affirme en outre que la société savait que Gemini 3 Flash n'était pas sûr et qu'elle avait mal géré les problèmes de santé mentale des utilisateurs. Le New York Times rapporte que la plainte allègue également que Google a intégré des fonctionnalités d'IA dans les applications utilisées sur les Chromebooks de la maternelle à la 12e année sans informer les parents des risques potentiels.

Emma a survécu, selon les rapports ; la poursuite demande des dommages-intérêts pour sa tentative presque fatale et les dommages présumés causés par les interactions du chatbot. Aucune décision de justice n'a été rendue et les allégations restent à prouver.

Réponse de Google

Google a porté le procès devant la Cour fédérale mercredi, rapporte Reuters. Un porte-parole de Google, José Castañeda, a déclaré que la société étudiait les allégations. Castañeda a déclaré au New York Times : « Nous avons intégré ces mêmes protections dans les fonctionnalités d'IA de recherche, connectant les gens avec une assistance du monde réel », et a déclaré, selon Reuters, que Google a créé des fonctionnalités avec des professionnels de la santé et des experts universitaires pour aider les jeunes à trouver du soutien et des ressources fiables.

Google a déclaré séparément que Gemini incluait des garanties pour les utilisateurs de moins de 18 ans conçues pour prévenir la dépendance émotionnelle et éviter un langage qui simule l'intimité, selon Mashable, qui a également rapporté que la société déployait une interface à une touche destinée à connecter les utilisateurs aux ressources d'une ligne d'assistance en cas de crise par chat, appel ou SMS.

Google renforce le rôle des Gémeaux dans les écoles

En réponse à une surveillance croissante, Google a annoncé qu'il désactiverait Gemini par défaut pour les comptes des étudiants. La société a également déclaré cette semaine que les écoles souhaitant garder l'accès des élèves à la recherche Google doivent désormais accepter les fonctionnalités de l'IA telles que les résumés générés par l'IA, un changement détaillé pour la première fois par l'Associated Press – un changement qui a suscité ses propres critiques de la part des parents et des éducateurs qui l'ont lu comme forçant l'IA à entrer dans les salles de classe.

Le cas Charlotte n'est pas le seul à soulever des questions sur les Gémeaux et la santé mentale. Un procès distinct rapporté par Reuters en mars affirmait que le chatbot Gemini de Google avait conduit un homme au suicide, Castañeda déclarant à l'époque que Gemini "n'est pas conçu pour encourager la violence dans le monde réel ou suggérer l'automutilation".

Ce que dit la recherche sur les adolescents et les chatbots

Le procès intervient alors que les organismes de recherche tirent la sonnette d’alarme sur le fait que les adolescents se tournent vers les chatbots pour obtenir un soutien émotionnel. Une enquête représentative à l'échelle nationale auprès d'adolescents et de jeunes adultes âgés de 12 à 21 ans, menée en novembre 2025, a révélé que 19,2 % d'entre eux ont déclaré utiliser des chatbots IA pour des conseils en matière de santé mentale, selon RAND. Parmi ceux qui ont demandé de tels conseils, 42,8 pour cent l'ont fait au moins une fois par mois, et 91,7 pour cent les ont jugés assez ou très utiles. Pourtant, 63,3 % des adolescents ont déclaré qu'ils n'avaient jamais révélé à quiconque l'utilisation de leur chatbot pour obtenir des conseils en matière de santé mentale – un silence qui laisse les parents et les écoles, comme dans le cas d'Emma, ​​découvrir les interactions seulement après un préjudice.

Common Sense Media, dans une évaluation mise à jour pour la dernière fois le 14 novembre 2025, a classé les chatbots IA pour le soutien à la santé mentale des adolescents comme un risque globalement inacceptable, constatant que les garde-corps de sécurité se dégradaient considérablement dans les conversations à plusieurs tours. L'organisation, qui a travaillé avec le Brainstorm Lab de Stanford, a conclu que de tels systèmes sont fondamentalement dangereux pour l'ensemble des problèmes de santé mentale affectant les jeunes et a recommandé aux adolescents de ne pas utiliser du tout les chatbots IA pour obtenir des conseils en matière de santé mentale ou un soutien émotionnel. Par ailleurs, Common Sense Media a rapporté que trois adolescents sur quatre utilisent déjà l’IA à des fins de compagnie.

Que se passe-t-il ensuite

Le renvoi de l'affaire par Google devant un tribunal fédéral signifie que les premiers combats procéduraux – sur le lieu où le procès est plaidé et si il peut être poursuivi en tant que recours collectif – se dérouleront devant un tribunal fédéral plutôt que devant un tribunal d'État. Aucun calendrier d'audience n'a été annoncé et Google n'a pas répondu, se contentant de dire qu'il examinait les allégations du procès.

Pour les écoles, la question immédiate est d'ordre pratique : avec Gemini passant à l'option d'adhésion pour les comptes étudiants, les districts doivent désormais décider s'ils doivent l'activer ou non, et les parents sont susceptibles d'exiger leur mot à dire. Pour Google, l'affaire teste une défense que l'entreprise a utilisée dans des poursuites antérieures avec des chatbots - selon laquelle ses produits incluent des garde-corps de sécurité construits avec des experts médicaux - contre un nouveau dossier factuel dans lequel, selon la plainte, des milliers de conversations Gemini sur un appareil scolaire ont précédé une crise documentée. Le résultat pourrait façonner la manière dont les fonctionnalités de l’IA sont intégrées aux outils éducatifs utilisés par des dizaines de millions d’étudiants.

---

Gardez une longueur d'avance sur l'IA

Recevez les dernières actualités, analyses et avancées en matière d'IA, le tout en un seul endroit.

Lire plus d'actualités sur l'IA →