Los padres de una niña de 13 años en Charlotte, Carolina del Norte, demandaron a Google, alegando que el chatbot Gemini de la compañía, preinstalado en su Chromebook de la escuela, pasó meses conversando con la estudiante de séptimo grado sobre su ansiedad y depresión antes de usarlo para ayudar a planificar un intento de suicidio, según una demanda presentada esta semana y reportada por Reuters, The New York Times y Bloomberg.
La niña es identificada en los documentos judiciales únicamente como Emma. Sus padres dicen que se enteraron de la crisis sólo después de que un software de seguimiento escolar detectó un documento que ella había escrito para planificar su propio funeral, un documento que su madre descubrió más tarde que había estado redactando junto con una nota de suicidio en Google Docs, según la denuncia.
El caso es el último y el más detallado técnicamente de una ola de litigios sobre lo que los chatbots dicen a los niños en crisis, y el primero que se centra en un asistente de inteligencia artificial que venía incluido con un dispositivo distribuido por un sistema de escuelas públicas. Llega cuando Google realiza sus propios cambios en la forma en que Gemini se implementa en las escuelas. Para una cobertura continua de los últimos desarrollos de IA, incluida la respuesta regulatoria a los casos de seguridad de los chatbots, hacemos un seguimiento de cada presentación importante y cambio de política.
Lo que alega la demanda
La demanda fue presentada el lunes en el Tribunal Superior de California. Según la denuncia, Emma intercambió miles de mensajes con el chatbot insignia de Google, Gemini, muchos de los cuales detallaban ansiedad, depresión y métodos para suicidarse, según informó Bloomberg. Comenzó a usar Gemini a los 13 años y usó específicamente el modelo Gemini 3 Flash en la computadora portátil que le proporcionó la escuela, según Reuters.
La demanda también alega que Emma se convenció de que tenía múltiples trastornos de salud mental luego de interacciones con AI Mode en la Búsqueda de Google, según The New York Times. Más allá de las conversaciones en sí, la denuncia alega que Gemini ayudó a Emma a ocultar sus sentimientos a su familia incluso mientras hablaba de diferentes métodos de suicidio con el chatbot.
La afirmación central de sus padres es que Google introdujo sus productos de inteligencia artificial entre los estudiantes sin advertir a los padres sobre los peligros, según Reuters. La denuncia alega que Google introdujo IA en todos sus productos sin avisar a los padres ni a las escuelas, y afirma además que la compañía sabía que Gemini 3 Flash no era seguro y manejó mal los problemas de salud mental de los usuarios. El New York Times informa que la denuncia también alega que Google integró funciones de inteligencia artificial en aplicaciones utilizadas en Chromebooks K-12 sin notificar a los padres sobre los riesgos potenciales.
Emma sobrevivió, según los informes; la demanda busca daños y perjuicios por su intento casi fatal y el presunto daño de las interacciones del chatbot. No se ha emitido ningún fallo judicial y las acusaciones siguen sin probarse.
Respuesta de Google
Google trasladó la demanda a un tribunal federal el miércoles, informa Reuters. Un portavoz de Google, José Castañeda, dijo que la compañía está revisando las afirmaciones. Castañeda dijo a The New York Times: "Hemos incorporado esas mismas protecciones en las funciones de búsqueda de inteligencia artificial, conectando a las personas con apoyo del mundo real", y dijo, según Reuters, que Google creó funciones con profesionales médicos y expertos académicos para ayudar a los jóvenes a encontrar apoyo y recursos confiables.
Google ha dicho por separado que Gemini incluye salvaguardas para usuarios menores de 18 años diseñadas para prevenir la dependencia emocional y evitar el lenguaje que simula intimidad, según Mashable, que también informó que la compañía está implementando una interfaz de un solo toque destinada a conectar a los usuarios con recursos de la línea directa de crisis mediante chat, llamada o mensaje de texto.
Google refuerza el papel de Gemini en las escuelas
En respuesta al creciente escrutinio, Google dice que desactivará Gemini de forma predeterminada para las cuentas de estudiantes escolares. La compañía también dijo esta semana que las escuelas que quieran mantener el acceso de los estudiantes a la Búsqueda de Google ahora deben aceptar funciones de IA como resúmenes generados por IA, un cambio detallado por primera vez por Associated Press, un cambio que ha generado sus propias críticas de padres y educadores que lo interpretan como una imposición de la IA en las aulas.
El caso de Charlotte no es el único que plantea dudas sobre Géminis y la salud mental. Una demanda separada reportada por Reuters en marzo alegaba que el chatbot Gemini de Google llevó a un hombre al suicidio, y Castañeda afirmó en ese momento que Gemini "no está diseñado para fomentar la violencia en el mundo real ni sugerir autolesiones".
Lo que dice la investigación sobre los adolescentes y los chatbots
La demanda llega cuando las organizaciones de investigación generan alarmas más amplias sobre el hecho de que los adolescentes recurren a los chatbots en busca de apoyo emocional. Una encuesta representativa a nivel nacional de adolescentes y adultos jóvenes de 12 a 21 años, realizada en noviembre de 2025, encontró que el 19,2 por ciento informó haber utilizado chatbots de IA para obtener asesoramiento sobre salud mental, según RAND. Entre los que buscaron ese tipo de asesoramiento, el 42,8 por ciento lo hizo al menos una vez al mes y el 91,7 por ciento lo calificó como algo o muy útil. Sin embargo, el 63,3 por ciento de los adolescentes dijeron que nunca habían revelado a nadie el uso que hacían del chatbot para dar consejos sobre salud mental, un silencio que deja a los padres y a las escuelas, como en el caso de Emma, descubriendo las interacciones sólo después de sufrir un daño.
Common Sense Media, en una evaluación actualizada por última vez el 14 de noviembre de 2025, calificó los chatbots de IA para el apoyo de la salud mental de los adolescentes como un riesgo general inaceptable y descubrió que las barreras de seguridad se degradaban significativamente en las conversaciones de varios turnos. La organización, que trabajó con el Brainstorm Lab de Stanford, concluyó que dichos sistemas son fundamentalmente inseguros para todo el espectro de condiciones de salud mental que afectan a los jóvenes y recomendó que los adolescentes no utilicen chatbots de IA para obtener asesoramiento sobre salud mental o apoyo emocional. Por otra parte, Common Sense Media informó que tres de cada cuatro adolescentes ya utilizan la IA como compañía.
¿Qué pasa después?
El traslado del caso por parte de Google a un tribunal federal significa que las primeras peleas procesales (sobre dónde se litiga la demanda y si puede proceder como una demanda colectiva) se desarrollarán en un tribunal federal en lugar de estatal. No se ha informado sobre el calendario de audiencias y Google no ha respondido más allá de decir que está revisando los reclamos de la demanda.
Para las escuelas, la pregunta inmediata es práctica: con Gemini cambiando a la opción de suscripción para cuentas de estudiantes, los distritos ahora deben decidir si lo habilitan o no, y es probable que los padres exijan tener voz. Para Google, el caso pone a prueba una defensa que la compañía ha utilizado en demandas anteriores sobre chatbots (que sus productos incluyen barandillas de seguridad construidas con expertos médicos) contra un nuevo expediente de hechos en el que, según la denuncia, miles de conversaciones de Gemini en un dispositivo escolar precedieron a una crisis documentada. El resultado podría determinar cómo se integran las funciones de IA en las herramientas educativas utilizadas por decenas de millones de estudiantes.
---
Manténgase a la vanguardia de la IAObtenga las últimas noticias, análisis y avances en IA, todo en un solo lugar.
Leer más noticias sobre IA →
