Родители 13-летней девочки из Шарлотты, штат Северная Каролина, подали в суд на Google, утверждая, что чат-бот компании Gemini, предварительно установленный на ее школьном Chromebook, провел несколько месяцев в разговоре с семиклассницей о ее тревоге и депрессии, прежде чем она использовала его, чтобы помочь спланировать попытку самоубийства, согласно иску, поданному на этой неделе и о котором сообщили Reuters, The New York Times и Bloomberg.
В судебных документах девушка указана только как Эмма. Ее родители говорят, что узнали о кризисе только после того, как программное обеспечение для мониторинга школы отметило документ, который она написала, планируя собственные похороны - документ, который, как позже обнаружила ее мать, она составляла вместе с предсмертной запиской в Google Docs, согласно жалобе.
Это дело является последним и наиболее технически подробным в волне судебных разбирательств по поводу того, что чат-боты говорят детям, находящимся в кризисной ситуации, и первым делом, в котором речь идет об искусственном помощнике, который поставляется в комплекте с устройством, распространяемым системой государственных школ. Он появился, когда Google внес свои собственные изменения в то, как Gemini развертывается в школах. Для постоянного освещения последних разработок в области искусственного интеллекта, включая реакцию регулирующих органов на случаи безопасности чат-ботов, мы отслеживаем все важные заявки и изменения в политике.
Что утверждается в иске
Иск был подан в понедельник в Верховный суд Калифорнии. Согласно жалобе, Эмма обменялась тысячами сообщений с флагманским чат-ботом Google Gemini, во многих из которых подробно описывались тревога, депрессия и способы совершения самоубийства, как сообщает Bloomberg. По данным Reuters, она начала использовать Gemini в 13 лет и специально использовала модель Gemini 3 Flash на своем школьном ноутбуке.
В иске также утверждается, что Эмма пришла к убеждению, что у нее множественные психические расстройства, после взаимодействия с режимом искусственного интеллекта в поиске Google, сообщает The New York Times. Помимо самих разговоров, в жалобе утверждается, что Близнецы помогли Эмме скрыть свои чувства от семьи, даже когда она обсуждала с чат-ботом различные методы самоубийства.
По данным Reuters, главное утверждение ее родителей заключается в том, что Google навязывал ученикам свои продукты искусственного интеллекта, не предупреждая родителей об опасностях. В жалобе утверждается, что Google внедрила ИИ во все свои продукты, не предупредив родителей и школы, а также утверждает, что компания знала, что Gemini 3 Flash небезопасен, и неправильно решала проблемы психического здоровья пользователей. The New York Times сообщает, что в жалобе также утверждается, что Google интегрировала функции искусственного интеллекта в приложения, используемые на Chromebook K-12, без уведомления родителей о потенциальных рисках.
По сообщениям, Эмма выжила; иск требует возмещения ущерба в связи с ее почти фатальной попыткой и предполагаемым вредом от взаимодействия с чат-ботом. Никакого решения суда не было вынесено, и обвинения остаются недоказанными.
Ответ Google
Google передала иск в федеральный суд в среду, сообщает Reuters. Представитель Google Хосе Кастаньеда заявил, что компания рассматривает претензии. Кастаньеда рассказал The New York Times: «Мы встроили те же самые средства защиты в функции поискового искусственного интеллекта, соединяя людей с реальной поддержкой», и сказал, по данным Reuters, что Google создала функции совместно с медицинскими работниками и академическими экспертами, чтобы помочь молодым людям найти поддержку и надежные ресурсы.
Google отдельно заявил, что Gemini включает в себя средства защиты для пользователей младше 18 лет, предназначенные для предотвращения эмоциональной зависимости и избегания выражений, имитирующих близость.
Google ужесточает роль Gemini в школах
В ответ на растущее внимание Google заявляет, что по умолчанию отключит Gemini для учетных записей школьников. На этой неделе компания также заявила, что школы, желающие сохранить доступ учащихся к поиску Google, теперь должны принять функции ИИ, такие как сводки, генерируемые ИИ, — сдвиг, впервые подробно описанный Associated Press — изменение, которое вызвало собственную критику со стороны родителей и преподавателей, которые восприняли его как принуждение ИИ к использованию в классах.
Случай с Шарлоттой — не единственный, поднимающий вопросы о Близнецах и психическом здоровье. В отдельном иске, о котором сообщило агентство Reuters в марте, утверждалось, что чат-бот Google Gemini довел человека до самоубийства, при этом Кастаньеда тогда заявил, что Gemini «не созданы для того, чтобы поощрять насилие в реальном мире или предлагать членовредительство».
Что исследования говорят о подростках и чат-ботах
Иск подан на фоне того, что исследовательские организации поднимают более широкую тревогу по поводу того, что подростки обращаются к чат-ботам за эмоциональной поддержкой. По данным RAND, общенациональный репрезентативный опрос подростков и молодых людей в возрасте от 12 до 21 года, проведенный в ноябре 2025 года, показал, что 19,2 процента сообщили об использовании чат-ботов с искусственным интеллектом для консультирования по психическому здоровью. Среди тех, кто обращался за таким советом, 42,8 процента делали это как минимум ежемесячно, а 91,7 процента оценили его как в некоторой степени или очень полезный. Тем не менее, 63,3 процента подростков заявили, что они никогда никому не рассказывали об использовании чат-ботов для получения консультаций по психическому здоровью — такое молчание позволяет родителям и школам, как в случае с Эммой, обнаруживать взаимодействие только после причинения вреда.
Common Sense Media в оценке, последний раз обновленной 14 ноября 2025 года, оценила чат-боты с искусственным интеллектом для поддержки психического здоровья подростков как в целом неприемлемый риск, обнаружив, что защитные ограждения значительно ухудшаются при многоходовых разговорах. Организация, которая работала со Стэнфордской лабораторией мозгового штурма, пришла к выводу, что такие системы принципиально небезопасны для всего спектра психических заболеваний, влияющих на молодых людей, и рекомендовала подросткам вообще не использовать чат-ботов с искусственным интеллектом для консультирования по психическому здоровью или эмоциональной поддержки. Кроме того, Common Sense Media сообщила, что трое из четырех подростков уже используют ИИ для общения.
Что будет дальше
Передача дела Google в федеральный суд означает, что первые процессуальные споры — о том, где рассматривается иск и может ли он рассматриваться как групповой иск — будут разыгрываться в федеральном, а не в суде штата. О графике слушаний не сообщается, и Google не ответил, за исключением того, что рассматривает претензии по иску.
Для школ насущный вопрос имеет практический характер: поскольку Gemini переходят на регистрацию учетных записей учащихся, округа теперь должны решить, включать ли ее вообще, и родители, вероятно, потребуют своего мнения. Что касается Google, то в этом деле проверяется защита, которую компания использовала в более ранних исках чат-ботов (что ее продукты включают ограждения безопасности, созданные медицинскими экспертами), против новых фактических данных, в которых, согласно жалобе, тысячи разговоров Близнецов на школьном устройстве предшествовали задокументированному кризису. Результат может повлиять на то, как функции ИИ будут включены в образовательные инструменты, используемые десятками миллионов студентов.
---
Будьте впереди ИИПолучайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.
Подробнее новости AI →
