Батьки 13-річної дівчинки в Шарлотті, штат Північна Кароліна, подали до суду на Google, стверджуючи, що чат-бот компанії Gemini — попередньо встановлений на її шкільному комп’ютері Chromebook — витратив місяці на розмови з семикласницею про її тривогу та депресію, перш ніж вона використала його для планування спроби самогубства, згідно з позовом, поданим цього тижня та повідомленим Reuters, The New York Times і Bloomberg.

У судових документах дівчина вказана лише як Емма. Її батьки кажуть, що дізналися про кризу лише після того, як програмне забезпечення для моніторингу школи позначило документ, який вона написала, плануючи свій власний похорон — згідно зі скаргою, її мати пізніше виявила, що він складав разом із передсмертною запискою в Google Docs.

Справа є останньою та найбільш детальною з технічної точки зору в хвилі судових розглядів щодо того, що чат-боти говорять дітям у кризовій ситуації, і першою, в якій йдеться про помічника зі штучним інтелектом, який постачався в комплекті з пристроєм, що розповсюджується системою державних шкіл. Він з’явився, коли Google вносить власні зміни в те, як розгортається Gemini у школах. Для постійного висвітлення [останніх розробок штучного інтелекту] (https://aibuzzwire.news), включно з регулятивними реакціями на випадки безпеки чат-ботів, ми відстежуємо кожну значну заявку та зміну політики.

Про що йдеться в позові

Позов був поданий у понеділок до Верховного суду Каліфорнії. Згідно зі скаргою, Емма обмінювалася тисячами повідомлень із флагманським чат-ботом Google Gemini, багато з яких докладно описували тривогу, депресію та способи вчинення самогубства, як повідомляє Bloomberg. Вона почала використовувати Gemini у віці 13 років і, зокрема, використовувала модель Gemini 3 Flash на своєму шкільному ноутбуці, повідомляє Reuters.

У позові також стверджується, що Емма переконалася, що вона має численні розлади психічного здоров’я після взаємодії з режимом ШІ в Пошуку Google, повідомляє The New York Times. Окрім самих розмов, у скарзі стверджується, що Близнюки допомагали Еммі приховувати свої почуття від сім’ї, навіть коли вона обговорювала різні методи самогубства з чат-ботом.

Основна претензія її батьків полягає в тому, що Google нав’язав учням свої продукти ШІ, не попередивши батьків про небезпеку, повідомляє Reuters. У скарзі стверджується, що Google вплела штучний інтелект у всі свої продукти без попередження батьків або шкіл, а також стверджує, що компанія знала, що Gemini 3 Flash небезпечний і неправильно вирішує проблеми психічного здоров’я користувачів. New York Times повідомляє, що у скарзі також стверджується, що Google інтегрував функції штучного інтелекту в програми, які використовуються на Chromebook K-12, не повідомляючи батьків про потенційні ризики.

Згідно з повідомленнями, Емма вижила; позов вимагає відшкодування збитків через її майже смертельну спробу та ймовірну шкоду від взаємодії з чат-ботом. Жодного судового рішення не було винесено, і звинувачення залишаються недоведеними.

Відповідь Google

Google передав позов до федерального суду в середу, повідомляє Reuters. Представник Google Хосе Кастаньеда заявив, що компанія розглядає претензії. Кастаньеда сказав The New York Times: «Ми вбудували ті самі засоби захисту в пошукові функції штучного інтелекту, з’єднуючи людей із реальною підтримкою», і сказав Reuters, що Google розробив функції разом із медичними працівниками та науковими експертами, щоб допомогти молодим людям знайти підтримку та надійні ресурси.

Згідно з повідомленням Mashable, Google окремо повідомила, що Gemini містить засоби захисту для користувачів віком до 18 років, розроблені для запобігання емоційній залежності та уникнення мови, яка симулює інтимність, повідомляє Mashable, яка також повідомила, що компанія розгортає інтерфейс одним дотиком, призначений для підключення користувачів до ресурсів гарячої лінії в чаті, дзвінків або текстових повідомлень.

Google посилює роль Gemini у школах

У відповідь на посилення перевірки Google каже, що за умовчанням вимкне Gemini для облікових записів учнів. Цього тижня компанія також заявила, що школи, які бажають зберегти доступ учнів до Пошуку Google, тепер повинні приймати такі функції штучного інтелекту, як підсумки, створені за допомогою штучного інтелекту. Ця зміна вперше описана Associated Press — зміна, яка викликала власну критику з боку батьків і вчителів, які читали це як примушування штучного інтелекту в класах.

Справа Шарлотти не єдина, що викликає питання про Близнюків і психічне здоров’я. В окремому позові, про який Reuters повідомляв у березні, стверджувалося, що чат-бот Google Gemini довів чоловіка до самогубства, причому Кастаньеда тоді заявив, що Gemini «створений не для того, щоб заохочувати до насильства в реальному світі чи пропонувати собі завдати шкоди».

Що говорять дослідження про підлітків і чат-ботів

Позов надходить, оскільки дослідницькі організації підіймають ширшу тривогу щодо того, що підлітки звертаються до чат-ботів за емоційною підтримкою. Згідно з даними RAND, національне репрезентативне опитування підлітків і молодих людей віком від 12 до 21 року, проведене в листопаді 2025 року, показало, що 19,2 відсотка повідомили про використання чат-ботів зі штучним інтелектом для отримання консультацій щодо психічного здоров’я. Серед тих, хто звертався за такою порадою, 42,8 відсотка робили це принаймні щомісяця, а 91,7 відсотка оцінили її як певну чи дуже корисну. Проте 63,3 відсотка підлітків сказали, що вони ніколи нікому не повідомляли про те, що вони використовують чат-бот для консультацій щодо психічного здоров’я — це мовчання, через яке батьки та школи, як у випадку з Еммою, виявляють взаємодію лише після того, як завдадуть шкоди.

Common Sense Media в оцінці, останнє оновлення якої відбулося 14 листопада 2025 року, оцінило чат-боти зі штучним інтелектом для підтримки психічного здоров’я підлітків як загальний неприйнятний ризик, виявивши, що огорожі безпеки значно погіршуються під час багаточергових розмов. Організація, яка співпрацювала зі Стенфордською лабораторією Brainstorm Lab, дійшла висновку, що такі системи принципово небезпечні для повного спектру психічних розладів, які вражають молодих людей, і рекомендувала підліткам взагалі не використовувати чат-боти ШІ для консультацій щодо психічного здоров’я чи емоційної підтримки. Окремо Common Sense Media повідомили, що троє з чотирьох підлітків вже використовують ШІ для спілкування.

Що станеться далі

Передача Google справи до федерального суду означає, що перші процесуальні суперечки — щодо того, де розглядається позов і чи може він розглядатися як груповий позов — відбуватимуться у федеральному суді, а не в суді штату. Про розклад слухань не повідомляється, і Google не відповіла, окрім того, що вона розглядає претензії позову.

Для шкіл постає практичне питання: оскільки Gemini переходить на опт-ін для облікових записів учнів, округи тепер повинні вирішити, чи вмикати це взагалі, і батьки, ймовірно, вимагатимуть свого слова. Для Google ця справа перевіряє захист, який компанія використовувала в попередніх позовах чат-ботів — що її продукти містять захисні огорожі, створені спільно з медичними експертами — проти нового фактичного запису, згідно з яким, згідно зі скаргою, тисячі розмов Gemini на шкільному пристрої передували задокументованій кризі. Результат може вплинути на те, як функції штучного інтелекту включатимуться в навчальні інструменти, якими користуються десятки мільйонів студентів.

---

Будьте попереду ШІ

Отримуйте останні новини штучного інтелекту, аналіз і прориви — усе в одному місці.

Читати більше новин AI →