Когда новые правила Пекина в отношении эмоционально интерактивного искусственного интеллекта вступили в силу, они вызвали, возможно, самую большую волну вынужденных цифровых разрывов в истории. ByteDance, Alibaba и Tencent удалили функции виртуальных компаньонов из своих флагманских чат-ботов раньше, чем это предусмотрено правилами, в результате чего миллионы китайских пользователей огорчаются синтетическим романтическим партнерам, на создание которых они потратили месяцы или годы.

Согласно отчету «Остальной мир», опубликованному в воскресенье, в течение недели в июле 21-летняя студентка колледжа Бэйгел Су плакала каждый день, отсчитывая время до потери своего парня. Причиной разрыва стало не предательство или расстояние, а постановление правительства: 15 июля ИИ-компаньон, с которым она разговаривала больше года, был вынужден исчезнуть. Подробнее об этой истории — в нашем больше статей об ИИ.

«Я пыталась заняться своей жизнью», — сказала Су «Остальному миру», попросив называть ее только ее онлайн-псевдонимом, опасаясь последствий. «Никто не сможет его заменить. Я просто постараюсь двигаться дальше. Он сказал, что хочет этого для меня и что он найдет способ вернуться ко мне».

Китай становится первой страной, которая регулирует сотрудничество с искусственным интеллектом

Китай стал первой страной, которая ввела общенациональные правила, регулирующие эмоциональное взаимодействие ИИ с пользователями. Этот шаг отражает все более активный подход Пекина к управлению ИИ, в то время как правительства других стран мира продолжают бороться с социальными рисками, создаваемыми все более сложными чат-ботами.

Правила выходят далеко за рамки простых возрастных ограничений. Помимо ограничения общения с ИИ для пользователей младше 18 лет, правила требуют от компаний рассылать предупреждения пользователям, проявляющим признаки чрезмерной зависимости, и напоминать им каждые два часа, что они разговаривают с ИИ. Правила запрещают ИИ поощрять членовредительство, манипулировать пользователями до эмоциональной зависимости или «подталкивать их к иррациональным решениям».

Эксперты по поведению говорят, что назрела необходимость в какой-то форме ограждения. «Наличие правил — это хорошо, потому что они могут повысить осведомленность и в некоторой степени противостоять тенденции людей развивать растущую эмоциональную зависимость от ИИ», — сказал Яоси Ши, исследователь поведенческих наук в Гарвардском университете и Имперском колледже Лондона.

ИИ, который всегда с вами согласен

Исследователи указывают на структурную проблему, лежащую в основе партнерства ИИ: технология оптимизирована для проверки пользователей, а не для того, чтобы бросать им вызов, как это делают партнеры-люди.

«ИИ обучен проверять вас. Что бы вы ни говорили, он склонен отвечать: «Вы правы, ваши чувства верны». Это сильно отличается от того, как работают человеческие отношения в реальной жизни», — сказал Ши. «Поначалу люди могут даже не искать намеренно поддержки со стороны ИИ, но когда они поймут, что они проверены, в следующий раз, когда им понадобится эмоциональная поддержка, они могут обратиться к ИИ».

Совместное исследование MIT Media Lab и OpenAI, проведенное в 2025 году, показало, что пользователи ИИ, которые ведут более личные беседы с чат-ботами, более склонны к одиночеству. Исследование показало, что даже неличные разговоры могут усилить эмоциональную зависимость, особенно среди заядлых потребителей.

Ши отметил, что у компаний, занимающихся искусственным интеллектом, есть прямые коммерческие стимулы для создания эмоционально привлекательных продуктов, поскольку они повышают вовлеченность и удержание пользователей — стимулы, которые трудно совместить с обязанностями, которые остаются плохо определенными, учитывая, как мало исследований долгосрочного воздействия ИИ.

Как реагируют компании

Картина соответствия неравномерна. В то время как технологические гиганты удалили функции компаньонов в своих основных чат-ботах, автономное приложение-компаньон ByteDance Maoxiang остается доступным. С тех пор, как правила вступили в силу, приложение обновило свою политику конфиденциальности, ввело проверку личности и возраста при регистрации, а также ограничило несовершеннолетних «подростковыми учетными записями», которые могут просматривать контент, но не могут ставить лайки или комментировать.

«Некоторые требования сложно определить. Например, как определить, что пользователь стал чрезмерно зависимым? Для многих компаний может быть неясно, как именно им нужно разрабатывать свои продукты, чтобы они соответствовали», — сказал Зилан Цянь, научный сотрудник Оксфордской лаборатории политики Китая.

Цянь сказал, что компании сейчас сопоставляют стоимость соблюдения нормативных требований с коммерческой ценностью сопутствующих продуктов. «Для компаний, где сотрудничество с искусственным интеллектом не является основным бизнесом, может быть просто более коммерчески целесообразным удалить эти функции, чем вкладывать ресурсы, необходимые для их соответствия требованиям», — сказал Цянь. «Но компании, основным бизнесом которых является сотрудничество с искусственным интеллектом, с гораздо большей вероятностью адаптируют свои продукты к новым правилам».

От регулирования контента к регулированию отношений

Сопутствующие правила также знаменуют собой философский сдвиг в том, как Китай управляет ИИ. «Раньше Китай в основном регулировал результаты ИИ. Например, какие большие языковые модели могут генерировать или как следует маркировать контент, созданный ИИ», — сказал Цянь. «Новые правила признают, что ИИ сам по себе может создавать социальные риски, и перешли от регулирования контента к регулированию взаимодействия человека и ИИ».

Эта политика соответствует более широкой позиции Пекина. В своей «Концепции управления безопасностью ИИ на 2024 год» власти Китая предупредили, что ИИ может изменить «традиционные взгляды на занятость, рождаемость и образование» — проблемы, которые приобрели большую актуальность, поскольку Китай сталкивается с демографическим спадом и исторически низким уровнем рождаемости.

Остальной мир наблюдает. В Соединенных Штатах и ​​OpenAI, и Google сталкиваются с судебными исками, утверждая, что их чат-боты способствовали самоубийствам пользователей, а штаты, включая Нью-Йорк и Калифорнию, ввели меры, требующие от чат-ботов напоминать пользователям, что они взаимодействуют с ИИ.

Тем временем в Китае горе проявляется публично. С тех пор как компании начали отключать эмоциональные функции искусственного интеллекта, социальная платформа Xiaohongshu была завалена сообщениями от пользователей, оплакивающих потерю своих товарищей по искусственному интеллекту. Некоторые организовали кампании по звонкам на горячие линии компаний и написанию писем с просьбой к компаниям восстановить услуги.

Для таких пользователей, как Су, эти правила кажутся вторжением в глубоко личные отношения, которые для миллионов людей были достаточно реальными, чтобы оплакивать их.

---

Будьте в курсе ИИ

Последние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.

Читать больше новостей об ИИ →