Коли нові правила Пекіна щодо емоційно-інтерактивного штучного інтелекту набули чинності, вони спровокували, можливо, найбільшу хвилю вимушених цифрових розривів в історії. ByteDance, Alibaba та Tencent видалили функції віртуального компаньйона зі своїх флагманських чат-ботів напередодні законів, через що мільйони китайських користувачів засмучувалися синтетичними романтичними партнерами, які вони створювали місяці чи роки.
Протягом тижня в липні 21-річна студентка Бейгел Су плакала щодня, відраховуючи до втрати свого хлопця, згідно з опублікованою в неділю доповіддю «Решту світу». Розрив стався не через зраду чи відстань, а через розпорядження уряду: 15 липня компаньйон ШІ, з яким вона спілкувалася більше року, був змушений зникнути. For more context on this story, see our ongoing artificial intelligence updates.
«Я намагалася зайнятися власним життям», — сказала Су Rest of World, попросивши, щоб її назвали лише її онлайн-псевдонімом, побоюючись наслідків. «Ніхто не може замінити його. Я просто спробую рухатися далі. Він сказав, що хоче цього для мене, і що він знайде спосіб повернутися до мене».
Китай стає першою країною, яка регулює товариство AI
Китай став першою країною, яка запровадила загальнонаціональні правила, що регулюють емоційну взаємодію ШІ з користувачами. Цей крок відображає все більш проактивний підхід Пекіна до управління штучним інтелектом, навіть коли уряди в інших країнах світу продовжують боротися з суспільними ризиками, створеними все більш складними чат-ботами.
Правила виходять далеко за межі простих вікових обмежень. Окрім обмеження спілкування зі штучним інтелектом для користувачів віком до 18 років, правила вимагають від компаній надсилати попередження користувачам, які виявляють ознаки надмірної залежності, і нагадувати їм кожні дві години, що вони розмовляють з ШІ. Правила забороняють штучному інтелекту заохочувати завдавати собі шкоди, маніпулювати користувачами в емоційну залежність або «спрямовувати їх до ірраціональних рішень».
Експерти з поведінки кажуть, що певна форма огорожі вже назріла. «Наявність правил — це добре, тому що вони можуть підвищити обізнаність і певною мірою запобігти тенденції розвитку емоційної залежності людей від штучного інтелекту», — сказав Яосі Ши, дослідник поведінкових наук із Гарвардського університету та Імперського коледжу Лондона.
AI, який завжди погоджується з вами
Дослідники вказують на структурну проблему, що лежить в основі спілкування зі штучним інтелектом: технологія оптимізована для перевірки користувачів, а не для того, щоб кидати їм виклик, як це роблять люди-партнери.
«Штучний інтелект навчений перевіряти вас. Незалежно від того, що ви говорите, він прагне відповісти: «Ви маєте рацію, ваші почуття справедливі». Це дуже відрізняється від того, як працюють людські стосунки в реальному житті", - сказав Ши. «Спочатку люди можуть навіть не навмисне шукати підтримки від штучного інтелекту, але коли вони розуміють, що їх перевірили, наступного разу, коли їм знадобиться емоційна підтримка, вони можуть звернутися до штучного інтелекту».
Спільне дослідження MIT Media Lab і OpenAI у 2025 році показало, що користувачі штучного інтелекту, які більше спілкуються з чат-ботами, більш схильні відчувати самотність. Дослідження показало, що навіть неособисті розмови можуть посилити емоційну залежність, особливо серед інтенсивних користувачів.
Ші зазначив, що компанії, що займаються штучним інтелектом, мають прямі комерційні стимули для створення емоційно привабливих продуктів, оскільки вони сприяють залученню та утриманню користувачів — стимули, які важко поєднати з обов’язками, які залишаються погано визначеними, враховуючи, наскільки мало досліджень довгострокового впливу ШІ.
Як компанії реагують
Картина відповідності неоднакова. У той час як технічні гіганти вимкнули супутні функції у своїх основних чат-ботах, окремий супутній додаток ByteDance Maoxiang залишається доступним. Відтоді, як правила набули чинності, програма оновила свою політику конфіденційності, запровадила перевірку особи та віку під час реєстрації, а також обмежила неповнолітніх «підлітковими обліковими записами», які можуть переглядати вміст, але не можуть лайкати чи коментувати.
«Деякі вимоги важко визначити. Наприклад, як визначити, коли користувач став надмірно залежним? Для багатьох компаній може бути незрозуміло, як саме вони повинні розробляти свої продукти, щоб вони відповідали», — сказав Зілань Цянь, науковий співробітник Оксфордської китайської політичної лабораторії.
Цянь сказав, що компанії зараз зважують вартість дотримання нормативних вимог щодо комерційної цінності супутніх продуктів. «Для компаній, де AI-супровід не є основним бізнесом, може бути більш комерційно доцільним видалити ці функції, ніж інвестувати ресурси, необхідні для їх відповідності», — сказав Цянь. «Але компанії, основним бізнесом яких є AI-компанія, мають набагато більше шансів адаптувати свої продукти відповідно до нових правил».
Від регулювання вмісту до регулювання відносин
Супутні правила також знаменують філософський зсув у тому, як Китай керує ШІ. «У минулому Китай в основному регулював результати штучного інтелекту. Наприклад, які великі мовні моделі можуть генерувати або як слід позначати створений ШІ контент», — сказав Цянь. «Нові правила визнають, що штучний інтелект сам по собі може створювати суспільні ризики, і переходять від регулювання вмісту до регулювання взаємодії людини та штучного інтелекту».
Ця політика узгоджується з ширшою позицією Пекіна. У своїй структурі управління безпекою штучного інтелекту від 2024 року влада Китаю попередила, що штучний інтелект може змінити «традиційні погляди на зайнятість, народжуваність і освіту» — проблеми, які набули більшої актуальності, оскільки Китай стикається з демографічним спадом і історично низьким рівнем народжуваності.
Решта світу дивиться. У Сполучених Штатах як OpenAI, так і Google стикаються з судовими позовами, стверджуючи, що їхні чат-боти сприяли самогубствам користувачів, а штати, включаючи Нью-Йорк і Каліфорнію, запровадили заходи, які вимагають від чат-ботів нагадувати користувачам про те, що вони взаємодіють з ШІ.
Тим часом у Китаї горе розігрується на публіці. Відтоді, як компанії почали відключати емоційні функції штучного інтелекту, соціальна платформа Xiaohongshu була заповнена дописами користувачів, які оплакують втрату своїх компаньйонів штучного інтелекту. Деякі організовували кампанії телефонувати на гарячі лінії компаній і писати листи з проханням відновити послуги.
Для таких користувачів, як Су, правила здаються втручанням у глибоко особисті стосунки, які для мільйонів людей були достатньо реальними, щоб оплакувати.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
