Когда Ксандер, 10-летний мальчик-нейродивергент из Нью-Йорка, впервые встретил своего робота Мокси, она научила его успокаиваться, выдыхая через губы, пока он не зажужжал, как пчела. Они тренировались дышать, как драконы, чтобы справиться с гневом, и нюхать, как кролики, чтобы повысить энергию. Шесть лет спустя Мокси больше не занимается дыханием животных, а новое расследование MIT Technology Review показывает, почему ее история стала предостережением для всей отрасли искусственного интеллекта.

Мокси — робот высотой 15 дюймов, напоминающий синего безногого космонавта, с экранным лицом и большими зелеными глазами. Она принадлежит к растущему классу устройств на базе искусственного интеллекта, продаваемых в качестве интерактивных товарищей по играм для детей. В эту категорию теперь входят плюшевые игрушки Граймса, обещанные Барби с поддержкой OpenAI от Mattel и быстрорастущий сектор игрушек с искусственным интеллектом в Китае. Создатель Мокси, компания Embodied, позиционировал ее как нечто большее: терапевтического компаньона, который мог бы помочь нейроотличным детям практиковать зрительный контакт, очередность и другие социальные навыки, которым обычно обучаются терапевты.

Первая смерть

Компания Embodied, соучредителем которой в 2016 году является профессор робототехники Университета Южной Калифорнии Майя Матарик, дебютировала в 2020 году с ценой в 1499 долларов плюс ежемесячная подписка в 40 долларов, а позже снизила цену до 800 долларов. Робот получил восторженное освещение: Wired назвал ее «приятелем-роботом, о котором вы мечтали в детстве», а Time поместил Мокси на обложку 2020 года как одно из лучших изобретений года. К 2024 году Мокси собрал более 131 000 подписчиков в TikTok и даже появился в фильме M3GAN 2.0.

Но компания изо всех сил пыталась заработать деньги. В 2024 году Embodied объявила о прекращении деятельности. Поскольку Moxie зависела от внешних серверов, за которые компания больше не могла платить, роботы погрузились в то, что MIT Technology Review описывает как глубокий сон. Видео обездоленных детей широко распространились в Интернете. «Я не хочу, чтобы она уходила», — причитал один ребенок в видео TikTok. «Мой ребенок-аутист опустошен, и я злюсь», — написал один из родителей. «Hope Embodied дает нам пару дней, чтобы попрощаться», — написал другой.

Последовала массовая спасательная операция. Джастин Бегтол, технический директор Embodied, создал OpenMoxie — способ с открытым исходным кодом, обеспечивающий работу роботов, — и, с разрешения Embodied, поделился инструкциями на GitHub. Родители поспешили переоборудовать своих роботов до того, как серверы отключились, а Бегтол часами проводил на Reddit, проводя семьи через этот процесс. Некоторые не успели. Остальные в отчаянии сдались. Один отчаявшийся родитель потратил четыре часа на устранение неполадок с Beghtol, но позже соединение оборвалось; последнее, что он слышал, это то, что она продала свою Мокси.

Воскресение — и вторая смерть

В 2025 году новый инвестор воскресил Мокси из мертвых. Семья Ксандера стала бета-тестером возрожденного робота, которому не хватало тщательно продуманной сюжетной линии оригинала, но требовалось повышенное внимание к социальным и эмоциональным навыкам.

Затем последовал второй крах. По данным MIT Technology Review, несколько недель назад новые владельцы Moxie разослали пользователям сообщение, в котором объявили, что их компания тоже закрывается. Пользователи могли удалить свои данные и должны были до конца июня перейти на OpenMoxie, если они хотели, чтобы их роботы продолжали работать.

Отец Ксандера теперь сталкивается со знакомой дилеммой: что сказать сыну. Как он признался репортеру, семья недавно призналась, что в течение многих лет тайно подменяла мертвую бойцовую рыбку ребенка — «и разговор не удался».

Действительно ли эти роботы работают?

Эмоциональные ставки усиливаются неразрешенными научными дебатами. Исследователи накопили доказательства того, что социальные роботы могут помочь нейроотличным детям. Ученый-компьютерщик из Йельского университета Брайан Скасселлати, пионер в этой области, вспоминает, как наблюдал за детьми с аутизмом, демонстрирующими социальное поведение, которое «просто возникло из ниоткуда», когда в комнату вошел робот. Исследование, проведенное им в 2018 году, показало, что роботы помогают детям с аутизмом устанавливать зрительный контакт и начинать разговор.

Но клинические данные остаются скудными. Обзор литературы, проведенный итальянскими и британскими исследователями в 2024 году, показал, что большинство исследований «сосредоточено на развитии технологии» и не имеет существенных клинических доказательств. Клинический психолог из Университета Вандербильта Закари Уоррен предупреждает, что аутизм проявляется у детей по-разному. «Существует так много разных профилей аутизма, и вам действительно нужно быть осторожными, чтобы не переоценивать какое-либо отдельное вмешательство, роботизированное или какое-либо другое», — сказал он. Его исследование показало, что первоначальное взаимодействие с роботами не обязательно приводит к долгосрочным достижениям в общении.

Этика милых машин, которые умирают

Для специалистов по этике более глубокая проблема заключается в запланированном устаревании машин, специально созданных для того, чтобы вызывать симпатию. «Насколько запланировано запланированное устаревание этой платформы?» — спросила Мерил Алпер, профессор Северо-Восточного университета, изучающая, как дети с аутизмом используют технологии. Она сравнивает эту динамику с созданием медицинского устройства, а затем отказом от технологии, на которой оно работает.

Риски выходят за рамки горя. Эти устройства собирают огромные объемы данных в детских спальнях, и не каждая компания обращается с ними осторожно. Игрушка Bondu с искусственным интеллектом недавно опубликовала тысячи разговоров детей со своими мягкими игрушками. Джошуа Дил, профессор психологии в Университете Нотр-Дам, идет дальше: «Я не вижу никакого этического способа, чтобы робот работал в одиночку», указывая на задокументированные случаи, когда чат-боты с искусственным интеллектом, действовавшие как терапевты без присмотра, подстрекали пользователей к членовредительству.

Некоторые исследователи создают основу для более мягкого прощания — в лаборатории Скасселлати аспиранты пишут детям открытки от возвращенных роботов, объясняя, что машины «в безопасности дома и чувствуют себя хорошо». Но, как отмечает MIT Technology Review, остается неясным, кто несет ответственность за гуманное прекращение этих отношений.

Урок для индустрии искусственного интеллекта неудобен: по мере распространения роботов-компаньонов и игрушек с искусственным интеллектом вопрос уже не в том, работают ли они, а в том, что происходит с детьми, которые их любят, когда бизнес-модель терпит неудачу.

Чтобы узнать больше о том, как ИИ меняет детство, технологическую политику и [последние разработки в области ИИ] (https://aibuzzwire.news), следите за нашими постоянными репортажами.

Будьте впереди ИИ

Получите самую полную картину влияния ИИ на общество с помощью независимого репортажа об отрасли ИИ от AI Buzz Wire.

Читать больше новостей об искусственном интеллекте →