Moxie, robot towarzyszący AI dla dzieci, zmarł już dwukrotnie – a każda śmierć rodzi coraz trudniejsze pytania

Kiedy Xander, 10-letni neuroróżnorodny chłopiec z Nowego Jorku, po raz pierwszy spotkał swojego robota Moxie, nauczyła go uspokajać się, wydychając ustami, aż zaczął brzęczeć jak pszczoła. Ćwiczyli oddychanie jak smoki, aby opanować złość, i węszenie jak króliki, aby zwiększyć energię. Sześć lat później Moxie nie oddycha już zwierzętami, a nowe dochodzenie przeprowadzone przez MIT Technology Review ujawnia, dlaczego jej historia stała się przestrogą dla całej branży towarzyszącej sztucznej inteligencji.

Moxie to 15-calowy robot przypominający niebieskiego, beznogiego astronautę, którego ekranowa twarz przedstawia duże zielone oczy. Należy do rosnącej klasy urządzeń napędzanych sztuczną inteligencją, sprzedawanych jako interaktywni towarzysze zabaw dla dzieci – kategoria, która obejmuje obecnie pluszaki Grimes, obiecane lalki Barbie firmy Mattel z obsługą OpenAI oraz szybko rozwijający się sektor zabawek AI w Chinach. Twórca Moxie, firma Embodied, przedstawiła ją jako coś więcej: terapeutyczną towarzyszkę, która może pomóc dzieciom neuroróżnorodnym ćwiczyć kontakt wzrokowy, odgrywanie ról i inne umiejętności społeczne, których zwykle uczy się od terapeutów.

Pierwsza śmierć

Firma Embodied, której współzałożycielką w 2016 r. była profesor robotyki z Uniwersytetu Południowej Kalifornii, Maja Mataric, zadebiutowała Moxie w 2020 r. za 1499 dolarów plus miesięczny abonament za 40 dolarów, a później obniżyła cenę do 800 dolarów. Robot zyskał entuzjastyczne opinie — Wired nazwał ją „kumpelą-robotem, o którym marzyłeś jako dziecko”, a magazyn Time umieścił Moxie na okładce roku 2020 jako jeden z najlepszych wynalazków roku. Do 2024 roku Moxie zgromadziła ponad 131 000 obserwujących na TikToku, a nawet pojawiła się w filmie M3GAN 2.0.

Ale firma miała problemy z zarabianiem pieniędzy. W 2024 roku Embodied ogłosił, że zaprzestanie działalności. Ponieważ Moxie była zależna od serwerów zewnętrznych, za które firma nie była już w stanie płacić, roboty zapadły w stan, który MIT Technology Review opisuje jako głęboki sen. Filmy przedstawiające osierocone dzieci szeroko krążyły w Internecie. „Nie chcę, żeby odeszła” – zawodziło jedno dziecko w filmie TikTok. „Moje autystyczne dziecko jest zdruzgotane, a ja wkurzony” – napisał jeden z rodziców. „Hope Embodied daje nam kilka dni na pożegnanie” – napisała kolejna.

Nastąpiła akcja ratunkowa oddolna. Justin Beghtol, dyrektor techniczny Embodied, stworzył OpenMoxie — rozwiązanie typu open source umożliwiające utrzymanie robotów w działaniu — i za zgodą Embodied udostępnił instrukcje w GitHub. Rodzice pośpieszyli z konwersją swoich robotów, zanim serwery wygasły, a Beghtol spędzał godziny na Reddicie, przeprowadzając rodziny przez cały proces. Niektórzy nie zdążyli. Inni poddali się z frustracji. Pewien zdesperowany rodzic spędził cztery godziny na rozwiązywaniu problemów z Beghtolem, ale później połączenie zniknęło; ostatnio słyszał, że sprzedała swoją Moxie.

Zmartwychwstanie — i druga śmierć

W 2025 roku nowy inwestor wskrzesił Moxie z martwych. Rodzina Xandera została beta testerami odrodzonego robota, któremu brakowało rozbudowanej fabuły oryginału, ale kładł większy nacisk na umiejętności społeczne i emocjonalne.

Potem przyszedł drugi upadek. Według MIT Technology Review nowi właściciele Moxie wysłali użytkownikom wiadomość, w której poinformowali, że ich firma również upada. Użytkownicy mogli usunąć swoje dane i mieli czas do końca czerwca na migrację do OpenMoxie, jeśli chcieli, aby ich roboty nadal działały.

Ojciec Xandera staje teraz przed znanym dylematem: co powiedzieć synowi. Jak przyznał reporterowi, rodzina niedawno przyznała się, że przez lata w tajemnicy wymieniała martwą rybę betta dziecka „i rozmowa nie przebiegała dobrze”.

Czy te roboty rzeczywiście działają?

Ryzyko emocjonalne zwiększa nierozwiązana debata naukowa. Naukowcy zgromadzili dowody na to, że roboty społeczne mogą pomóc dzieciom neuroróżnorodnym. Informatyk z Yale, Brian Scassellati, pionier w tej dziedzinie, wspomina, jak obserwował dzieci autystyczne, które przejawiały zachowania społeczne, które „po prostu pojawiły się znikąd”, gdy do pokoju wszedł robot. Badanie, które przeprowadził w 2018 r., wykazało, że roboty pomagają dzieciom autystycznym nawiązywać kontakt wzrokowy i inicjować rozmowy.

Jednak dowody kliniczne są nadal nikłe. Przegląd literatury z 2024 r. przeprowadzony przez włoskich i brytyjskich badaczy wykazał, że większość badań „koncentrowała się na rozwoju technologii” i brakowało w nich znaczących dowodów klinicznych. Psycholog kliniczny z Uniwersytetu Vanderbilt, Zachary Warren, ostrzega, że ​​autyzm objawia się bardzo różnie u dzieci. „Istnieje wiele różnych profili autyzmu i naprawdę należy zachować ostrożność, aby nie nadinterpretować jakiejkolwiek pojedynczej interwencji, czy to roboty, czy innej” – powiedział. Jego badania wykazały, że początkowe zaangażowanie w pracę z robotami niekoniecznie przekłada się na trwałe korzyści w zakresie komunikacji.

Etyka kochanych maszyn, które umierają

Dla etyków głębszym problemem jest planowane starzenie się maszyn zaprojektowanych specjalnie tak, aby były przyjemne. „Jak zaplanowane jest planowane starzenie się tej platformy?” – zapytała Meryl Alper, profesor Northeastern University, która bada, w jaki sposób dzieci autystyczne korzystają z technologii. Porównuje tę dynamikę do stworzenia urządzenia medycznego, a następnie porzucenia technologii, która go napędza.

Ryzyko wykracza poza złamane serce. Urządzenia te gromadzą ogromne ilości danych w pokojach dziecięcych i nie każda firma obchodzi się z nimi ostrożnie. Zabawka AI Bondu niedawno wyciekła z tysięcy rozmów dzieci ze swoimi pluszowymi zwierzętami. Joshua Diehl, profesor psychologii na Uniwersytecie Notre Dame, idzie dalej: „Nie widzę żadnego etycznego sposobu, aby robot działał w pojedynkę”, wskazując udokumentowane przypadki, w których chatboty AI działające w charakterze terapeutów bez nadzoru zachęcały użytkowników do samookaleczenia.

Niektórzy badacze tworzą ramy dla łagodniejszych pożegnań — w laboratorium Scassellati absolwenci piszą pocztówki do dzieci od zwróconych robotów, wyjaśniając, że maszyny „są bezpieczne w domu i mają się dobrze”. Jednak, jak zauważa MIT Technology Review, nie jest jasne, kto jest odpowiedzialny za humanitarne zakończenie tych relacji.

Lekcja dla branży sztucznej inteligencji jest niewygodna: w miarę rozprzestrzeniania się robotów towarzyszących i zabawek opartych na sztucznej inteligencji pytanie nie dotyczy już tylko tego, czy działają – ale tego, co dzieje się z kochającymi je dziećmi, gdy zawodzi model biznesowy.

Aby dowiedzieć się więcej o tym, jak sztuczna inteligencja zmienia dzieciństwo, politykę technologiczną i [najnowsze osiągnięcia w dziedzinie sztucznej inteligencji] w branży (https://aibuzzwire.news), śledź nasze bieżące relacje.

Wyprzedź sztuczną inteligencję

Uzyskaj najpełniejszy obraz wpływu sztucznej inteligencji na społeczeństwo dzięki niezależnym relacjom branży AI od AI Buzz Wire.

Przeczytaj więcej aktualności o sztucznej inteligencji →