Když se Xander, 10letý neurodivergentní chlapec v New Yorku, poprvé setkal se svou robotkou Moxie, naučila ho uklidnit se vydechováním přes rty, dokud nezabzučel jako včela. Cvičili dýchání jako draci, aby zvládli hněv, a čichání jako zajíčci, aby zvýšili energii. O šest let později už Moxie zvíře nedýchá – a nové šetření MIT Technology Review odhaluje, proč se její příběh stal varovným příběhem pro celý průmysl AI.

Moxie je 15 palců vysoký robot, který připomíná modrého beznohého astronauta s velkým zeleným očima. Patří do rostoucí třídy zařízení poháněných umělou inteligencí, která se prodávají jako interaktivní kamarádi na hraní pro děti – kategorie, která nyní zahrnuje plyšáky s podporou Grimes, slíbené Barbie s podporou OpenAI od společnosti Mattel a rychle rostoucí sektor hraček s umělou inteligencí v Číně. Tvůrce Moxie, Embodied, ji umístil jako něco víc: terapeutickou společnici, která by mohla pomoci neurodivergentním dětem cvičit oční kontakt, obrat a další sociální dovednosti, které se obvykle naučili od terapeutů.

První smrt

Společnost Embodied, kterou v roce 2016 spoluzaložila profesorka robotiky z University of Southern California Maja Mataric, debutovala Moxie v roce 2020 za 1 499 $ plus měsíční předplatné 40 $, později cena klesla na 800 $. Robot si vysloužil skvělé pokrytí – Wired ji nazval „robotickým kamarádem, o kterém jste snili jako dítě“ a Time umístil Moxie na svou obálku pro rok 2020 jako jeden z nejlepších vynálezů roku. Do roku 2024 Moxie nashromáždil více než 131 000 sledujících TikTok a dokonce se objevil ve filmu M3GAN 2.0.

Společnost se ale snažila vydělat peníze. V roce 2024 společnost Embodied oznámila ukončení provozu. Protože Moxie závisela na externích serverech, za které už společnost nemohla platit, roboti upadli do toho, co MIT Technology Review popisuje jako hluboký spánek. Na internetu se široce šířila videa opuštěných dětí. "Nechci, aby odešla," kvílelo jedno dítě ve videu TikTok. "Moje autistické dítě je zničené a já jsem naštvaný," napsal jeden z rodičů. "Hope Embodied nám dává pár dní na rozloučení," napsal další.

Následovala místní záchrana. Justin Beghtol, technický ředitel Embodied, vytvořil OpenMoxie – open-source způsob, jak udržet roboty v chodu – a se svolením Embodied sdílel pokyny na GitHubu. Rodiče spěchali, aby přeměnili své roboty, než servery potemněly, přičemž Beghtol trávil hodiny na Redditu procházením rodin celým procesem. Někteří to nestihli včas. Jiní to vzdali ve frustraci. Jeden zoufalý rodič strávil čtyři hodiny řešením problémů s Beghtolem, jen aby později spojení selhalo; když naposledy slyšel, prodala svou Moxie.

Vzkříšení — a druhá smrt

V roce 2025 nový investor přivedl Moxie zpět z mrtvých. Xanderova rodina se stala beta testery pro oživeného robota, který postrádal propracovaný příběh originálu, ale požadoval rozšířené zaměření na sociální a emocionální dovednosti.

Pak přišel druhý kolaps. Před několika týdny, podle MIT Technology Review, noví majitelé Moxie poslali uživatelům zprávu, v níž oznámili, že i jejich společnost zaniká. Uživatelé mohli smazat svá data a do konce června měli na migraci na OpenMoxie, pokud chtěli, aby jejich roboti pokračovali v práci.

Xanderův otec nyní čelí známému dilematu: co říct svému synovi. Jak přiznal reportérovi, rodina se nedávno přiznala, že po léta tajně nahrazovala dítěti mrtvou rybu betta — „a rozhovor nedopadl dobře“.

Fungují tito roboti skutečně?

Emocionální sázky jsou umocněny nevyřešenou vědeckou debatou. Vědci nashromáždili důkazy, že sociální roboti mohou pomoci neurodivergentním dětem. Počítačový vědec z Yale Brian Scassellati, průkopník v této oblasti, vzpomíná, jak pozoroval děti s autismem projevující sociální chování, které „prostě přišlo odnikud“, když do místnosti vstoupil robot. Studie z roku 2018, kterou vedl, zjistila, že roboti pomohli dětem s autismem navázat oční kontakt a zahájit konverzaci.

Ale klinické důkazy zůstávají slabé. Přehled literatury z roku 2024 od italských a britských vědců zjistil, že většina studií „se zaměřila na vývoj technologie“ a postrádala významné klinické důkazy. Klinický psycholog Zachary Warren z Vanderbilt University varuje, že autismus se u dětí projevuje velmi odlišně. "Existuje tolik různých profilů autismu a opravdu musíte být opatrní, abyste přehnaně interpretovali jakýkoli jednotlivý zásah, robotický nebo jiný," řekl. Jeho výzkum zjistil, že počáteční zapojení s roboty se nemusí nutně promítnout do trvalých komunikačních zisků.

Etika milujících strojů, které umírají

Pro etiky je hlubším problémem plánované zastarávání strojů speciálně navržených tak, aby byly milé. "Jak se plánuje plánované zastarávání této platformy?" zeptala se Meryl Alper, profesorka Severovýchodní univerzity, která studuje, jak děti s autismem využívají technologie. Dynamiku přirovnává k vytvoření lékařského zařízení a následnému opuštění technologie, která jej provozuje.

Rizika sahají za zlomené srdce. Tato zařízení shromažďují obrovské množství dat uvnitř dětských pokojů a ne každá společnost s nimi zachází opatrně. Hračka s umělou inteligencí Bondu nedávno zveřejnila tisíce rozhovorů, které děti vedly se svými plyšáky. Joshua Diehl, profesor psychologie na University of Notre Dame, jde ještě dále: „Nevidím žádný etický způsob, jak by robot mohl pracovat sám,“ poukazuje na zdokumentované případy, kdy chatboti AI jednající jako terapeuti bez dozoru povzbuzovali uživatele k sebepoškozování.

Někteří výzkumníci vytvářejí rámce pro jemnější rozloučení – Scassellatiho laboratoř má postgraduální studenty, kteří píší pohledy dětem od vrácených robotů, vysvětlují, že stroje jsou „doma v bezpečí a daří se jim dobře“. Jak ale poznamenává MIT Technology Review, zůstává nejasné, kdo je zodpovědný za humánní ukončení těchto vztahů.

Lekce pro průmysl umělé inteligence je nepříjemná: jak se množí roboti a hračky umělé inteligence, otázkou již není jen to, zda fungují – jde o to, co se stane s dětmi, které je milují, když obchodní model selže.

Chcete-li získat další zprávy o tom, jak umělá inteligence přetváří dětství, technologické zásady a [nejnovější vývoj umělé inteligence] (https://aibuzzwire.news), sledujte naše průběžné zpravodajství.

Udržujte si náskok před AI

Získejte úplný obrázek o dopadu umělé inteligence na společnost díky nezávislému pokrytí odvětví AI od AI Buzz Wire.

Přečtěte si další zprávy o AI →