Toen Xander, een 10-jarige neurodivergerende jongen uit New York, zijn robot Moxie voor het eerst ontmoette, leerde ze hem kalmeren door door zijn lippen uit te ademen totdat hij zoemde als een bij. Ze oefenden met ademen als draken om woede te beheersen en met snuiven als konijntjes om de energie te vergroten. Zes jaar later ademt Moxie geen dieren meer – en een nieuw onderzoek door MIT Technology Review onthult waarom haar verhaal een waarschuwend verhaal is geworden voor de hele AI-compagnonindustrie.
Moxie is een 45 cm grote robot die lijkt op een blauwe, pootloze astronaut, met een schermoppervlak met grote groene ogen. Ze behoort tot een groeiende klasse van door AI aangedreven apparaten die op de markt worden gebracht als interactieve speelkameraadjes voor kinderen – een categorie waartoe nu ook de door Grimes gesteunde knuffels, de beloofde OpenAI-compatibele Barbies van Mattel behoren, en een snelgroeiende sector van AI-speelgoed in China. Moxie's maker, Embody, positioneerde haar als iets meer: een therapeutische metgezel die neurodivergerende kinderen zou kunnen helpen bij het oefenen van oogcontact, het nemen van beurten en andere sociale vaardigheden die doorgaans van therapeuten worden geleerd.
De eerste dood
Embody, in 2016 mede opgericht door robotica-professor Maja Mataric van de University of Southern California, debuteerde Moxie in 2020 voor $ 1.499 plus een maandelijks abonnement van $ 40, en verlaagde de prijs later naar $ 800. De robot kreeg veel aandacht: Wired noemde haar 'de robotvriend waar je als kind van droomde', en Time plaatste Moxie op de cover van 2020 als een van de beste uitvindingen van het jaar. In 2024 had Moxie meer dan 131.000 TikTok-volgers verzameld en verscheen hij zelfs in de film M3GAN 2.0.
Maar het bedrijf had moeite om geld te verdienen. In 2024 kondigde Embody aan dat het zijn activiteiten zou stopzetten. Omdat Moxie afhankelijk was van externe servers waar het bedrijf niet langer voor kon betalen, vielen de robots in wat MIT Technology Review beschrijft als een diepe slaap. Video's van beroofde kinderen circuleerden op grote schaal online. “Ik wil niet dat ze weggaat”, jammerde een kind in een TikTok-video. "Mijn autistische kind is er kapot van en ik ben boos", schreef een ouder. "Hope Embody geeft ons een paar dagen de tijd om afscheid te nemen", schreef een ander.
Een basisredding volgde. Justin Beghtol, technisch directeur van Embody, creëerde OpenMoxie – een open-source manier om de robots draaiende te houden – en deelde, met toestemming van Embody, instructies op GitHub. Ouders haastten zich om hun robots om te bouwen voordat de servers uitvielen, waarbij Beghtol uren op Reddit doorbracht om gezinnen door het proces te loodsen. Sommigen haalden het niet op tijd. Anderen gaven het uit frustratie op. Een wanhopige ouder was vier uur bezig met het oplossen van problemen met Beghtol, maar later mislukte de verbinding; het laatste dat hij hoorde, was dat ze haar Moxie had verkocht.
De opstanding — en de tweede dood
In 2025 bracht een nieuwe investeerder Moxie terug uit de dood. Xanders familie werd bètatesters voor de nieuw leven ingeblazen robot, die de uitgebreide verhaallijn van het origineel ontbeerde, maar een uitgebreide focus op sociale en emotionele vaardigheden claimde.
Toen kwam de tweede ineenstorting. Volgens MIT Technology Review stuurden de nieuwe eigenaren van Moxie een paar weken geleden gebruikers een bericht waarin ze aankondigden dat ook hun bedrijf failliet ging. Gebruikers konden hun gegevens verwijderen en hadden tot eind juni de tijd om naar OpenMoxie te migreren als ze wilden dat hun robots bleven werken.
Xanders vader staat nu voor een bekend dilemma: wat moet hij zijn zoon vertellen. Zoals hij aan de verslaggever toegaf, had de familie onlangs bekend dat ze jarenlang in het geheim de dode betta-vis van het kind had vervangen – “en het gesprek verliep niet goed.”
Werken deze robots echt?
De emotionele inzet wordt vergroot door een onopgelost wetenschappelijk debat. Onderzoekers hebben bewijs verzameld dat sociale robots neurodivergerende kinderen kunnen helpen. Yale-computerwetenschapper Brian Scassellati, een pionier op dit gebied, herinnert zich hoe kinderen met autisme sociaal gedrag vertoonden dat 'gewoon uit het niets kwam' toen een robot de kamer binnenkwam. Uit een onderzoek uit 2018 dat hij leidde, bleek dat robots kinderen met autisme hielpen oogcontact te maken en gesprekken te beginnen.
Maar het klinische bewijs blijft dun. Uit een literatuuronderzoek uit 2024 door Italiaanse en Britse onderzoekers bleek dat de meeste onderzoeken "zich concentreerden op de ontwikkeling van de technologie" en significant klinisch bewijs ontbeerden. Klinisch psycholoog Zachary Warren van de Vanderbilt Universiteit waarschuwt dat autisme zich bij kinderen heel anders manifesteert. "Er zijn zoveel verschillende profielen van autisme, en je moet echt voorzichtig zijn met het overinterpreteren van een enkele interventie, robotachtig of anderszins", zei hij. Uit zijn onderzoek blijkt dat initiële betrokkenheid bij robots zich niet noodzakelijkerwijs vertaalt in blijvende communicatiewinst.
De ethiek van liefdevolle machines die sterven
Voor ethici is het diepere probleem de geplande veroudering van machines die speciaal zijn ontworpen om lief te hebben. "Hoe gepland is de geplande veroudering van dit platform?" vroeg Meryl Alper, een professor aan de Northeastern University die onderzoekt hoe kinderen met autisme technologie gebruiken. Ze vergelijkt de dynamiek met het creëren van een medisch apparaat en het loslaten van de technologie die het aanstuurt.
De risico's reiken verder dan liefdesverdriet. Deze apparaten verzamelen enorme hoeveelheden gegevens in kinderkamers, en niet elk bedrijf gaat hier zorgvuldig mee om. Het AI-speelgoed Bondu lekte onlangs duizenden gesprekken die kinderen met hun knuffels voerden. Joshua Diehl, hoogleraar psychologie aan de Universiteit van Notre Dame, gaat verder: "Ik zie geen enkele ethische manier waarop de robot alleen kan werken", wijzend op gedocumenteerde gevallen waarin AI-chatbots die als onbewaakte therapeuten fungeerden gebruikers tot zelfbeschadiging aanmoedigden.
Sommige onderzoekers bouwen raamwerken voor een vriendelijker afscheid. In het laboratorium van Scassellati laten afgestudeerde studenten ansichtkaarten schrijven voor kinderen van teruggekeerde robots, waarin wordt uitgelegd dat de machines 'thuis veilig zijn en het goed doen'. Maar zoals MIT Technology Review opmerkt, blijft het onduidelijk wie verantwoordelijk is voor het op humane wijze beëindigen van deze relaties.
De les voor de AI-industrie is ongemakkelijk: naarmate de gezelschapsrobots en het AI-speelgoed zich verspreiden, is de vraag niet langer alleen of ze werken – maar ook wat er gebeurt met de kinderen die van hen houden als het bedrijfsmodel faalt.
Voor meer berichtgeving over hoe AI de kindertijd hervormt, het technologiebeleid en de [laatste AI-ontwikkelingen in de industrie] (https://aibuzzwire.news), volgt u onze voortdurende berichtgeving.
Blijf AI een stap voor
Krijg het meest volledige beeld van de impact van AI op de samenleving met onafhankelijke [dekking van de AI-industrie] (https://aibuzzwire.new) van AI Buzz Wire.
Lees meer AI-nieuws →
