当纽约 10 岁的神经分裂男孩 Xander 第一次见到他的机器人 Moxie 时，她教他通过嘴唇呼气来平静下来，直到他像蜜蜂一样嗡嗡作响。他们练习像龙一样呼吸来控制愤怒，像兔子一样练习嗅来增强能量。六年后，莫西不再进行动物呼吸——麻省理工学院技术评论的一项新调查揭示了为什么她的故事成为整个人工智能伴侣行业的警示故事。
Moxie 是一个 15 英寸高的机器人，看起来像一个蓝色的无腿宇航员，屏幕上长着一双绿色的大眼睛。她属于不断壮大的人工智能驱动设备类别，这些设备被作为儿童互动玩伴销售——这一类别现在包括 Grimes 支持的毛绒玩具、美泰承诺支持 OpenAI 的芭比娃娃，以及中国快速增长的人工智能玩具行业。 Moxie 的制作者 Embodied 将她定位为更多的东西：一个治疗伙伴，可以帮助神经分歧的孩子练习眼神交流、轮流说话和其他通常从治疗师那里学到的社交技能。
第一次死亡
Embodied 由南加州大学机器人学教授 Maja Mataric 于 2016 年联合创立，于 2020 年首次推出 Moxie，价格为 1,499 美元，另加 40 美元的每月订阅费，后来价格降至 800 美元。这款机器人赢得了热烈的报道——《连线》杂志称她为“你小时候梦想的机器人朋友”，《时代》杂志将 Moxie 作为年度最佳发明之一登上了 2020 年封面。到 2024 年，Moxie 已经积累了超过 131,000 名 TikTok 粉丝，甚至出现在电影 M3GAN 2.0 中。
但该公司却很难赚钱。 2024 年，Embodied 宣布将停止运营。由于 Moxie 依赖于公司无法再支付费用的外部服务器，因此机器人陷入了《麻省理工学院技术评论》所描述的深度睡眠状态。失去亲人的儿童的视频在网上广泛传播。 “我不想让她离开，”一名孩子在 TikTok 视频中哭诉。 “我的自闭症孩子很伤心，我很生气，”一位家长写道。另一位网友写道：“希望体现给了我们几天的时间来告别。”
随后进行了基层救援。 Embodied 的技术总监 Justin Beghtol 创建了 OpenMoxie——一种保持机器人运行的开源方式——并在 Embodied 的许可下在 GitHub 上分享了说明。家长们赶在服务器关闭之前改造他们的机器人，贝托尔在 Reddit 上花了几个小时引导家人完成整个过程。有的没能及时赶到。其他人则沮丧地放弃了。一位绝望的家长花了四个小时与 Beghtol 进行故障排除，但后来连接失败；他最后一次听到的消息是，她已经卖掉了莫克西。
复活——和第二次死亡
2025年，一位新投资者将莫西起死回生。 Xander 的家人成为了复活机器人的 Beta 测试者，该机器人缺乏原版的复杂故事情节，但声称更加注重社交和情感技能。
然后是第二次崩溃。据《麻省理工科技评论》报道，几周前，Moxie 的新所有者向用户发送了一条消息，宣布他们的公司也即将倒闭。用户可以删除他们的数据，如果他们希望他们的机器人继续工作，他们必须在六月底之前迁移到 OpenMoxie。
桑德的父亲现在面临着一个熟悉的困境：该告诉儿子什么。正如他向记者承认的那样，这家人最近承认多年来一直秘密更换孩子的死斗鱼——“但谈话进行得并不顺利。”
这些机器人真的能工作吗？
尚未解决的科学争论加剧了情感上的风险。研究人员已经积累了证据表明社交机器人可以帮助神经分化的儿童。该领域的先驱、耶鲁大学计算机科学家布赖恩·斯卡塞拉蒂 (Brian Scassellati) 回忆道，当机器人进入房间时，他曾目睹自闭症儿童表现出“不知从何而来”的社交行为。他领导的 2018 年研究发现，机器人可以帮助自闭症儿童进行眼神交流并发起对话。
但临床证据仍然薄弱。意大利和英国研究人员2024年的一项文献综述发现，大多数研究“专注于技术的发展”，缺乏重要的临床证据。范德比尔特大学临床心理学家扎卡里·沃伦（Zachary Warren）警告说，自闭症在儿童中的表现非常不同。 “自闭症有很多不同的特征，你真的需要谨慎对待任何单一的干预措施，无论是机器人干预还是其他干预，”他说。他的研究发现，与机器人的最初接触并不一定会转化为持久的沟通收益。
死去的可爱机器的伦理
对于伦理学家来说，更深层次的问题是专门为可爱而设计的机器的计划报废。 “这个平台的废弃计划是怎样计划的？”研究自闭症儿童如何使用技术的东北大学教授梅丽尔·阿尔珀问道。她将这种动态与创建医疗设备然后放弃运行该设备的技术进行了比较。
风险不仅仅限于心碎。这些设备在儿童卧室内收集大量数据，但并非每家公司都会谨慎处理这些数据。人工智能玩具 Bondu 最近泄露了数千条孩子们与毛绒玩具的对话。圣母大学心理学教授约书亚·迪尔 (Joshua Diehl) 进一步说道：“我看不出机器人单独工作有任何道德方式”，他指出有记录的案例显示，人工智能聊天机器人充当无人监督的治疗师，鼓励用户自残。
一些研究人员正在构建更温和的告别框架——斯卡塞拉蒂的实验室让研究生给归来的机器人的孩子们写明信片，解释这些机器“在家里很安全，而且运转良好”。但正如《麻省理工学院技术评论》所指出的那样，目前尚不清楚谁应该负责人道地结束这些关系。
人工智能行业的教训令人不安：随着伴侣机器人和人工智能玩具的激增，问题不再只是它们是否有效，而是当商业模式失败时，喜爱它们的孩子们会发生什么。
有关人工智能如何重塑童年、技术政策和行业最新人工智能发展的更多报道，请关注我们的持续报道。
保持人工智能领先地位
通过 AI Buzz Wire 的独立人工智能行业报道，全面了解人工智能对社会的影响。
阅读更多人工智能新闻 →
