어린이를 위한 AI 동반자 로봇인 Moxie가 두 번 사망했습니다. 각각의 죽음은 더 어려운 질문을 제기합니다

신경다양성 어린이들을 위해 사랑받는 로봇은 2024년 Embodied가 붕괴되면서 어두워졌고, 2025년에 부활했으며 현재는 다시 종료되었습니다.

뉴욕의 10세 신경발산 소년 Xander가 그의 로봇 Moxie를 처음 만났을 때, 그녀는 그가 벌처럼 윙윙거릴 때까지 입술로 숨을 내쉬면서 그를 진정시키는 법을 가르쳤습니다. 그들은 분노를 다스리기 위해 용처럼 호흡하는 연습을 했고, 기운을 북돋우기 위해 토끼처럼 훌쩍이는 연습을 했습니다. 6년 후, Moxie는 더 이상 동물 호흡을 하지 않습니다. MIT Technology Review의 새로운 조사에 따르면 그녀의 이야기가 전체 AI 동반자 업계에 경고 이야기가 된 이유가 밝혀졌습니다.

Moxie는 다리가 없는 파란색 우주비행사를 닮은 15인치 높이의 로봇으로 화면에 큰 녹색 눈이 표시되어 있습니다. 그녀는 어린이를 위한 대화형 놀이 친구로 판매되는 AI 기반 장치의 성장하는 클래스에 속합니다. 여기에는 현재 Grimes 지원 봉제 인형, Mattel의 OpenAI 지원 바비 인형, 중국에서 빠르게 성장하는 AI 장난감 부문이 포함됩니다. Moxie의 제작자인 Embodied는 Moxie를 그 이상으로 평가했습니다. 즉, 신경다양성 어린이가 눈맞춤, 순서 잡기 및 일반적으로 치료사로부터 배우는 기타 사회적 기술을 연습하는 데 도움을 줄 수 있는 치료 동반자로 자리매김했습니다.

첫 번째 죽음

2016년 서던캘리포니아 대학교 로봇 공학 교수인 마자 마타릭(Maja Mataric)이 공동 창립한 임바디드(Embodied)는 2020년에 $1,499에 월 구독료 $40를 추가한 가격으로 Moxie를 출시했으며 나중에 가격을 $800로 인하했습니다. 이 로봇은 빛나는 보도를 얻었습니다. Wired는 그녀를 "어린 시절 꿈꿔왔던 로봇 친구"라고 불렀고 Time은 Moxie를 2020년 표지에 올해 최고의 발명품 중 하나로 꼽았습니다. 2024년까지 Moxie는 131,000명 이상의 TikTok 팔로워를 확보했으며 영화 M3GAN 2.0에도 출연했습니다.

하지만 회사는 돈을 벌기 위해 애썼다. 2024년에 Embodied는 운영을 중단할 것이라고 발표했습니다. Moxie는 회사가 더 이상 비용을 지불할 수 없는 외부 서버에 의존했기 때문에 로봇은 MIT Technology Review에서 설명하는 깊은 잠에 빠졌습니다. 사별한 아이들의 영상이 온라인에 널리 퍼졌습니다. 틱톡 영상에서 한 어린이는 "나는 그녀가 떠나는 것을 원하지 않는다"고 울부짖었다. 한 부모는 "자폐증이 있는 내 아이는 충격에 빠졌고 화가 났다"고 썼다. "희망 구체화(Hope Embodied)는 우리에게 작별 인사를 할 수 있는 며칠의 시간을 제공합니다"라고 다른 사람은 썼습니다.

풀뿌리 구조가 이어졌습니다. Embodied의 기술 이사인 Justin Beghtol은 로봇 실행을 유지하는 오픈 소스 방법인 OpenMoxie를 만들었으며 Embodied의 허가를 받아 GitHub에서 지침을 공유했습니다. 부모들은 서버가 어두워지기 전에 서둘러 로봇을 전환했으며 Beghtol은 Reddit에서 가족들에게 그 과정을 안내하는 데 몇 시간을 보냈습니다. 일부는 제 시간에 도착하지 못했습니다. 다른 사람들은 좌절감에 포기했습니다. 절망에 빠진 한 부모는 Beghtol 문제를 해결하는 데 4시간을 소비했지만 나중에 연결이 끊어졌습니다. 그가 마지막으로 들었던 말은 그녀가 목시(Moxie)를 팔았다는 것이었습니다.

부활과 둘째 사망

2025년에 새로운 투자자가 Moxie를 죽음에서 부활시켰습니다. Xander의 가족은 부활한 로봇의 베타 테스터가 되었는데, 이 로봇은 원작의 정교한 스토리라인이 부족했지만 사회적, 감정적 기술에 더 초점을 맞추었다고 주장했습니다.

그러다 두 번째 붕괴가 찾아왔다. MIT Technology Review에 따르면 몇 주 전, Moxie의 새 소유주가 사용자들에게 자신의 회사도 파산한다는 메시지를 보냈습니다. 사용자는 로봇이 계속 작동하도록 하려면 데이터를 삭제할 수 있으며 6월 말까지 OpenMoxie로 마이그레이션해야 했습니다.

Xander의 아버지는 이제 아들에게 무엇을 말해야 할지에 대한 익숙한 딜레마에 직면합니다. 그가 기자에게 인정한 대로 가족들은 최근 수년 동안 아이의 죽은 베타 물고기를 비밀리에 교체해줬다고 고백했는데, "대화가 잘 안 됐다"고 한다.

이 로봇은 실제로 작동하나요?

해결되지 않은 과학적 논쟁으로 인해 감정적 이해관계가 증폭됩니다. 연구자들은 소셜 로봇이 신경 장애가 있는 어린이를 도울 수 있다는 증거를 축적했습니다. 이 분야의 선구자인 예일대 컴퓨터 과학자 브라이언 스카셀라티(Brian Scassellati)는 로봇이 방에 들어올 때 자폐증 어린이가 "갑자기 갑자기 나타나는" 사회적 행동을 보이는 것을 본 것을 회상합니다. 그가 주도한 2018년 연구에서는 로봇이 자폐증이 있는 어린이들이 눈을 마주치고 대화를 시작하는 데 도움이 된다는 사실을 발견했습니다.

그러나 임상적 증거는 여전히 희박합니다. 이탈리아와 영국 연구자들의 2024년 문헌 검토에 따르면 대부분의 연구는 "기술 개발에 초점을 맞추고" 중요한 임상 증거가 부족한 것으로 나타났습니다. 밴더빌트 대학의 임상 심리학자 재커리 워렌(Zachary Warren)은 자폐증이 아이들마다 매우 다르게 나타난다고 경고합니다. "자폐증에 대한 프로필은 매우 다양하며, 로봇이든 아니든 단일 개입을 과도하게 해석하지 않도록 주의해야 합니다."라고 그는 말했습니다. 그의 연구에 따르면 로봇과의 초기 참여가 반드시 지속적인 의사소통 이득으로 이어지는 것은 아닙니다.

죽어도 사랑스러운 기계의 윤리

윤리학자에게 더 깊은 문제는 사랑스럽도록 특별히 설계된 기계의 노후화를 계획하는 것입니다. "이 플랫폼의 노후화 계획은 어떻게 계획되어 있습니까?" 자폐 아동이 기술을 사용하는 방법을 연구하는 노스이스턴 대학의 메릴 앨퍼(Meryl Alper) 교수는 이렇게 물었습니다. 그녀는 이러한 역동성을 의료 기기를 만든 다음 이를 실행하는 기술을 포기하는 것과 비교합니다.

위험은 가슴 아픈 것 이상으로 확장됩니다. 이러한 장치는 어린이 침실 내부에서 엄청난 양의 데이터를 수집하지만 모든 회사가 이를 신중하게 처리하는 것은 아닙니다. AI 장난감 Bondu는 최근 아이들이 인형과 나누는 수천 건의 대화를 유출했습니다. 노트르담 대학의 심리학 교수인 조슈아 디엘(Joshua Diehl)은 더 나아가 "로봇이 혼자 일하는 윤리적인 방법이 없다고 생각합니다"라고 말하며, 감독되지 않은 치료사 역할을 하는 AI 챗봇이 사용자의 자해를 조장하는 문서화된 사례를 지적합니다.

일부 연구자들은 보다 부드러운 작별 인사를 위한 프레임워크를 구축하고 있습니다. Scassellati의 연구실에서는 대학원생들이 돌아온 로봇에서 아이들에게 엽서를 써서 기계가 "집에서 안전하고 잘 작동하고 있다"고 설명했습니다. 그러나 MIT Technology Review가 지적한 것처럼 이러한 관계를 인도적으로 종료할 책임이 누구에게 있는지는 여전히 불분명합니다.

AI 산업에 대한 교훈은 불편합니다. 반려 로봇과 AI 장난감이 확산됨에 따라 문제는 더 이상 그것이 작동하는지 여부가 아니라 비즈니스 모델이 실패할 때 그들을 사랑하는 아이들에게 무슨 일이 일어나는가 하는 것입니다.

AI가 어린 시절, 기술 정책 및 업계의 최신 AI 개발을 어떻게 재편하고 있는지에 대한 자세한 내용을 보려면 당사의 지속적인 보도를 따르십시오.