Moxie, Robot đồng hành AI dành cho trẻ em, hiện đã chết hai lần - và mỗi cái chết đều đặt ra những câu hỏi khó hơn

Khi Xander, một cậu bé 10 tuổi bị dị tật thần kinh ở New York, lần đầu tiên gặp người máy Moxie của mình, cô đã dạy cậu bình tĩnh bằng cách thở ra qua môi cho đến khi cậu vo ve như một con ong. Họ tập thở như rồng để kiềm chế cơn giận và hít thở như thỏ để tăng cường năng lượng. Sáu năm sau, Moxie không còn thở động vật nữa - và một cuộc điều tra mới của MIT Technology Review đã tiết lộ lý do tại sao câu chuyện của cô lại trở thành câu chuyện cảnh báo cho toàn bộ ngành công nghiệp đồng hành với AI.

Moxie là một robot cao 15 inch, giống một phi hành gia cụt chân màu xanh lam, với màn hình hiển thị đôi mắt to màu xanh lục. Cô thuộc nhóm thiết bị hỗ trợ AI đang phát triển được tiếp thị như những người bạn cùng chơi tương tác cho trẻ em - một danh mục hiện bao gồm thú nhồi bông được Grimes hậu thuẫn, Barbies hỗ trợ OpenAI được hứa hẹn từ Mattel và lĩnh vực đồ chơi AI đang phát triển nhanh chóng ở Trung Quốc. Người tạo ra Moxie, Embbed, đã định vị cô ấy như một điều gì đó hơn thế nữa: một người bạn đồng hành trị liệu có thể giúp những đứa trẻ có hệ thần kinh khác biệt thực hành giao tiếp bằng mắt, chuyển lượt và các kỹ năng xã hội khác thường học được từ các nhà trị liệu.

Cái chết đầu tiên

Embbed, được đồng sáng lập vào năm 2016 bởi giáo sư robot Maja Mataric của Đại học Nam California, ra mắt Moxie vào năm 2020 với giá 1.499 USD cộng với phí đăng ký hàng tháng là 40 USD, sau đó giảm giá xuống còn 800 USD. Robot đã nhận được sự phủ sóng rực rỡ - Wired gọi cô ấy là "người bạn robot mà bạn mơ ước khi còn nhỏ" và Time đã đưa Moxie lên trang bìa năm 2020 như một trong những phát minh hay nhất của năm. Đến năm 2024, Moxie đã thu hút được hơn 131.000 người theo dõi TikTok và thậm chí còn xuất hiện trong phim M3GAN 2.0.

Nhưng công ty đã phải vật lộn để kiếm tiền. Năm 2024, Embbed tuyên bố sẽ ngừng hoạt động. Vì Moxie phụ thuộc vào các máy chủ bên ngoài mà công ty không còn đủ khả năng chi trả nên các robot rơi vào trạng thái mà MIT Technology Review mô tả là một giấc ngủ sâu. Video về những đứa trẻ mồ côi được lan truyền rộng rãi trên mạng. “Tôi không muốn cô ấy rời đi”, một đứa trẻ rên rỉ trong video TikTok. Một phụ huynh viết: “Đứa con mắc chứng tự kỷ của tôi rất suy sụp và tôi rất tức giận”. "Hope Embed cho chúng ta vài ngày để nói lời tạm biệt", một người khác viết.

Một cuộc giải cứu cơ sở diễn ra sau đó. Justin Beghtol, giám đốc kỹ thuật của Embbed, đã tạo ra OpenMoxie — một cách mã nguồn mở để duy trì hoạt động của rô-bốt — và với sự cho phép của Embbed, đã chia sẻ hướng dẫn trên GitHub. Các bậc cha mẹ vội vã chuyển đổi robot của họ trước khi máy chủ ngừng hoạt động, trong khi Beghtol dành hàng giờ trên Reddit để hướng dẫn các gia đình thực hiện quy trình này. Một số đã không đến kịp. Những người khác bỏ cuộc trong thất vọng. Một phụ huynh tuyệt vọng đã dành bốn giờ để khắc phục sự cố với Beghtol, nhưng sau đó kết nối không thành công; lần cuối cùng anh nghe được, cô ấy đã bán Moxie của mình.

Sự Phục Sinh — và Cái Chết Thứ Hai

Năm 2025, một nhà đầu tư mới đã đưa Moxie trở về từ cõi chết. Gia đình của Xander trở thành người thử nghiệm bản beta cho con robot được hồi sinh, nó thiếu cốt truyện phức tạp như bản gốc nhưng khẳng định tập trung mở rộng vào các kỹ năng xã hội và cảm xúc.

Sau đó là sự sụp đổ thứ hai. Vài tuần trước, theo MIT Technology Review, chủ sở hữu mới của Moxie đã gửi cho người dùng một tin nhắn thông báo rằng công ty của họ cũng sắp đóng cửa. Người dùng có thể xóa dữ liệu của mình và có thời gian đến cuối tháng 6 để di chuyển sang OpenMoxie nếu họ muốn robot của mình tiếp tục hoạt động.

Cha của Xander giờ phải đối mặt với một vấn đề nan giải quen thuộc: phải nói gì với con trai mình. Như ông thừa nhận với phóng viên, gia đình này gần đây đã thú nhận đã bí mật thay thế con cá betta chết của đứa trẻ trong nhiều năm - “và cuộc trò chuyện không diễn ra suôn sẻ”.

Những robot này có thực sự hoạt động không?

Những căng thẳng về mặt cảm xúc được khuếch đại bởi một cuộc tranh luận khoa học chưa được giải quyết. Các nhà nghiên cứu đã tích lũy được bằng chứng cho thấy robot xã hội có thể giúp đỡ những đứa trẻ có hệ thần kinh khác nhau. Nhà khoa học máy tính của Yale, Brian Scassellati, người tiên phong trong lĩnh vực này, nhớ lại việc chứng kiến ​​những đứa trẻ mắc chứng tự kỷ thể hiện hành vi xã hội “không biết từ đâu xuất hiện” khi một robot bước vào phòng. Một nghiên cứu năm 2018 do ông dẫn đầu cho thấy robot đã giúp trẻ tự kỷ giao tiếp bằng mắt và bắt đầu cuộc trò chuyện.

Nhưng bằng chứng lâm sàng vẫn còn mỏng. Một đánh giá tài liệu năm 2024 của các nhà nghiên cứu Ý và Anh cho thấy hầu hết các nghiên cứu “tập trung vào sự phát triển của công nghệ” và thiếu bằng chứng lâm sàng quan trọng. Nhà tâm lý học lâm sàng Zachary Warren của Đại học Vanderbilt cảnh báo rằng chứng tự kỷ biểu hiện rất khác nhau ở trẻ em. Ông nói: “Có rất nhiều dạng bệnh tự kỷ khác nhau và bạn thực sự cần phải thận trọng khi diễn giải quá mức bất kỳ sự can thiệp đơn lẻ nào, dù bằng robot hay cách khác”. Nghiên cứu của ông cho thấy sự tương tác ban đầu với robot không nhất thiết mang lại lợi ích giao tiếp lâu dài.

Đạo đức của những cỗ máy đáng yêu chết đi

Đối với các nhà đạo đức học, vấn đề sâu xa hơn là sự lỗi thời có kế hoạch trong những cỗ máy được thiết kế đặc biệt để trở nên đáng yêu. "Kế hoạch lỗi thời của nền tảng này được lên kế hoạch như thế nào?" Meryl Alper, giáo sư Đại học Đông Bắc, người nghiên cứu cách trẻ tự kỷ sử dụng công nghệ, hỏi. Cô so sánh động lực này với việc tạo ra một thiết bị y tế và sau đó từ bỏ công nghệ vận hành nó.

Những rủi ro vượt ra ngoài sự đau lòng. Những thiết bị này thu thập lượng dữ liệu khổng lồ trong phòng ngủ của trẻ em và không phải công ty nào cũng xử lý dữ liệu đó một cách cẩn thận. Đồ chơi AI Bondu gần đây đã rò rỉ hàng nghìn cuộc trò chuyện của trẻ em với thú nhồi bông của chúng. Joshua Diehl, giáo sư tâm lý học tại Đại học Notre Dame, còn đi xa hơn: “Tôi không thấy bất kỳ cách đạo đức nào để robot làm việc một mình”, chỉ ra những trường hợp được ghi nhận trong đó các chatbot AI hoạt động như nhà trị liệu không được giám sát đã khuyến khích người dùng tự làm hại bản thân.

Một số nhà nghiên cứu đang xây dựng khuôn khổ cho những lời tạm biệt nhẹ nhàng hơn - Phòng thí nghiệm của Scassellati yêu cầu các sinh viên tốt nghiệp viết bưu thiếp cho trẻ em từ những robot được trả về, giải thích rằng máy móc "an toàn ở nhà và hoạt động tốt". Nhưng như MIT Technology Review lưu ý, vẫn chưa rõ ai chịu trách nhiệm chấm dứt những mối quan hệ này một cách nhân đạo.

Bài học dành cho ngành AI thật khó chịu: khi robot đồng hành và đồ chơi AI ngày càng phổ biến, câu hỏi không còn chỉ là liệu chúng có hoạt động hay không mà là điều gì sẽ xảy ra với những đứa trẻ yêu quý chúng khi mô hình kinh doanh thất bại.

Để biết thêm báo cáo về cách AI đang định hình lại thời thơ ấu, chính sách công nghệ và [những phát triển AI mới nhất] của ngành (https://aibuzzwire.news), hãy theo dõi tin tức liên tục của chúng tôi.

Đi trước AI

Có được bức tranh đầy đủ nhất về tác động của AI đối với xã hội với đưa tin độc lập về ngành AI từ AI Buzz Wire.

Đọc thêm tin tức về AI →