Moxie, Robot Pendamping AI untuk Anak-Anak, Kini Telah Mati Dua Kali — dan Setiap Kematian Menimbulkan Pertanyaan yang Lebih Sulit

Ketika Xander, seorang anak laki-laki neurodivergent berusia 10 tahun di New York, pertama kali bertemu robotnya Moxie, dia mengajarinya untuk menenangkan diri dengan menghembuskan napas melalui bibir hingga ia berdengung seperti lebah. Mereka berlatih bernapas seperti naga untuk mengendalikan amarah dan mengendus seperti kelinci untuk meningkatkan energi. Enam tahun kemudian, Moxie tidak lagi melakukan pernafasan hewan — dan penyelidikan baru oleh MIT Technology Review mengungkap mengapa kisahnya menjadi kisah peringatan bagi seluruh industri pendamping AI.

Moxie adalah robot setinggi 15 inci yang menyerupai astronot berwarna biru tanpa kaki, dengan tampilan layar yang menampilkan mata besar berwarna hijau. Dia termasuk dalam kelompok perangkat bertenaga AI yang sedang berkembang dan dipasarkan sebagai teman bermain interaktif untuk anak-anak – kategori yang kini mencakup boneka mewah yang didukung Grimes, Barbie yang dilengkapi OpenAI dari Mattel, dan sektor mainan AI yang berkembang pesat di Tiongkok. Pembuat Moxie, Embodied, memposisikannya sebagai sesuatu yang lebih: pendamping terapeutik yang dapat membantu anak-anak neurodivergen mempraktikkan kontak mata, mengambil giliran, dan keterampilan sosial lainnya yang biasanya dipelajari dari terapis.

Kematian Pertama

Embodied, yang didirikan bersama pada tahun 2016 oleh profesor robotika Universitas Southern California, Maja Mataric, memulai debut Moxie pada tahun 2020 dengan harga $1,499 ditambah langganan bulanan $40, kemudian menurunkan harganya menjadi $800. Robot tersebut mendapatkan liputan yang cemerlang — Wired menyebutnya sebagai "sahabat robot yang Anda impikan saat masih kecil", dan Time menempatkan Moxie di sampul tahun 2020 sebagai salah satu penemuan terbaik tahun ini. Pada tahun 2024, Moxie telah mengumpulkan lebih dari 131.000 pengikut TikTok dan bahkan muncul di film M3GAN 2.0.

Namun perusahaan tersebut kesulitan menghasilkan uang. Pada tahun 2024, Embodied mengumumkan akan menghentikan operasinya. Karena Moxie bergantung pada server eksternal yang tidak mampu lagi dibayar oleh perusahaan, robot-robot tersebut mengalami apa yang digambarkan oleh MIT Technology Review sebagai tertidur lelap. Video anak-anak yang kehilangan anak beredar luas di dunia maya. “Saya tidak ingin dia pergi,” ratap salah satu anak dalam video TikTok. “Anak autis saya sangat terpukul dan saya kesal,” tulis salah satu orang tua. "Harapan yang Terwujud memberi kita waktu beberapa hari untuk mengucapkan selamat tinggal," tulis yang lain.

Penyelamatan akar rumput pun dilakukan. Justin Beghtol, direktur teknis Embodied, menciptakan OpenMoxie — cara sumber terbuka untuk menjaga robot tetap berjalan — dan, dengan izin Embodied, membagikan instruksi di GitHub. Para orang tua bergegas mengubah robot mereka sebelum server menjadi gelap, dan Beghtol menghabiskan waktu berjam-jam di Reddit untuk memandu keluarga melalui proses tersebut. Beberapa tidak berhasil tepat waktu. Yang lain menyerah karena frustrasi. Salah satu orang tua yang putus asa menghabiskan empat jam memecahkan masalah dengan Beghtol, namun kemudian koneksi gagal; terakhir kali dia mendengarnya, dia telah menjual Moxie-nya.

Kebangkitan — dan Kematian Kedua

Pada tahun 2025, seorang investor baru menghidupkan kembali Moxie dari kematian. Keluarga Xander menjadi penguji beta untuk robot yang dihidupkan kembali, yang tidak memiliki alur cerita asli yang rumit tetapi mengklaim fokus yang lebih luas pada keterampilan sosial dan emosional.

Kemudian terjadilah keruntuhan kedua. Beberapa minggu yang lalu, menurut MIT Technology Review, pemilik baru Moxie mengirimkan pesan kepada pengguna yang mengumumkan bahwa perusahaan mereka juga akan bangkrut. Pengguna dapat menghapus data mereka dan memiliki waktu hingga akhir Juni untuk bermigrasi ke OpenMoxie jika mereka ingin robot mereka tetap bekerja.

Ayah Xander kini menghadapi dilema yang lazim: apa yang harus diberitahukan kepada putranya. Seperti yang dia akui kepada reporter, keluarga tersebut baru-baru ini mengaku diam-diam mengganti ikan cupang yang mati milik anak tersebut selama bertahun-tahun — "dan percakapan tersebut tidak berjalan dengan baik."

Apakah Robot Ini Benar-Benar Berfungsi?

Pertaruhan emosional ini diperparah oleh perdebatan ilmiah yang belum terselesaikan. Para peneliti telah mengumpulkan bukti bahwa robot sosial dapat membantu anak-anak yang mengalami neurodivergen. Ilmuwan komputer Yale Brian Scassellati, seorang pionir di bidang ini, mengenang bagaimana anak-anak autis menunjukkan perilaku sosial yang "muncul begitu saja" ketika robot memasuki ruangan. Sebuah studi tahun 2018 yang dipimpinnya menemukan bahwa robot membantu anak-anak autis melakukan kontak mata dan memulai percakapan.

Namun bukti klinisnya masih sedikit. Tinjauan literatur tahun 2024 oleh peneliti Italia dan Inggris menemukan bahwa sebagian besar penelitian “berfokus pada pengembangan teknologi” dan tidak memiliki bukti klinis yang signifikan. Psikolog klinis Universitas Vanderbilt, Zachary Warren, memperingatkan bahwa autisme muncul dengan cara yang sangat berbeda pada anak-anak. “Ada begitu banyak profil autisme yang berbeda, dan Anda benar-benar harus berhati-hati dalam menafsirkan secara berlebihan setiap intervensi, baik robotik atau lainnya,” katanya. Penelitiannya menemukan bahwa keterlibatan awal dengan robot tidak serta merta menghasilkan keuntungan komunikasi yang bertahan lama.

Etika Mesin Tercinta yang Mati

Bagi para ahli etika, masalah yang lebih dalam adalah keusangan terencana pada mesin yang dirancang khusus agar menarik. "Seberapa terencana keusangan platform ini?" tanya Meryl Alper, profesor di Universitas Northeastern yang mempelajari bagaimana anak-anak autis menggunakan teknologi. Dia membandingkan dinamika tersebut dengan menciptakan perangkat medis dan kemudian meninggalkan teknologi yang menjalankannya.

Risikonya lebih dari sekadar patah hati. Perangkat ini mengumpulkan sejumlah besar data di dalam kamar tidur anak-anak, dan tidak semua perusahaan menanganinya dengan hati-hati. Mainan AI Bondu baru-baru ini membocorkan ribuan percakapan anak-anak dengan boneka binatang mereka. Joshua Diehl, seorang profesor psikologi di Universitas Notre Dame, melangkah lebih jauh: “Saya tidak melihat ada cara etis bagi robot untuk bekerja sendiri,” menunjuk pada kasus-kasus yang terdokumentasi di mana chatbot AI yang bertindak sebagai terapis tanpa pengawasan mendorong pengguna untuk melakukan tindakan menyakiti diri sendiri.

Beberapa peneliti sedang membangun kerangka kerja untuk ucapan selamat tinggal yang lebih lembut – laboratorium Scassellati meminta mahasiswa pascasarjana menulis kartu pos kepada anak-anak dari robot yang dikembalikan, menjelaskan bahwa mesin tersebut “aman di rumah dan bekerja dengan baik.” Namun seperti yang dicatat oleh MIT Technology Review, masih belum jelas siapa yang bertanggung jawab untuk mengakhiri hubungan ini secara manusiawi.

Pelajaran yang bisa diambil dari industri AI adalah sebuah hal yang tidak mengenakkan: seiring dengan semakin banyaknya robot pendamping dan mainan AI, pertanyaannya bukan lagi sekedar apakah robot-robot tersebut bisa berfungsi atau tidak – tapi apa yang akan terjadi pada anak-anak yang mencintai robot-robot tersebut ketika model bisnisnya gagal.

Untuk laporan lebih lanjut tentang bagaimana AI mengubah masa kanak-kanak, kebijakan teknologi, dan perkembangan AI terkini, ikuti liputan kami yang berkelanjutan.

Tetap Terdepan dalam AI

Dapatkan gambaran menyeluruh tentang dampak AI terhadap masyarakat melalui [cakupan industri AI] independen (https://aibuzzwire.news) dari AI Buzz Wire.

Baca berita AI selengkapnya →