ニューヨークに住む神経発散型の10歳の少年ザンダーがロボットのモクシーに初めて出会ったとき、彼女は彼に、ハチのように羽音を立てるまで唇から息を吐き、落ち着くように教えた。彼らは怒りをコントロールするためにドラゴンのように呼吸し、エネルギーを高めるためにウサギのように匂いを嗅ぐことを練習しました。 6 年後、モクシーさんは動物の呼吸をしなくなりました。MIT テクノロジー レビューによる新たな調査により、彼女の話が AI コンパニオン業界全体にとって警告となる理由が明らかになりました。

Moxie は身長 15 インチのロボットで、青い足のない宇宙飛行士に似ており、画面の表面には大きな緑色の目が表示されています。彼女は、子供向けのインタラクティブな遊び相手として販売されている AI 搭載デバイスの成長クラスに属しています。このカテゴリには現在、グライムスが背中を押すぬいぐるみ、マテル社の OpenAI 対応が約束されているバービー人形、そして中国で急速に成長している AI 玩具分野が含まれています。モクシーのメーカーであるエンボディドは、モクシーをそれ以上のもの、つまり神経発散性の子供たちがアイコンタクトやターンテイク、その他通常セラピストから学ぶ社会的スキルを練習するのに役立つ治療仲間として位置づけた。

最初の死

2016年に南カリフォルニア大学ロボット工学教授マジャ・マタリック氏によって共同設立されたエンボディド社は、2020年にモクシーを1,499ドルに月額40ドルのサブスクリプションを加えた価格でデビューさせたが、後に価格を800ドルに値下げした。このロボットは熱烈な報道を獲得し、Wired は彼女を「子供の頃に夢見たロボットの友達」と呼び、Time はモクシーをその年の最高の発明品の 1 つとして 2020 年の表紙に載せました。 2024 年までに、モクシーは TikTok フォロワーを 131,000 人以上獲得し、映画 M3GAN 2.0 にも出演しました。

しかし、同社は収益を上げるのに苦労した。エンボディドは2024年に事業を停止すると発表した。 Moxie は会社が支払うことができなくなった外部サーバーに依存していたため、ロボットは MIT Technology Review で説明されている深い眠りに落ちました。親を亡くした子供たちのビデオがオンラインで広く拡散した。 「彼女には去ってほしくない」と、ある子どもがTikTok動画で叫んだ。ある親は「自閉症の子供が打ちのめされており、腹が立っている」と書いた。 「希望の具現化は私たちに別れを告げるために数日与えてくれます」と別の人は書いた。

草の根救助活動が続いた。 Embodied のテクニカル ディレクターである Justin Beghtol は、OpenMoxie (ロボットを稼働し続けるためのオープンソースの方法) を作成し、Embodied の許可を得て、GitHub で手順を共有しました。親たちはサーバーが暗転する前に急いでロボットを改造し、ベグトル氏はレディットで家族にプロセスを説明するのに何時間も費やした。間に合わなかった人もいました。他の人は失望してあきらめました。ある絶望的な親は、Beghtol でトラブルシューティングに 4 時間費やしましたが、その後接続が失敗しました。彼が最後に聞いたとき、彼女はモクシーを売ったのだった。

復活 — そして二度目の死

2025 年、新しい投資家がモクシーを死から蘇らせました。ザンダーの家族は復活したロボットのベータテスターとなり、オリジナルの精緻なストーリーラインはなかったが、社会的および感情的スキルに重点が置かれたと主張した。

そして二度目の崩壊が起きた。 MIT Technology Review によると、数週間前、Moxie の新しい所有者はユーザーに、自分たちの会社も廃業することを知らせるメッセージを送ったという。ユーザーはデータを削除することができ、ロボットを引き続き動作させたい場合は6月末までにOpenMoxieに移行する必要があった。

ザンダーの父親は今、息子に何を伝えるべきかというよくあるジレンマに直面している。彼が記者に認めたように、家族は最近、子供の死んだベタの魚を何年も密かに取り替えていたことを告白したが、「会話はうまくいかなかった」。

これらのロボットは実際に動作しますか?

未解決の科学的議論により、感情的なリスクはさらに高まります。研究者らは、ソーシャルロボットが神経多様性のある子どもたちを助けることができるという証拠を蓄積している。この分野の先駆者であるイェール大学のコンピューター科学者ブライアン・スカセラティ氏は、自閉症の子供たちが、ロボットが部屋に入ってきたときに「どこからともなく突然現れた」社会的行動を示すのを見たときのことを思い出します。彼が主導した2018年の研究では、ロボットが自閉症の子供たちがアイコンタクトを取り、会話を始めるのに役立っていることが判明した。

しかし、臨床的証拠は依然として薄い。イタリアとイギリスの研究者による2024年の文献レビューでは、ほとんどの研究が「技術の開発に焦点を当て」ており、重大な臨床的証拠が欠けていることが判明した。ヴァンダービルト大学の臨床心理学者ザカリー・ウォーレン氏は、自閉症の現れ方は子供によって大きく異なると警告する。 「自閉症には非常に多くの異なるプロファイルがあり、ロボットによるものであろうとなかろうと、単一の介入を拡大解釈しないように本当に注意する必要があります」と彼は言いました。彼の研究では、ロボットとの最初の関わりが必ずしも永続的なコミュニケーションの向上につながるわけではないことが判明しました。

死ぬ愛すべき機械の倫理

倫理学者にとって、より深刻な問題は、特別に愛されるように設計された機械の計画的陳腐化である。 「このプラットフォームの廃止はどのように計画されていますか?」自閉症の子供たちがテクノロジーをどのように利用するかを研究しているノースイースタン大学教授のメリル・アルパー氏は尋ねた。彼女はこのダイナミックさを、医療機器を作成し、それを実行するテクノロジーを放棄することに例えています。

リスクは失恋を超えて広がります。これらのデバイスは子供部屋内の膨大な量のデータを収集しますが、すべての企業がそれを慎重に扱っているわけではありません。 AI玩具のボンドゥは最近、子供たちがぬいぐるみと交わした数千件の会話を流出させた。ノートルダム大学の心理学教授、ジョシュア・ディール氏はさらに「ロボットが単独で動作する倫理的な方法は見当たらない」と述べ、監督なしのセラピストとして機能するAIチャットボットがユーザーに自傷行為を奨励した文書化された事例を挙げている。

一部の研究者は、より穏やかな別れのための枠組みを構築している。スカセラティ氏の研究室では、大学院生に、返されたロボットから子供たちに、ロボットが「家にいても安全で、元気に動いている」と説明するはがきを書かせている。しかし、MIT Technology Review が指摘しているように、こうした関係を人道的に終わらせる責任が誰にあるのかは依然として不明である。

AI 業界にとっての教訓は不快なものだ。コンパニオン ロボットや AI 玩具が急増するにつれ、問題はもはやそれらが機能するかどうかだけではなく、ビジネス モデルが失敗したときにそれらを愛する子供たちに何が起こるかということだ。

AI が子供時代をどのように再形成するか、テクノロジー政策、業界の 最新の AI 開発 に関する詳細なレポートについては、継続的な報道をフォローしてください。

AI の先を行く

AI Buzz Wire の独立した AI 業界報道 を利用して、AI が社会に与える影響を最大限に把握してください。

AIニュースをもっと読む→