あるバイオテクノロジーの新興企業は、同社の AI エージェントの 1 つが、これまで手術ロボットが行ったことのないことを行った、つまり治療法、投与量、標的部位自体を選択し、それを生きた哺乳類の脳に注射するロボットアームを駆動したと述べた。次世代神経治療薬に焦点を当てた新興企業Exin Therapeutics社は、同社のクロード制御の手術装置がてんかんのマウスモデルで動作し、マウスは順調に回復したと述べている。

同社の共同創設者兼最高経営責任者（CEO）のガブリエル・オカナ・サンテロ氏は10月28日、Xのスレッドで手順を共有し、実験は前夜に行われたと書いた。この主張は査読されておらず、同社はサブスタックについて全面的な評価が計画されていると述べている。それでも、このアカウントは、ラボが「生体内ラボ・イン・ザ・ループ」と呼ぶもの、つまりチャットウィンドウではなく実験機能に完全に接続されたエージェントの、これまでで最も具体的な一端を垣間見ることができます。このようなストーリーをさらに知りたい場合は、最新の AI 開発に関する記事をフォローしてください。

エージェントが実際に決定したこと

Ocana-Santero のスレッドによると、チームはエージェントにスプレッドシート内の 19 個の遺伝子治療ベクター、てんかんのマウスモデル、カメラ付き電動手術装置へのアクセス、そして発作を減らすという 1 つの目標を与えました。 Anthropic の Sonnet モデルで実行されているエージェントが薬物を選択しました。脳の領域を選択しました。同社は、アクセスを許可された 3 つの研究論文から注入座標を導き出しました。次に、定位固定アームを脳内に駆動し、リグのカメラで挿入部位に出血の兆候がないか観察しながら、250 ナノリットルの治療薬を注入しました。

「自律的な手術ロボットは存在しており、それらは私たちのベンチリグよりも機械の仕組みが優れています」とオカナ＝サンテロ氏は書いている。 「しかし、それらのいずれにおいても、人間が実行する手術を決定し、ロボットがそれを実行しました。誰もこのエージェントに何を与えるべきか、どこに置くべきかを指示しませんでした...エージェントが以前に治療法と脳標的を選択し、それを生きた哺乳類に投与したことを私は知りません。」

不可逆的なステップごとに人間のガードレールが設置される

セットアップは監視されていなかったわけではありません。認可された獣医師が、すべての不可逆的なステップをゲートし、リグ内のすべてのモーターへの電力を遮断する物理的な停止スイッチを保持していました。 AI エージェントにはその部分を行うことが許可されていなかったため、獣医師は開頭手術 (脳を露出) も行いました。スレッドによると、いくつかのセーフガードはハードコーディングされていたため、エージェントがそれらをオーバーライドすることは禁止されており、操作中のある時点ではセーフガードによって人間のオペレーターもロックアウトされ、手順の途中でエージェントのコードを手動で修正する必要があったという。

Opus 5.5 はノーと言った

おそらく最も印象的な詳細は、どのモデルが仕事を拒否したかです。チームは当初、Anthropic のフロンティアである Opus 5.5 を試しましたが、生物学的実験に使用されていることが判明すると、すぐに参加を拒否しました。オカナ・サンテロ氏によると、古いオーパス 5 モデルは、手術全体を紙の上で計画することに前向きだったが、実際に手術を行うことは拒否したという。

Tom's Hardware によると、モデルは「ブロックはリグでも入力でもない。私だ」とチームに告げたという。 「この手術の計画を書き始めたときに、私自身の出力が停止しました...私が試みても、同じように切断されます。最悪の場合は、脳のどこかに針を刺して実際の手術の途中で切断されてしまいます。麻酔をかけられた動物に完了できないものを開始することは、開始しないことよりも悪いです。」

このスタートアップは最終的に Anthropic のミッドレンジ モデルである Sonnet を使用しましたが、同様の反対意見は出ませんでした。

最初に主張されますが、注意点があります

この実験が検証されれば、データの分析から治療の決定、物理的な治療の実施まで、科学研究における AI エージェントの活動が真に変化することになります。しかし、これまでのところ証拠は紙ではなくソーシャルメディアのスレッドだ。この手順の成功は自己報告であり、ビデオ証拠は独立して検討されておらず、倫理的問題は重大である。手術が失敗した場合の説明責任、自動実験における動物被験者の福祉、商業モデルに生物学的介入を選択させる前例などである。

研究者はこれまでに、言語モデルが外科ワークフローに組み込まれた場合のリスクを文書化しています。Tom's Hardware が引用したように、ある研究では、副鼻腔手術のワークフローに LLM を追加すると誤動作率が 12 倍以上増加したと報告しています。 Exin 自身のフレーミングはこの点に関して慎重である。同社によると、マウスは順調に回復し、筐体の周りを動き回っているのが記録されたという。

いずれにせよ、この実験はフィールドがどこに向かっているのかを捉えます。研究室は、ピペット、リアクター、手術装置などの物理的な機器にエージェントを配線し、仮説と実験の間のループを閉じられるようにしています。 Exinのスレッドが未解決のままにしている問題は、エージェントが実験室実験を実行するかどうかではなく、エージェントにどの程度の自律性を与えるか、そしてどのモデルがその仕事を引き受けることに同意するかということである。

---

AI の先を行く

最新の AI ニュース、分析、画期的な情報をすべて 1 か所で入手できます。

AI ニュースをもっと読む→