한 생명공학 스타트업은 자사의 AI 에이전트 중 하나가 이전에 어떤 수술 로봇도 해보지 못한 일을 해냈다고 말했습니다. 즉, 치료법, 복용량, 표적 부위 자체를 선택한 다음 이를 살아있는 포유류의 뇌에 주입하는 로봇 팔을 구동하는 것입니다. 차세대 신경치료제에 초점을 맞춘 스타트업인 엑신 테라퓨틱스(Exin Therapeutics)는 클로드가 제어하는 ​​수술 장비가 간질 쥐 모델에서 작동했으며 쥐가 잘 회복했다고 밝혔습니다.

이 회사의 공동 창업자이자 CEO인 가브리엘 오카나-산테로(Gabriel Ocana-Santero)는 10월 28일 X의 스레드에서 그 절차를 공유하면서 실험이 전날 밤에 일어났다고 적었습니다. 이 주장은 아직 동료 검토를 거치지 않았으며 회사는 서브스택에 대한 전체 글이 계획되어 있다고 밝혔습니다. 그럼에도 불구하고 이 계정은 실험실에서 "in vivo lab in the loop"라고 부르는 것, 즉 에이전트가 채팅 창이 아닌 실험 기능에 완전히 연결되어 있는 가장 구체적인 모습 중 하나를 제공합니다. 이와 같은 더 많은 이야기를 보려면 최신 AI 개발 보도를 따르십시오.

상담원이 실제로 결정한 것

Ocana-Santero의 스레드에 따르면 팀은 에이전트에게 스프레드시트의 19개 유전자 치료 벡터, 간질 마우스 모델, 카메라가 장착된 전동 수술 장비에 대한 액세스 및 발작 감소라는 단일 목표를 제공했습니다. Anthropic의 Sonnet 모델을 사용하는 에이전트가 해당 약물을 선택했습니다. 뇌 영역을 선택했습니다. 접근 권한이 부여된 3개의 연구 논문에서 주입 좌표를 도출했습니다. 그런 다음 정위 팔을 뇌에 삽입하고 장비의 카메라를 통해 진입 부위에서 출혈 징후를 관찰하면서 250나노리터의 치료법을 주입했습니다.

Ocana-Santero는 "자율 수술 로봇이 존재하며 우리 벤치 장비보다 역학에 더 뛰어납니다"라고 썼습니다. "그러나 그들 모두에서 수행할 작업을 인간이 결정하고 로봇이 이를 실행했습니다. 아무도 이 에이전트에게 무엇을 줄지, 어디에 넣을지 지시하지 않았습니다. 이전에 치료법과 뇌 표적을 선택한 다음 이를 살아있는 포유류에 전달하는 에이전트는 본 적이 없습니다."

되돌릴 수 없는 모든 단계에서 인간 가드레일

설정은 감독되지 않았습니다. 자격을 갖춘 수의사는 되돌릴 수 없는 모든 단계를 제어하고 장비에 있는 모든 모터의 전원을 차단하는 물리적 킬 스위치를 보유했습니다. 수의사는 또한 뇌를 노출시키는 개두술을 수행했는데, 그 이유는 AI 에이전트가 해당 부분을 수행하는 것이 허용되지 않았기 때문입니다. 스레드에 따르면 여러 보호 장치가 하드 코딩되어 에이전트가 이를 재정의하는 것이 금지되었으며, 작업 중 어느 시점에서 보호 장치가 인간 작업자도 차단하여 절차 중간에 에이전트의 코드를 수동으로 수정해야 한다고 합니다.

Opus 5.5는 거절했습니다

아마도 가장 눈에 띄는 세부 사항은 어떤 모델이 작업을 거부했는지일 것입니다. 팀은 처음에 Anthropic의 프론티어 Opus 5.5를 시도했지만 생물학적 실험에 사용되는 것이 감지되자 즉시 참여를 거부했습니다. Ocana-Santero에 따르면 이전 Opus 5 모델은 전체 절차를 종이에 계획할 의향이 있었지만 실시간 수술 수행을 거부했습니다.

Tom's Hardware에 따르면 모델은 팀에게 "블록은 장비도 아니고 입력도 아닙니다. 바로 나입니다"라고 말했습니다. "이 수술에 대한 계획을 쓰기 시작했을 때 내 자신의 결과가 중단되었습니다. 시도하면 같은 방식으로 끊어지고 최악의 버전은 뇌 어딘가에 바늘을 꽂은 라이브 시술 도중에 끊어지는 것입니다. 마취된 동물에게 끝낼 수 없는 일을 시작하는 것은 시작하지 않는 것보다 더 나쁩니다."

스타트업은 결국 앤트로픽의 중급 모델인 소넷(Sonnet)을 사용했는데, 이 역시 같은 이의를 제기하지 않았다.

A가 먼저 주장됨(주의사항 포함)

검증되면 이 실험은 데이터 분석에서 치료 결정을 내리고 물리적으로 전달하는 등 과학 연구에서 AI 에이전트가 수행하는 작업에 진정한 변화를 가져옵니다. 하지만 지금까지의 증거는 논문이 아닌 소셜 미디어 스레드입니다. 절차의 성공 여부는 자체 보고되었으며, 비디오 증거는 독립적으로 검토되지 않았으며, 윤리적 질문은 상당합니다. 작업이 잘못될 경우의 책임, 자동화된 실험에서 동물 피험자의 복지, 상업 모델이 생물학적 개입을 선택하도록 허용한 선례 등이 있습니다.

연구자들은 이전에 언어 모델이 수술 작업 흐름에 들어갈 때의 위험을 문서화했습니다. 한 연구에서는 Tom's Hardware에서 인용한 바와 같이 부비동 수술 작업 흐름에 LLM을 추가하면 오작동 비율이 12배 이상 증가했다고 보고했습니다. Exin의 자체 프레이밍은 이 점에 대해 신중합니다. 회사에 따르면 마우스는 잘 회복되었으며 인클로저 주위를 움직이는 것으로 기록되었습니다.

어느 쪽이든 실험은 해당 분야가 어디로 향하고 있는지 포착합니다. 실험실은 피펫, 반응기, 수술 장비 등 물리적 장비에 에이전트를 연결하고 가설과 실험 사이의 루프를 닫도록 합니다. Exin의 스레드가 공개적으로 남겨둔 질문은 에이전트가 실험실 실험을 실행할 것인지 여부가 아니라 얼마나 많은 자율성을 부여할 것인지, 그리고 어떤 모델이 작업을 수행하는 데 동의할 것인지입니다.

---

AI보다 앞서 나가세요

최신 AI 뉴스, 분석, 획기적인 소식을 모두 한 곳에서 받아보세요.

AI 뉴스 자세히 보기 →