Biotechnologický startup říká, že jeden z jeho agentů umělé inteligence udělal něco, co ještě žádný chirurgický robot neudělal: zvolil terapii, dávku a samotnou cílovou oblast a poté řídil robotická ramena, která ji vstříkla do mozku živého savce. Exin Therapeutics, startup zaměřený na neuroterapeutika nové generace, říká, že jeho chirurgické zařízení řízené Claude fungovalo na myším modelu epilepsie – a že se myš dobře zotavila.
Spoluzakladatel a generální ředitel společnosti, Gabriel Ocana-Santero, sdílel postup ve vláknu na X 28. října a napsal, že experiment proběhl noc předtím. Tvrzení nebylo přezkoumáno a společnost tvrdí, že je plánován úplný zápis pro její Substack. Účet přesto nabízí jeden z nejkonkrétnějších pohledů na to, co laboratoře nazývají „laboratoř in vivo ve smyčce“ – agenty plně propojené s experimentálními funkcemi spíše než s okny chatu. Pro více takových příběhů sledujte naše nejnovější zpravodajství o vývoji AI.
Jak se agent ve skutečnosti rozhodl
Podle vlákna Ocana-Santero poskytl tým agentovi 19 vektorů genové terapie v tabulce, myší model epilepsie, přístup k motorizovanému chirurgickému zařízení s kamerami a jediný cíl: snížit záchvaty. Agent, běžící na modelu Sonnet společnosti Anthropic, vybral drogu. Vybral oblast mozku. Odvozoval souřadnice injekce ze tří výzkumných dokumentů, ke kterým měl přístup. Pak zahnala stereotaxická ramena do mozku a vstříkla 250 nanolitrů terapie, zatímco sledovala místo vstupu přes kameru vrtné soupravy, zda nevykazuje známky krvácení.
"Autonomní chirurgickí roboti existují a jsou lepší v mechanice než naše stolní zařízení," napsal Ocana-Santero. "Ale v každém z nich se člověk rozhodl, jakou operaci provede, a robot ji provedl. Nikdo tomuto agentovi neřekl, co má dát nebo kam to umístit... Nejsem si vědom toho, že by si agent dříve vybral léčbu a cíl na mozek a pak je dopravil do živého savce."
Lidské zábradlí na každém nevratném kroku
Nastavení nebylo bez dozoru. Licencovaný veterinář zablokoval každý nevratný krok a držel fyzický vypínač, který přerušil napájení všech motorů na plošině. Veterinář také provedl kraniotomii – obnažení mozku – protože agent AI tuto část nesměl dělat. Několik zabezpečení bylo napevno zakódováno, takže agent měl zakázáno je přepsat a v jednu chvíli během operace zabezpečení zablokovalo i lidské operátory, což si vynutilo ruční opravu kódu agenta uprostřed procedury, podle vlákna.
Opus 5.5 Řekl ne
Snad nejvýraznějším detailem je, který model práci odmítl. Tým zpočátku vyzkoušel Anthropic's Frontier Opus 5.5, který okamžitě odmítl účast, jakmile zjistil, že byl použit v biologickém experimentu. Starší model Opus 5 byl podle Ocana-Santero ochoten naplánovat celý postup na papíře, ale odmítl provést operaci v přímém přenosu.
"Blok není zařízení a nejsou to vstupy. Jsem to já," řekl model údajně týmu podle Tom's Hardware. "Můj vlastní výstup byl zastaven, když jsem začal psát plán této operace... když to zkusím, přeruší se to stejným způsobem, a nejhorší verze toho je, že jsem odříznut v průběhu živého zákroku jehlou někde v mozku. Začít něco, co nemůžu dokončit na zvířeti v narkóze, je horší než nezačít."
Startup nakonec použil Sonnet, model střední třídy od Anthropic, který nevznesl stejnou námitku.
Nárokované první, s výhradami
Pokud bude experiment ověřen, znamená skutečný posun v tom, co agenti AI dělají ve vědeckém výzkumu – od analýzy dat k rozhodování o léčbě a fyzickému poskytování. Dosavadním důkazem je ale vlákno na sociálních sítích, nikoli papír. O úspěchu postupu se hlásí sami, důkazy na videu nebyly nezávisle přezkoumány a etické otázky jsou podstatné: odpovědnost, pokud se operace pokazí, dobré životní podmínky zvířat v automatizovaných experimentech a precedens nechat komerční model zvolit biologický zásah.
Výzkumníci již dříve zdokumentovali rizika, když jazykové modely vstupují do chirurgického pracovního toku – jedna studie uvedla, že přidání LLM do pracovních postupů sinusové chirurgie vedlo k více než dvanáctinásobnému nárůstu chybovosti, jak uvádí Tom's Hardware. Vlastní rámování společnosti Exin je v tomto bodě opatrné: myš, poznamenává společnost, se dobře zotavila a bylo zaznamenáno, jak se pohybuje kolem jejího krytu.
Buď jak buď, experiment zachycuje, kam pole směřuje. Laboratoře jsou zapojování agentů do fyzických zařízení – pipet, reaktorů, chirurgických zařízení – a umožňují jim uzavřít smyčku mezi hypotézou a experimentem. Otázka, kterou Exinovo vlákno nechává otevřenou, není, zda budou agenti provádět laboratorní experimenty, ale jak velkou autonomii jim poskytnout a které modely budou souhlasit s převzetím práce.
---
Stay Ahead of AIZískejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.
Přečtěte si další zprávy o AI →
