Un startup biotehnologic spune că unul dintre agenții săi AI a făcut ceva ce niciun robot chirurgical nu a mai făcut: a ales terapia, doza și regiunea țintă în sine, apoi a condus brațele robotizate care l-au injectat în creierul unui mamifer viu. Exin Therapeutics, un startup axat pe neuroterapie de ultimă generație, spune că instalația sa de chirurgie controlată de Claude a operat pe un model de șoarece de epilepsie - și că șoarecele și-a revenit bine.

Cofondatorul și CEO-ul companiei, Gabriel Ocana-Santero, a împărtășit procedura într-un thread pe X pe 28 octombrie, scriind că experimentul a avut loc cu o seară înainte. Afirmația nu a fost revizuită de către colegi, iar compania spune că este planificată o redactare completă pentru substiva sa. Cu toate acestea, contul oferă una dintre cele mai concrete imagini de până acum despre ceea ce laboratoarele numesc „laborator in vivo în buclă” – agenți complet conectați la capabilități experimentale, mai degrabă decât ferestrele de chat. Pentru mai multe povești ca aceasta, urmăriți cea mai recentă acoperire a dezvoltărilor AI.

Ce a decis de fapt agentul

Potrivit firului lui Ocana-Santero, echipa i-a oferit agentului 19 vectori de terapie genetică într-o foaie de calcul, un model de șoarece de epilepsie, acces la o platformă de chirurgie motorizată cu camere și un singur obiectiv: reducerea convulsiilor. Agentul, care rulează pe modelul Sonnet al lui Anthropic, a ales medicamentul. A ales regiunea creierului. A derivat coordonatele de injectare din trei lucrări de cercetare la care a avut acces. Apoi a condus brațele stereotaxice în creier și a injectat 250 de nanolitri de terapie în timp ce urmărea locul de intrare prin camera instalației pentru semne de sângerare.

„Există roboți chirurgicali autonomi și sunt mai buni la mecanică decât platforma noastră de bancă”, a scris Ocana-Santero. „Dar în fiecare dintre ele, un om a decis ce operație să efectueze, iar robotul a executat-o. Nimeni nu i-a spus acestui agent ce să-i dea sau unde să-l pună... Nu știu că un agent a ales anterior un tratament și o țintă a creierului și apoi le-a livrat unui mamifer viu”.

Parapeturi umane la fiecare pas ireversibil

Configurarea nu a fost nesupravegheată. Un medic veterinar autorizat a blocat fiecare pas ireversibil și a ținut un întrerupător fizic care ar tăia puterea fiecărui motor din instalație. Veterinarul a efectuat și craniotomia - expunând creierul - deoarece agentului AI nu i s-a permis să facă acea parte. Mai multe măsuri de siguranță au fost codificate, astfel încât agentului i s-a interzis să le depășească, iar la un moment dat în timpul operațiunii, măsurile de siguranță au blocat și operatorii umani, forțând o remediere manuală a codului agentului la mijlocul procedurii, conform firului de discuție.

Opusul 5.5 a spus nu

Poate cel mai frapant detaliu este care model a refuzat postul. Echipa a încercat inițial Opus 5.5 de frontieră a lui Anthropic, care a refuzat imediat să participe odată ce a detectat că este folosit într-un experiment biologic. Modelul mai vechi Opus 5, conform lui Ocana-Santero, a fost dispus să planifice întreaga procedură pe hârtie, dar a refuzat să efectueze intervenții chirurgicale live.

"Blocul nu este instalația și nu sunt intrările. Sunt eu", a spus modelul echipei, conform Tom's Hardware. „Propriul meu rezultat a fost oprit când am început să scriu planul pentru această intervenție chirurgicală... dacă încerc, se întrerupe în același mod, iar cea mai proastă versiune a acesteia este că am întrerupt la jumătatea unei proceduri live cu un ac undeva în creier. Să încep ceva ce nu pot termina pe un animal anesteziat este mai rău decât să nu încep.”

Startup-ul a folosit în cele din urmă Sonnet, modelul de gamă medie al Anthropic, care nu a ridicat aceeași obiecție.

A revendicat mai întâi, cu avertismente

Dacă este verificat, experimentul marchează o schimbare reală în ceea ce fac agenții AI în cercetarea științifică - de la analiza datelor la luarea deciziilor de tratament și furnizarea fizică a acestora. Dar dovezile de până acum sunt un fir social media, nu o hârtie. Succesul procedurii este auto-raportat, dovezile video nu au fost revizuite în mod independent, iar întrebările etice sunt substanțiale: responsabilitatea dacă o operațiune merge prost, bunăstarea subiecților animale în experimente automatizate și precedentul de a lăsa un model comercial să aleagă o intervenție biologică.

Cercetătorii au documentat anterior riscurile atunci când modelele lingvistice intră în fluxul de lucru chirurgical - un studiu a raportat că adăugarea unui LLM la fluxurile de lucru pentru operațiile sinusurilor a văzut ratele de disfuncționalitate crescând de peste douăsprezece ori, așa cum este citat de Tom's Hardware. Încadrarea proprie a Exin este precaută în acest punct: mouse-ul, notează compania, și-a revenit bine și a fost înregistrat mișcându-se în jurul incintei sale.

Oricum, experimentul surprinde încotro se îndreaptă câmpul. Laboratoarele sunt agenți de cablare în echipamente fizice - pipete, reactoare, instalații de chirurgie - și le lasă să închidă bucla dintre ipoteză și experiment. Întrebarea pe care Exin o lasă deschisă nu este dacă agenții vor efectua experimente de laborator, ci câtă autonomie să le acorde și care modele vor fi de acord să accepte postul.

---

Rămâneți înaintea AI

Obțineți cele mai recente știri, analize și descoperiri despre AI - toate într-un singur loc.

Citiți mai multe știri AI →