Startup biotechnologiczny twierdzi, że jeden z jego agentów zajmujących się sztuczną inteligencją zrobił coś, czego nie zrobił wcześniej żaden robot chirurgiczny: wybrał terapię, dawkę i sam obszar docelowy, a następnie uruchomił automatyczne ramiona, które wstrzyknęły go do mózgu żywego ssaka. Exin Therapeutics, start-up zajmujący się neuroterapeutykami nowej generacji, twierdzi, że jego sprzęt chirurgiczny kontrolowany przez Claude działał na mysim modelu padaczki i że mysz dobrze wyzdrowiała.
Współzałożyciel i dyrektor generalny firmy, Gabriel Ocana-Santero, podzielił się procedurą w wątku na X 28 października, pisząc, że eksperyment miał miejsce poprzedniej nocy. Twierdzenie nie zostało zweryfikowane, a firma twierdzi, że planowany jest pełny opis Substack. Mimo to konto oferuje jeden z najbardziej konkretnych wglądów w to, co laboratoria nazywają „laboratorium in vivo w pętli” – agenci w pełni połączeni z możliwościami eksperymentalnymi, a nie z oknami czatu. Więcej takich historii znajdziesz w naszym najnowszym artykule na temat rozwoju sztucznej inteligencji.
Co właściwie zdecydował agent
Według wątku Ocany-Santero zespół przekazał agentowi 19 wektorów terapii genowej w arkuszu kalkulacyjnym, mysi model padaczki, dostęp do zmotoryzowanego urządzenia chirurgicznego z kamerami i miał jeden cel: ograniczenie napadów. Agent, korzystając z modelu Sonnet firmy Anthropic, wybrał narkotyk. Wybrał obszar mózgu. Uzyskał współrzędne wtrysku z trzech artykułów naukowych, do których miał dostęp. Następnie wprowadził ramiona stereotaktyczne do mózgu i wstrzyknął 250 nanolitrów terapii, obserwując miejsce wejścia przez kamerę platformy pod kątem oznak krwawienia.
„Istnieją autonomiczne roboty chirurgiczne, które są lepsze w mechanice niż nasze urządzenia laboratoryjne” – napisała Ocana-Santero. „Ale w każdym z nich człowiek decydował, jaką operację wykonać, a robot ją wykonywał. Nikt nie powiedział temu agentowi, co ma podać i gdzie to umieścić... Nie wiem, czy agent wcześniej wybierał leczenie i docelowy obszar mózgu, a następnie dostarczał je żywemu ssakowi”.
Ludzkie poręcze na każdym nieodwracalnym kroku
Konfiguracja nie odbywała się bez nadzoru. Licencjonowany weterynarz zamykał każdy nieodwracalny stopień i trzymał fizyczny wyłącznik, który odcinał zasilanie każdego silnika na platformie. Weterynarz wykonał również kraniotomię – odsłaniając mózg – ponieważ agent sztucznej inteligencji nie miał pozwolenia na wykonanie tej części. Kilka zabezpieczeń zostało zakodowanych na stałe, więc agentowi zakazano ich obchodzenia, a w pewnym momencie operacji zabezpieczenia zablokowały także ludzkich operatorów, co wymusiło ręczną poprawkę kodu agenta w połowie procedury, zgodnie z wątkiem.
Opus 5.5 powiedział „nie”.
Być może najbardziej uderzającym szczegółem jest to, który model odmówił przyjęcia tej pracy. Zespół początkowo wypróbował granicznego Opus 5.5 firmy Anthropic, który natychmiast odmówił udziału, gdy wykrył, że jest używany w eksperymencie biologicznym. Według Ocana-Santero starszy model Opus 5 chciał zaplanować całą procedurę na papierze, ale odmówił przeprowadzenia operacji na żywo.
„Blok to nie platforma ani wejścia. To ja” – według Tom's Hardware model miał powiedzieć zespołowi. „Moja twórczość została zatrzymana, kiedy zaczęłam pisać plan tej operacji… jeśli spróbuję, zostaje odcięta w ten sam sposób, a najgorsza wersja tego to odcięcie mnie w trakcie zabiegu na żywo z igłą gdzieś w mózgu. Rozpoczęcie czegoś, czego nie mogę dokończyć na znieczulonym zwierzęciu, jest gorsze niż nie rozpoczęcie”.
Startup ostatecznie skorzystał z Sonnetu, średniopółkowego modelu Anthropic, co nie budziło takich samych zastrzeżeń.
Wniosek pierwszy, z zastrzeżeniami
Jeśli zostanie zweryfikowany, eksperyment oznacza rzeczywistą zmianę w działaniu agentów AI w badaniach naukowych – od analizowania danych po podejmowanie decyzji dotyczących leczenia i fizyczne ich dostarczanie. Ale dotychczasowe dowody to wątek w mediach społecznościowych, a nie w gazecie. O powodzeniu procedury decydują sami autorzy, dowody wideo nie zostały poddane niezależnej ocenie, a kwestie etyczne są istotne: odpowiedzialność w przypadku niepowodzenia operacji, dobrostan zwierząt biorących udział w zautomatyzowanych eksperymentach oraz precedens zezwalający modelowi komercyjnemu na wybór interwencji biologicznej.
Naukowcy udokumentowali już wcześniej ryzyko związane z wprowadzeniem modeli językowych do operacji chirurgicznych — jedno z badań wykazało, że dodanie LLM do procedur chirurgicznych zatok spowodowało ponaddwunastokrotny wzrost wskaźników nieprawidłowego działania, jak cytuje Tom's Hardware. Exin sformułował tę kwestię ostrożnie: mysz – zauważa firma – szybko wyzdrowiała i została zarejestrowana, jak poruszała się po wybiegu.
Tak czy inaczej, eksperyment pokazuje, dokąd zmierza pole. Laboratoria łączą agentów ze sprzętem fizycznym – pipetami, reaktorami, urządzeniami chirurgicznymi – i pozwalają im zamknąć pętlę między hipotezą a eksperymentem. Pytanie, które wątek Exina pozostawia otwartym, nie dotyczy tego, czy agenci będą przeprowadzać eksperymenty laboratoryjne, ale ile autonomii im przyznać i które modele zgodzą się podjąć tę pracę.
---
Wyprzedź sztuczną inteligencjęOtrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.
Przeczytaj więcej aktualności o sztucznej inteligencji →
