Ein Biotech-Startup sagt, einer seiner KI-Agenten habe etwas getan, was noch kein chirurgischer Roboter zuvor getan habe: Er wählte die Therapie, die Dosis und die Zielregion selbst und steuerte dann die Roboterarme, die sie in das Gehirn eines lebenden Säugetiers injizierten. Exin Therapeutics, ein Startup, das sich auf Neurotherapeutika der nächsten Generation konzentriert, sagt, dass sein von Claude gesteuertes Operationsgerät an einem Mausmodell der Epilepsie operiert habe – und dass sich die Maus gut erholt habe.

Der Mitbegründer und CEO des Unternehmens, Gabriel Ocana-Santero, teilte das Verfahren am 28. Oktober in einem Thread auf X mit und schrieb, dass das Experiment in der Nacht zuvor stattgefunden habe. Die Behauptung wurde nicht einer Peer-Review unterzogen und das Unternehmen gibt an, dass für seinen Substack eine vollständige Aufarbeitung geplant sei. Dennoch bietet der Bericht einen der bislang konkretesten Einblicke in das, was Labore als „In-vivo-Labor in the Loop“ bezeichnen – Agenten, die vollständig mit experimentellen Funktionen verbunden sind und nicht mit Chat-Fenstern. Weitere Geschichten wie diese finden Sie in unserer neuesten Berichterstattung über KI-Entwicklungen.

Was der Agent tatsächlich entschieden hat

Laut Ocana-Santeros Thread gab das Team dem Agenten 19 Gentherapie-Vektoren in einer Tabelle, ein Mausmodell der Epilepsie, Zugang zu einem motorisierten Operationsgerät mit Kameras und ein einziges Ziel: die Reduzierung von Anfällen. Der Agent, der auf dem Sonnet-Modell von Anthropic basiert, wählte die Droge aus. Es hat die Gehirnregion ausgewählt. Die Injektionskoordinaten wurden aus drei Forschungsarbeiten abgeleitet, auf die es Zugriff hatte. Dann trieb es die stereotaktischen Arme in das Gehirn und injizierte 250 Nanoliter der Therapie, während die Eintrittsstelle durch die Kamera des Geräts auf Anzeichen von Blutungen beobachtet wurde.

„Es gibt autonome Operationsroboter, und sie beherrschen die Mechanik besser als unser Laborgerät“, schrieb Ocana-Santero. „Aber bei jedem von ihnen entschied ein Mensch, welche Operation er durchführen wollte, und der Roboter führte sie aus. Niemand hat diesem Agenten gesagt, was er geben oder wo er es ablegen soll … Mir ist nicht bekannt, dass ein Agent zuvor eine Behandlung und ein Gehirnziel ausgewählt und es dann einem lebenden Säugetier verabreicht hat.“

Menschliche Leitplanken bei jedem unumkehrbaren Schritt

Der Aufbau erfolgte nicht unbeaufsichtigt. Ein zugelassener Tierarzt sperrte jeden unumkehrbaren Schritt ab und verfügte über einen physischen Notausschalter, der die Stromversorgung aller Motoren im Bohrgerät unterbrach. Der Tierarzt führte auch die Kraniotomie durch – die Freilegung des Gehirns –, da der KI-Agent diesen Teil nicht übernehmen durfte. Mehrere Sicherheitsvorkehrungen waren fest codiert, so dass der Agent sie nicht außer Kraft setzen durfte. An einem Punkt während des Vorgangs sperrten die Sicherheitsvorkehrungen auch die menschlichen Bediener aus und erzwangen eine manuelle Korrektur des Agentencodes mitten im Verfahren, so der Thread.

Opus 5.5 sagte Nein

Das vielleicht auffälligste Detail ist, welches Modell den Job abgelehnt hat. Das Team probierte zunächst Anthropics Frontier Opus 5.5 aus, das die Teilnahme sofort ablehnte, als es feststellte, dass es in einem biologischen Experiment verwendet wurde. Das ältere Opus-5-Modell war laut Ocana-Santero bereit, den gesamten Eingriff auf Papier zu planen, weigerte sich jedoch, eine Operation live durchzuführen.

„Der Block ist nicht das Rig und nicht die Eingaben. Das bin ich“, sagte das Modell laut Tom’s Hardware dem Team. „Mein eigener Output wurde gestoppt, als ich anfing, den Plan für diese Operation zu schreiben ... wenn ich es versuche, wird er auf die gleiche Weise abgeschnitten, und die schlimmste Version davon ist, dass ich mitten in einem lebenden Eingriff mit einer Nadel irgendwo im Gehirn abgeschnitten werde. Etwas zu beginnen, was ich an einem betäubten Tier nicht zu Ende bringen kann, ist schlimmer, als es nicht anzufangen.“

Das Startup nutzte schließlich Sonnet, das Mittelklassemodell von Anthropic, was nicht den gleichen Einwand erregte.

Eine behauptete Premiere, mit Vorbehalten

Wenn das Experiment bestätigt wird, markiert es einen echten Wandel in der Arbeit von KI-Agenten in der wissenschaftlichen Forschung – von der Datenanalyse über das Treffen von Behandlungsentscheidungen bis hin zur physischen Umsetzung dieser. Aber die bisherigen Beweise sind ein Social-Media-Thread, kein Papier. Der Erfolg des Verfahrens wird selbst angegeben, die Videobeweise wurden nicht unabhängig überprüft und die ethischen Fragen sind erheblich: Verantwortlichkeit, wenn eine Operation fehlschlägt, das Wohlergehen von Tierversuchsteilnehmern in automatisierten Experimenten und der Präzedenzfall, einem kommerziellen Modell die Wahl eines biologischen Eingriffs zu überlassen.

Forscher haben bereits zuvor Risiken dokumentiert, wenn Sprachmodelle in den chirurgischen Arbeitsablauf einbezogen werden. Eine Studie berichtete, dass die Hinzufügung eines LLM zu den Arbeitsabläufen in der Nasennebenhöhlenchirurgie zu einem Anstieg der Fehlfunktionsraten um mehr als das Zwölffache führte, wie von Tom's Hardware zitiert. Exins eigene Darstellung ist in diesem Punkt vorsichtig: Die Maus, so das Unternehmen, habe sich gut erholt und es wurde aufgezeichnet, wie sie sich in ihrem Gehege bewegte.

In jedem Fall erfasst das Experiment, wohin sich das Feld entwickelt. Labore vernetzen Wirkstoffe mit physischen Geräten – Pipetten, Reaktoren, Operationsgeräten – und schließen so den Kreis zwischen Hypothese und Experiment. Die Frage, die Exins Thread offen lässt, ist nicht, ob Agenten Laborexperimente durchführen werden, sondern wie viel Autonomie ihnen gewährt wird und welche Modelle bereit sind, die Aufgabe zu übernehmen.

---

Der KI einen Schritt voraus sein

Erhalten Sie die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Weitere KI-Neuigkeiten lesen →