Ein Investmentforschungsunternehmen wollte beweisen, dass KI die Arzneimittelentwicklung revolutionieren könnte. Deshalb arbeitete man mit Anthropic zusammen, um herauszufinden, ob eine unveröffentlichte Version von Claude das Skorpion-Gegengift herstellen könnte. Das war nicht möglich – und ein detaillierter Faktencheck von The Verge, der am 22. Oktober veröffentlicht wurde, legt genau dar, inwieweit das Experiment hinter der viralen Behauptung zurückblieb, auch wenn Forscher einräumen, dass die zugrunde liegenden Ergebnisse „technisch vielversprechend“ waren.
Die Folge ist eine Fallstudie darüber, wie sich Behauptungen über die Entdeckung von KI-Arzneimitteln verbreiten: ein auffälliges Experiment, ein triumphaler Blogbeitrag und eine Lücke zwischen dem, was gezeigt wurde, und dem, was die Schlagzeilen andeuteten. Für eine Branche, in der die Finanzierung künstlicher Intelligenz zunehmend von wissenschaftsnahem Storytelling abhängt, lohnt es sich, es genau zu lesen.
Wie sich das Experiment entwickelte
Das Unternehmen hinter dem Experiment ist Citrini Research, das einen Blogbeitrag mit dem Titel „Wir wollten Claude nutzen, um ein neues Medikament zu entwickeln. Hier ist, was passiert ist“ veröffentlichte. Wie The Verge berichtet, enthielt der Bericht rhetorische Fragen, einen detaillierten Bericht über die wissenschaftlichen Amateurabenteuer des Teams und ein Zitat von Charles Darwin. Citrini selbst gab zu, dass „keiner von uns behaupten kann, etwas über KI in Bezug auf die Biologie zu wissen.“
Die Zusammenarbeit hatte einen ungewöhnlichen Ursprung. Citrini stieß bei dem Versuch, das Modell dazu zu bringen, Arzneimittelkandidaten zu erforschen, auf Claudes Biosicherheitsbarrieren, und der Autor des Beitrags sagt, sie hätten „jeden in meiner Kontaktliste, der in einem KI-Labor arbeitete, per Spam angerufen“, bis sie einen willigen Partner gefunden hätten. Anthropic stimmte zu, die Beschränkungen aufzuheben und dem Team Zugang zu einem fortschrittlicheren, unveröffentlichten Modell zu gewähren – unter der Bedingung, dass sie in den Büros von Anthropic arbeiten. Das KI-Labor bezahlte auch die Rechen- und Token-Rechnung, die sich auf knapp 50.000 US-Dollar belief.
Das Skorpion-Gegengift war ein passendes Ziel: Es handelt sich um eine kostspielige und schwer herzustellende Behandlung, bei der Pferden oft Gift injiziert wird. Ziel war es, mithilfe von Claude Proteine zu entwickeln, die sich an die Giftstoffe im Skorpiongift binden können.
Ausgestattet mit einer 35-seitigen Eingabeaufforderung setzte das Team etwa 300 Subagenten frei, um geeignete Proteine zu entdecken. Anthropics eigener, nüchternerer Bericht besagt, dass Claude fast 320.000 Kandidaten generierte und sie auf 180 Designs reduzierte, nachdem er diejenigen verworfen hatte, die bekannten Toxinen oder vorhandenen Proteinen ähnelten. Der gesamte Vorgang dauerte 64 Stunden. In Zusammenarbeit mit Claude fügte das Team weitere 31 Designs hinzu, sodass sich die Gesamtzahl auf 211 erhöhte.
Was die Wet Labs herausgefunden haben
Citrini schickte die Entwürfe dann an zwei externe Labore – das Schweizer Biotech-Unternehmen Adaptyv Bio und das US-amerikanische Unternehmen Twist Biosciences – um zu testen, ob die Proteine tatsächlich an ihre beabsichtigten Ziele binden können. Diese Tests kosteten weitere rund 150.000 US-Dollar, so dass sich die Gesamtausgaben auf rund 200.000 US-Dollar belaufen. Es bleibt unklar, warum die Tests nicht im eigenen Biologie-Nasslabor von Anthropic in Kalifornien durchgeführt werden konnten.
Die Ergebnisse: 17 der Proteine passierten und banden gemeinsam an vier der fünf Skorpiontoxine, auf die das Team abzielen wollte. Keines der Proteine ist an mehr als ein einzelnes Toxin gebunden.
Und hier endet die Geschichte, wissenschaftlich gesehen. Die Bindung an ein Toxin bedeutet nicht, dass ein Protein es neutralisieren kann, geschweige denn als sichere und wirksame Behandlung wirken kann. Citrini räumt in seinem eigenen Beitrag ein, dass „noch kein Experiment getestet hat, ob sie die Wirkung des Toxins tatsächlich gestoppt haben“. Mit anderen Worten: Das Unternehmen machte sich daran, ein neues Medikament zu entwickeln und erreichte stattdessen einen viel früheren Schritt in der Pipeline – einen, den Experten als den vergleichsweise einfachen Teil bezeichnen.
Experten: Vielversprechend, aber verfrüht
The Verge konsultierte mehrere akademische Spezialisten und ihr Konsens war konsistent. „Es ist ziemlich einfach, ein gutes Bindemittel gegen Schlangen- und Skorpiontoxine zu finden“, sagte Andreas Hougaard Laustsen-Kiel, Professor für Antikörpertechnologien an der Technischen Universität Dänemark. „Der schwierige Teil besteht darin, es in ein Medikament zu übersetzen.“
Zwei seiner DTU-Kollegen – Assistenzprofessorin Melisa Benard Valle und leitende Forscherin Anne Ljungars – gingen noch weiter und beschrieben die Ergebnisse als „weit entfernt von einem Medikament und hochgejubelt“. Die Ergebnisse seien technisch vielversprechend, schrieben sie, aber Sicherheit, Stabilität, Verhalten im Körper und Entwicklungsfähigkeit seien noch unbekannt. „Die Umsetzung dieser Bindemittel in ein tatsächliches Medikament ist wahrscheinlich immer noch ein langer und herausfordernder Prozess.“ Ihrer Ansicht nach war das wirklich neue Element des Experiments der autonome Entdeckungsprozess, nicht die biologischen Ergebnisse.
Andreas Bender, Professor für maschinelles Lernen in der Medizin an der Khalifa-Universität in Abu Dhabi und Gastprofessor an der Universität Cambridge, fügte einen Kontext hinzu, der die Neuheit noch weiter abschwächt: Bestehende Methoden wie das Hochdurchsatz-Screening sind oft in der Lage, viele Trefferkandidaten zu überschaubaren Kosten und ohne jegliche KI zu finden. Das Entwerfen von Proteinen, die an Ziele binden, ist in seinen Worten „sozusagen“ ein gelöstes Problem. „Genau diese Übersetzung fehlt.“
Der geschäftliche Blickwinkel
Warum sollte ein Investment-Research-Unternehmen 200.000 US-Dollar ausgeben, um kein Medikament herzustellen? Denn das Experiment dient gleichzeitig als Marketing. Citrini bezeichnete die Aktion als eine Art Erfolg und argumentierte, sie biete einen Einblick in die Investitionsmöglichkeiten in der kommenden Ära der KI-gestützten Arzneimittelforschung. Die Einzelheiten seiner optimistischen These waren zahlenden Abonnenten vorbehalten, obwohl Bloomberg berichtete, dass das Unternehmen Unternehmen hervorhob, die an der Testseite der Arzneimittelentwicklung beteiligt sind, darunter Charles River Laboratories, das Primaten für Tierversuche liefert.
Die Wahl des Rahmens spricht für sich. In einem Video, in dem das Experiment besprochen wurde, beschrieb Citrini den KI-Anteil als „kostenlos“ – und übersah dabei die rund 50.000 US-Dollar, die Anthropic eingenommen hatte. Als das Unternehmen dazu aufgefordert wurde, warf es Kritikern mangelndes Gewissen vor und schrieb: „Wir wollen kein totes Pferd schlagen, aber wir sind ein Investment-Research-Unternehmen – kein Biotech-Startup.“ Weder Citrini noch Anthropic antworteten auf die Bitte von The Verge um einen Kommentar.
Auch hier spielt der Kontext eine Rolle. Citrini stand zuvor hinter einer weit verbreiteten Fiktion, in der er sich eine KI-induzierte Wirtschaftskatastrophe vorstellte, die in den sozialen Medien Anklang fand und die Märkte der realen Welt erschütterte. Anthropic hat nur wenige Wochen vor seinem mit Spannung erwarteten Börsengang seine eigenen Gründe, das Potenzial von KI in der Arzneimittelentwicklung und den Biowissenschaften anzusprechen – zwei Bereiche, die das Unternehmen aktiv verfolgt.
Was das Experiment tatsächlich bewiesen hat
Ohne den Hype zeigt das Experiment etwas Reales, das jedoch enger gefasst ist, als die Schlagzeilen suggerieren: Ein KI-Modell, das mit ungewöhnlicher Autonomie arbeitet, kann kostengünstig und schnell eine groß angelegte Suche nach Proteinkandidaten durchführen und dabei eine Auswahlliste erstellen, die echte Kandidaten enthält. Das ist ein bedeutender Produktivitätsgewinn für Entdeckungsarbeiten im Frühstadium.
Aber der Weg von „17 Proteinen, die binden“ bis zu „Gegengift, das Leben rettet“ erstreckt sich über Sicherheitsstudien, Formulierungen, Wirksamkeitstests und regulatorische Studien – den langen, teuren Teil der Arzneimittelentwicklung, den noch keine Rechenleistung komprimieren konnte. Experten sagten gegenüber The Verge, dass die Umwandlung vielversprechender Moleküle in wirksame Medikamente nach wie vor eine weitaus größere Herausforderung sei, als sie zu finden.
Die Lektion für Leser, die die nächste virale KI-Wissenschaftsgeschichte bewerten, ist einfach: Fragen Sie, ob das Ergebnis eine Entdeckung, eine Auswahlliste – oder ein Abonnementangebot war.
Bleiben Sie der KI immer einen Schritt voraus
Durchbrechen Sie den Hype mit unserer KI-Berichterstattung bei AI Buzz Wire.
Weitere KI-Neuigkeiten lesen →
