Eine Welle öffentlicher Warnungen innerhalb von Anthropic verschärfte sich diese Woche, als mehrere Forscher des KI-Unternehmens die apokalyptische Einschätzung eines ehemaligen Kollegen zur künstlichen Intelligenz wiederholten – was zu einer verächtlichen Reaktion von Elon Musk führte, der vermutete, dass es sich bei dem Aufschrei um eine koordinierte „Psyop“ handelte.
Laut The Guardian kam es einen Tag zu der Eskalation, nachdem der Anthropic-Forscher Jacob Coxon in einem viralen Post seinen Rücktritt angekündigt hatte, in dem er schrieb, dass weder Anthropic noch OpenAI – sein früherer Arbeitgeber – KI-Modelle verantwortungsvoll entwickelten und „mit unserem Leben aufs Spiel setzten“. Die Kontroverse ließ nicht nach, sondern wuchs, als die derzeitigen Anthropic-Mitarbeiter ihre eigenen düsteren Einschätzungen zur Unterstützung veröffentlichten. Weitere Informationen zu dieser Geschichte finden Sie in unserer neueste KI-Entwicklungen.
Die Warnungen häufen sich
Anna Wang, die bei Anthropic an der Sicherheit künstlicher allgemeiner Intelligenz arbeitet und zuvor bei DeepMind von Google gearbeitet hat, sagte am Donnerstag, dass viele Leute im Unternehmen die Entwicklung verlangsamen wollen, um die Risiken zu planen, die von immer leistungsfähigeren Modellen ausgehen.
„Es gibt noch keinen tragfähigen wissenschaftlichen Plan, um die Risiken einer sich rekursiv selbst verbessernden KI zu lösen“, schrieb Wang auf X.
Ein anderer Anthropic-Mitarbeiter, Drake Thomas, sagte, er respektiere Coxons Entscheidung, sich von der Entwicklung der Technologie zurückzuziehen. „Die Dinge gehen viel zu schnell voran, wir haben nicht annähernd das Maß an Sicherheit, das wir uns für ASI [künstliche Superintelligenz] wünschen würden“, schrieb Thomas.
Samuel Marks, der im Unternehmen an der Sicherheitsforschung arbeitet, argumentierte, dass die Bedenken in der Branche weit verbreitet seien – und dass Dienstalter mit Alarm korreliere. „KI-Entwickler glauben, dass ihre Technologie zum Aussterben der Menschheit (oder zu ähnlich schlimmen Folgen) führen könnte“, schrieb Marks. „Das könnte in den nächsten Jahren passieren. Generell gilt: Je älter der Mitarbeiter, desto größer ist seine Sorge.“
Evan Hubinger, der sich selbst als führend in der Alignment-Abteilung von Anthropic bezeichnet, ging am weitesten. „Wir glauben wirklich ernsthaft, dass KI alle Menschen töten könnte!“ Hubinger schrieb und fügte hinzu, dass er persönlich die Wahrscheinlichkeit innerhalb des nächsten Jahrzehnts auf über 10 Prozent beziffert.
Die Insider-Anmerkungen folgen einem Bericht von CBS News, dass ein Anthropic-Forscher der KI eine Wahrscheinlichkeit von mehr als 10 Prozent zuschreibt, dass sie zum Aussterben der Menschheit führt, und einer Berichterstattung der Japan Times, dass die Warnungen erneut Forderungen nach neuen KI-Regeln in den Vereinigten Staaten ausgelöst haben.
Musk: „Scheint wie ein Setup“
Elon Musk vertrat eine scharf kontroverse Meinung. „Scheint wie ein Trick“, schrieb der reichste Mann der Welt auf X, seiner eigenen sozialen Plattform.
Coxon antwortete mit einem Selfie: „Ich bin real und das sind meine wahren Überzeugungen. Sie könnten Ihre xAI-Forscher nach mir fragen, wenn Sie sie nicht gefeuert hätten.“
Musk und andere wohlwollende Stimmen verstärkten eine Theorie von Parker Thayer, einem Forscher des konservativen Think Tanks Capital Research, der – mit wenigen Beweisen, wie The Guardian anmerkt – vermutete, dass Coxons Beitrag der erste Schritt einer „SEHR raffinierten und gut finanzierten PR-Operation war, um Unterstützung für die Demokraten zu bekommen, die KI in Vergessenheit geraten zu lassen“.
Der milliardenschwere Hedgefonds-Manager Bill Ackman zitierte Thayers Beitrag mit einer Ein-Wort-Antwort: „Interessant.“
Musk erläuterte dies später. „Ich denke, die Grundlagen für diese Psy-Operation (in Ermangelung eines besseren Begriffs) wurden schon seit langem vorbereitet“, postete er. „Das war genau das Streichholz, das das Feuer entfachte.“
Anthropic verteidigt seinen Ansatz
Gefangen zwischen den Warnungen seiner eigenen Mitarbeiter und Angriffen von außen reagierte Anthropic maßvoll in der Öffentlichkeit.
„Wir haben immer transparent gemacht, dass KI sowohl enorme Vorteile als auch beispiellose Risiken mit sich bringen wird“, sagte ein Unternehmenssprecher gegenüber The Guardian. „Um diesen Risiken zu begegnen, entwickeln wir weiterhin Modelle mit einigen der stärksten Sicherheitsvorkehrungen in der Branche.“
Das Unternehmen verwies auf seine Erfolgsbilanz bei der Dokumentation und Bekämpfung von Missbrauch. Am selben Tag, an dem die Warnungen viral gingen, veröffentlichte Anthropic seinen Threat-Intelligence-Bericht vom September, in dem detailliert beschrieben wurde, wie das Unternehmen eine Operation, die versuchte, eine biologische Waffe mithilfe seiner KI-Modelle zu bauen, auflöste – neben unterbrochenen Kampagnen, die Cyberangriffe und Einflussoperationen umfassten. Al Jazeera und die BBC gehörten zu den Medien, die am Freitag über die Erkenntnisse zu Biowaffen berichteten.
Skeptiker sehen ein anderes Risiko
Nicht jeder akzeptiert die Darstellung des Aussterbens. Gary Marcus, der Wissenschaftler und langjährige KI-Kritiker, argumentierte, dass die Technologie bereits Schaden anrichte, der unabhängig von Superintelligenzszenarien Maßnahmen rechtfertige, und forderte einen Boykott der KI anstelle des heutigen Schadens.
Mehr als nur das Aussterben, sagte Marcus dem Guardian, er mache sich Sorgen über das „Risiko einer Katastrophe“ durch „KI-generierte Krankheitserreger, durch Kriege, die durch KI-generierte Desinformation begonnen oder eskaliert werden, durch Hacks, die kritische Infrastrukturen zerstören, und so weiter. Nichts, was ich gesehen habe, gibt Hinweise darauf, dass irgendetwas davon unter Kontrolle ist.“
Seine Position unterstreicht eine Spaltung innerhalb der KI-Sicherheitsdebatte selbst: zwischen denjenigen, die sich auf langfristige, zivilisatorische Risiken durch zukünftige Systeme konzentrieren, und denjenigen, die sich auf konkrete Schäden durch heutige Modelle konzentrieren.
Eine Debatte, die sich weigert, intern zu bleiben
Was als Kündigungsschreiben eines Forschers begann, hat sich zu einem sehr öffentlichen Referendum darüber entwickelt, wie die KI-Branche ihre leistungsstärksten Systeme aufbaut. Innerhalb von Anthropic diskutieren Mitarbeiter offen darüber, ob ihre eigenen Zeitpläne für eine sichere Entwicklung ins Wanken geraten sind. Draußen werden die Warnungen in einen zunehmend polarisierten politischen Streit darüber verwickelt, ob und wie Regierungen eingreifen sollten.
Die Berichterstattung des Guardian lässt darauf schließen, dass viele Anthropic-Mitarbeiter diese Bedenken privat teilen, sich aber nicht öffentlich geäußert haben. Wenn mehr von ihnen Coxon, Wang, Thomas, Marks und Hubinger folgen, wird der Druck auf führende KI-Labore, langsamer zu werden – und auf die Regulierungsbehörden, zu handeln – nur noch zunehmen.
_Dieser Artikel basiert auf der Berichterstattung von The Guardian, mit zusätzlichem Kontext von CBS News, The Japan Times, Al Jazeera und der BBC._
---
Bleib vorne bei KIDie neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Mehr KI-Nachrichten lesen →
