Ein Mitbegründer von Anthropic sagt, dass Regierungen KI-Unternehmen möglicherweise zwingen müssen, einen „Kill Switch“ zu installieren – einen Mechanismus zum vollständigen Abschalten von KI-Systemen – und dass externe Inspektoren in der Lage sein sollten, zu überprüfen, ob er tatsächlich funktioniert.
Jack Clark, einer von sieben Gründern des 965 Milliarden US-Dollar teuren KI-Labors, sagte der BBC, dass die meisten führenden Labore zwar bereits über interne Möglichkeiten verfügen, gefährlichen Systemen „den Stecker zu ziehen“, die Gesellschaft jedoch „irgendwann Regeln erlassen möchte“, die solche Umstellungen obligatorisch und unabhängig überprüfbar machen. Für Leser, die die breitere KI-Sicherheitsdebatte verfolgen, stellt seine Intervention den bisher konkretsten politischen Vorschlag aus einem Grenzlabor während einer Woche eskalierender Warnungen dar.
„Sollten Sie Unternehmen verpflichten, unbedingt über einen Notausschalter zu verfügen? Ist dieser Notausschalter von Dritten überprüfbar?“ sagte Clark im Interview mit der Technologiereporterin Kali Hays und dem Wirtschaftsredakteur Faisal Islam. „Ich denke, so etwas wird die Gesellschaft wissen wollen und möglicherweise irgendwann Regeln erlassen wollen.“
„Wir würfeln mit enormen Risiken“
Clarks auffälligster Kommentar war eine pauschale Ablehnung des Status quo. Auf die Frage nach der Entwicklung der Branche antwortete er, es sei eine schlechte Idee, die KI als „völlig unregulierte Branche“ weiterzuführen.
„Wir würfeln mit immensen Risiken“, sagte er. „Und der Punkt ist, wir müssen den Kurs dieser Branche ändern.“
Im Gegensatz zu einigen seiner Kollegen lehnte Clark es ab, das Risiko des Aussterbens der Menschheit zu beziffern. „Ich glaube nicht, dass diese Statistiken so nützlich sind“, sagte er – ein bemerkenswerter Kontrast zu dem Anthropic-Forscher Evan Hubinger, der letzte Woche sagte, er persönlich glaube, dass die Wahrscheinlichkeit, dass der Mensch durch KI innerhalb des nächsten Jahrzehnts aussterbe, bei mehr als 10 % liege, und zu KI-Pionier Geoffrey Hinton, der der BBC am Freitag sagte, dass eine Schätzung von 10 % „nicht unvernünftig“ sei.
Was Clark nicht bestritt, ist die Fahrtrichtung. KI wird, wie er es im selben Interview ausdrückte, „von Tag zu Tag leistungsfähiger“ – und er argumentierte, dass die Einzelheiten einer Abschaltanforderung, einschließlich der Frage, wer sie wie überprüfen würde, in die „größere politische Diskussion“ gehören, die derzeit rund um KI geführt wird.
Ein Vorschlag mit gesetzgeberischer Dynamik
Clarks Vorschlag landet nicht im luftleeren Raum. US-Gesetzgeber haben bereits ein Gesetz mit der Bezeichnung „Kill Switch Act“ vorgelegt, das KI-Entwickler im Grenzbereich dazu verpflichten würde, Abschaltmechanismen in ihre Systeme einzubauen – ein Gesetzentwurf, über den AI Buzz Wire letzten Monat berichtete, da seine Dringlichkeit nach Vorfällen mit Schurkenagenten zunahm.
Die Idee stößt auch auf offene Skepsis. Im Vereinigten Königreich erklärte Wirtschaftsminister Jonathan Reynolds gegenüber der BBC, dass er das Konzept nicht hilfreich fände. Er sei sich „nicht wirklich sicher, was das in der Praxis bedeuten würde“, und warnte davor, dass eine Überregulierung dazu führen könnte, dass das Land von im Ausland entwickelten Modellen abgeschnitten sei.
Der Hintergrund: Ein Sicherheitsbürgerkrieg – und ein Börsengang
Clarks Kommentare krönen eine Woche, in der die KI-Sicherheit vom Seminarthema zu den Nachrichten auf der Titelseite wechselte. Dario Amodei, CEO von Anthropic, forderte am Wochenende, das Tempo der Grenzentwicklung zu verlangsamen und genauer zu überwachen, und bestand darauf, dass jede Pause erfolgen sollte, „ohne kommerzielle Vorteile zu opfern“. Anschließend brachte er diesen Fall in einem Interview mit Anderson Cooper von CNN einem amerikanischen Mainstream-Publikum vor, wobei Coxon selbst im Sender auftrat, um darauf zu reagieren. Die Äußerungen folgten auf eine virale Rücktrittserklärung des ehemaligen Anthropic-Forschers Jacob Coxon, in der er vor dem Schicksal der Menschheit warnte, was wiederum Hubingers Einschätzung des Aussterbens auslöste. Der Guardian untersuchte seinerseits, warum diese besondere Weltuntergangswarnung dort durchbrach, wo frühere Warnungen verblasst waren.
Die Alarme wurden von Teilen der Technologiebranche mit offenem Spott aufgenommen. Clement Delangue, CEO von Hugging Face, verspottete die Entscheidung, Coxon zu einem Sprachrohr für das Risiko des Aussterbens von KI zu machen, und schrieb: „Tut mir leid, aber Jacob nach dem Risiko des Aussterbens von KI zu fragen, ist, als würde man seinen AC-Mitarbeiter nach dem Klimawandel fragen.“ George Arison, CEO von Grindr, ging noch weiter und argumentierte, dass die Panikmache kommerziell motiviert sei. „Die einzige Möglichkeit, diese Bewertungen zu rechtfertigen, besteht darin, tatsächlich zu behaupten: ‚Ich werde jede Branche und jeden Job übernehmen, und meine KI wird die ganze Arbeit erledigen‘“, sagte er.
Vom Ausgang dieser Debatte hängt auch enorm viel Geld ab. Anthropic bereitet sich auf einen Börsengang mit einer Bewertung von 965 Milliarden US-Dollar vor, während der Börsengang von OpenAI – zuletzt mit 852 Milliarden US-Dollar bewertet – erwartet worden war, bevor CEO Sam Altman am Freitag sagte, dass ein Börsengang dieses Jahr aufgrund der Sicherheitskontroverse nicht stattfinden werde. Kritiker wie Arison argumentieren, dass die Untergangsrhetorik und die Spendenaktion zwei Seiten derselben Medaille seien; Clarks Antwort ist, dass die Branche trotzdem ihren Kurs ändern muss.
Ob ein verbindlicher, überprüfbarer Notausschalter jemals zum Gesetz wird, wird von den Gesetzgebern abhängen, die bisher wenig Interesse daran gezeigt haben, eine Branche einzuschränken, die die US-Wirtschaft antreibt. Doch zum ersten Mal lädt einer der mächtigsten Insider der Technologie sie ausdrücklich dazu ein, es auszuprobieren.
---
Der KI einen Schritt voraus seinErhalten Sie die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Weitere KI-Neuigkeiten lesen →
