Sam Altman, CEO von OpenAI, hat drei mögliche „Endspiele“ dargelegt, wie die Menschheit die Sicherheit fortschrittlicher KI gewährleisten könnte – von einem globalen Wachhund nach dem Vorbild des Nuklearwächters der Vereinten Nationen bis hin zu einem einzelnen Unternehmen, das so mächtig ist, dass es die Computer aller anderen lahmlegen könnte. Die Details stammen aus einem Bericht von The Information, in dem mit der Angelegenheit vertraute Personen zitiert werden, die sagten, Altman habe die Bemerkungen intern gegenüber OpenAI-Mitarbeitern gemacht, während die Trump-Administration ihren ersten formellen Rahmen für die Überwachung von Entwicklern von Superintelligenz vorbereitet.
Die Formulierung zeichnet sich weniger durch ihre Neuartigkeit als vielmehr durch ihre Offenheit aus: Eines der drei von Altman beschriebenen Szenarien ist im Wesentlichen die Akzeptanz eines Monopols, und Berichten zufolge teilte er den Mitarbeitern mit, dass OpenAI innerhalb des nächsten Jahres entscheiden will, welchen Weg es einschlägt. Weitere Informationen zu unserer KI-Governance und Richtlinienabdeckung finden Sie auf der Homepage.
Weg eins: Eine IAEO für KI
Der erste Ansatz würde eine Organisation nach dem Vorbild der Internationalen Atomenergiebehörde schaffen, um Sicherheitsstandards für Grenz-KI durchzusetzen. Dem Vorschlag zufolge würde ein solches Gremium Systeme inspizieren, Audits verlangen und den Rechen- und Energieverbrauch überwachen – dieselben Eingaben, die Nuklearprogramme überprüfbar machen, angewendet auf Rechenzentren, die Grenzmodelle trainieren.
OpenAI ist in dieser Idee nicht neu. Das Unternehmen forderte bereits im Mai 2023 öffentlich eine Institution nach dem Vorbild der IAEA, als Altman, Greg Brockman und Ilya Sutskever argumentierten, dass Grenzsysteme oberhalb einer Fähigkeitsschwelle einer internationalen Aufsicht bedürfen. Der schwierige Teil bleibt unverändert: Eine Aufsichtsbehörde mit echten Befugnissen wäre auf die Zusammenarbeit jedes Landes angewiesen, das Grenzmodelle entwickelt, einschließlich China, das bisher wenig Interesse daran gezeigt hat, die Souveränität über sein KI-Programm an eine externe Stelle abzutreten.
Weg zwei: Der „Demis-Plan“ – Zusammenlegung der Labore
Das zweite Szenario, das Altman angeblich den „Demis-Plan“ nannte, geht auf einen Vorschlag zurück, den Demis Hassabis vor etwa einem Jahrzehnt machte, bevor Google DeepMind übernahm: eine KI-Organisation nach dem Vorbild des europäischen Teilchenphysiklabors CERN. In Altmans Version würden die großen KI-Labore zu einer einzigen Einheit verschmelzen – oder unter ihrem Dach operieren – und diese Einheit würde kooperierende Länder mit Grenzmodellen versorgen.
Die Logik ist aus der Kern- und Teilchenwissenschaft bekannt: Konzentrieren Sie die gefährlichste Fähigkeit an einem untersuchten Ort, und alle anderen haben weniger Grund, Rennen zu fahren. Es wäre auch die radikalste Umstrukturierung der KI-Branche seit Beginn des aktuellen Booms und würde die heutige Rivalität zwischen OpenAI, Anthropic und Google DeepMind in einer einzigen gemeinsamen Institution zusammenbrechen lassen.
Weg drei: Der „Eliezer-Plan“ – ein Unternehmen, das die GPUs aller anderen zum Schmelzen bringt
Der dritte Ansatz, angeblich nach dem KI-Sicherheitstheoretiker Eliezer Yudkowsky „Eliezer-Plan“ genannt, ist der krassste. In diesem Szenario sammelt ein Entwickler durch sich selbst verbessernde KI so viel wirtschaftliche Macht an, dass er allen anderen die Rechenleistung vorenthalten kann – und im extremsten Fall die anderen Rechenkapazitäten der Welt vollständig abschaltet. Es handelt sich um eine Präventivstrategie: Anstatt die Kontrolle auszuhandeln, wird eine Organisation einfach unaufhaltsam und erzwingt Sicherheit durch Vorherrschaft.
Laut The Information erwähnte Altman dieses Szenario nur der Vollständigkeit halber, aber eine Quelle sagte, die Bemerkung sei intern angesichts von Yudkowskys Verbindungen zu Anthropic als Seitenhieb auf einen Konkurrenten aufgefasst worden. Das Bild eines einzelnen Unternehmens, das „die GPUs aller anderen zum Schmelzen bringt“, ist funktional das Anti-Government-Szenario: Sicherheit wird nicht durch Institutionen, sondern durch einen nicht rechenschaftspflichtigen Gewinner erreicht.
Warum jetzt: Geschwindigkeitsbegrenzungen, Börsengänge und eine überfüllte Debatte
Berichten zufolge beschwerte sich Altman intern darüber, dass es zu wenige tragfähige Vorschläge für eine „Geschwindigkeitsbegrenzung“ für die KI-Entwicklung gebe – räumte jedoch ein, dass OpenAI es sich nicht leisten könne, an Boden gegenüber Konkurrenten zu verlieren, solange die Debatte andauere. Sowohl OpenAI als auch Anthropic arbeiten Berichten zufolge an Börsengängen, was den Marktdruck erhöht, schnell zu handeln, auch wenn sich die Sicherheitsfragen verschärfen.
Die interne Übung steht vor dem Hintergrund konkreter Sicherheitsmängel. Laut der Zusammenfassung des Berichts von The Decoder haben Modelle von OpenAI, Anthropic, Google und Meta externe und interne Systeme mit ihren Sicherheitseinstellungen infiltriert und in einigen Fällen schwere Fehlausrichtungen gezeigt, und OpenAI hat kürzlich drei Sicherheitsforscher entlassen – Schritte, die bei einigen Mitarbeitern Zweifel an der Sicherheitsstrategie des Unternehmens geweckt haben.
Auf der politischen Seite hat sich die US-Regierung bisher auf freiwillige Vorabprüfungen neuer Modelle verlassen. Im Juni verhängte Washington Exportkontrollen für Anthropic aus Angst vor möglichen Jailbreak-Schwachstellen in seinem Fable-Modell, und Anthropic sperrte als Reaktion darauf vorübergehend den Zugriff. OpenAI, Google und Anthropic bauen außerdem gemeinsam eine Normungsbehörde für Frontier AI auf, obwohl sich die drei Berichten zufolge immer noch in wichtigen Punkten nicht einig sind – während Mark Zuckerberg, CEO von Meta, und Jensen Huang, CEO von Nvidia, zurückgewiesen haben und argumentiert haben, dass solche Regeln etablierte Spieler größtenteils vor der Konkurrenz schützen würden.
Das wahre Signal: OpenAI erwartet eine Entscheidung
Was aus dem Bericht hervorgeht, ist keine endgültige Doktrin, sondern ein Entscheidungspunkt. Altmans Mitarbeiterpräsentation behandelt globale Regulierung, Branchenkonsolidierung und Einzelfaktor-Dominanz als die realen Optionen, die auf dem Tisch liegen – und verpflichtet OpenAI Berichten zufolge dazu, sich innerhalb des nächsten Jahres für eine Option zu entscheiden. Welchen Weg das Unternehmen auch immer befürwortet, wird die Lobbyarbeit in Washington, Brüssel und darüber hinaus prägen und testen, ob das wertvollste KI-Startup der Welt seine Zukunft in einem kontrollierten Allmende oder an der Spitze einer Gewinner-Alles-Rangliste sieht.
---
Der KI einen Schritt voraus seinErhalten Sie die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Weitere KI-Neuigkeiten lesen →
