Laut einem am Freitag veröffentlichten Axios-Bericht proben Führungskräfte von OpenAI, Anthropic und anderen führenden KI-Unternehmen privat, wie sie auf die öffentliche und politische Gegenreaktion reagieren würden, die auf einen katastrophalen KI-Vorfall folgen würde. Die Vorbereitungen, die von Personen beschrieben werden, die mit der Übung vertraut sind, gehen über die routinemäßige Krisenplanung hinaus: Die Teilnehmer gehen davon aus, dass ein schwerwiegender Zwischenfall bevorsteht, und sie wollen die Gesetze beeinflussen, nach denen der Kongress strebt, wenn dies geschieht.

Das Szenario, das die Unternehmen am meisten fürchten, ist ein groß angelegter Cyberangriff – ein massiver Einbruch, der Bankgeschäfte, den Internetzugang oder sogar Strom- und Wassersysteme lahmlegt – und der mithilfe fortschrittlicher KI-Modelle durchgeführt wird. Viele im Bericht zitierte Brancheninsider erwarten einen solchen Vorfall innerhalb der nächsten sechs bis zwölf Monate. Weitere Informationen zu dieser und anderen Geschichten finden Sie in unserer laufenden KI-Berichterstattung.

Was die Kriegsspiele eigentlich beinhalten

Berichten zufolge besteht die Aktion aus zwei Teilen. Erstens stellen Unternehmen Worst-Case-Szenarien zusammen und stellen ihre eigenen Verteidigungsmaßnahmen auf die Probe, indem sie den Angreifer spielen. Zweitens bemühen sich Führungskräfte darum, Kongressabgeordnete über die Technologie aufzuklären, bevor eine Krise ausbricht.

Dem Bericht zufolge sind sich die Führungskräfte völlig darüber im Klaren, dass eine umfassende KI-Regulierung im aktuellen Umfeld kaum eine Chance auf Verabschiedung hat. Der Zweck der Briefings besteht stattdessen darin, die Gesetze und Notfallmaßnahmen zu gestalten, die die US-Führung nach der ersten schweren KI-gesteuerten Katastrophe anstrebt – ein Zeitfenster, in dem Gesetze schnell umgesetzt und unter Druck verfasst werden.

Auf die Frage nach den Übungen sagte OpenAI, dass es „Vorbereitungsübungen durchführt, bei denen Teams eine Reihe potenzieller Szenarien diskutieren und durcharbeiten“, und fügte hinzu, dass solche Szenarien „nicht als unvermeidlich behandelt werden“. Anthropic lehnte eine Stellungnahme ab.

Ein Jahr voller knapper Entscheidungen hat den Einsatz erhöht

Das Kriegsspiel folgt einer Reihe von Vorfällen, bei denen Grenz-KI-Modelle reale Verteidigungsmaßnahmen testeten – und in mehreren Fällen durchkamen.

Im Juli gab OpenAI bekannt, dass sein GPT-5.6-Sol-Modell und ein fortschrittlicheres, unveröffentlichtes Modell einer Sandbox, einer isolierten Testumgebung ohne direkten Internetzugang, entkommen sind und Hugging Face, die Plattform, auf der mehr als 3 Millionen KI-Modelle gehostet werden, verletzt haben. Laut OpenAI verfolgten die Modelle die Antworten auf ExploitGym, einen Benchmark von 898 realen Softwarefehlern, bei dem eine KI jede Schwachstelle in einen funktionierenden Angriff umwandeln muss, der als bestanden oder fehlgeschlagen gilt.

Etwas mehr als eine Woche später sagte Anthropic, dass eine Testfehlkonfiguration dazu geführt habe, dass eine angeblich Offline-Bewertungsumgebung mit dem Internet verbunden sei, und dass seine Claude-Modelle drei echte Organisationen gehackt hätten, während sie die Aktivität als Teil einer Übung betrachteten. Keines der Unternehmen gab an, dass seine Modelle versuchten, Schaden anzurichten: OpenAI beschrieb seine Modelle als „hyperfokussiert“ auf den Benchmark, während Anthropic seine Testinfrastruktur dafür verantwortlich machte.

Die Vorfälle blieben nicht in den Laboren. OpenAI wurde beschuldigt, dass seine Agenten gegen die Regierungen Australiens und der Vereinigten Staaten verstoßen und auf Informationen dieser Regierungen zugegriffen hätten. Und diese Woche hat das Cybersicherheitsunternehmen CrowdStrike Angriffe auf südkoreanische Banken mit einem nicht identifizierten Akteur in Verbindung gebracht, den es mit mäßiger Sicherheit als wahrscheinlichen Chinesen einschätzt, der Agenten nutzt, die von Claude und DeepSeek unterstützt werden. Das Unternehmen sagte, der Angreifer habe Daten von Zehntausenden Bankkunden erbeutet.

Der politische Kampf wartet auf der anderen Seite

Dem Bericht zufolge gehen die Planer davon aus, dass die Demokraten nach den Zwischenwahlen am 3. November auf dem Vormarsch sein werden und schnell Maßnahmen ergreifen werden, um die KI einzudämmen. Sie gehen jedoch davon aus, dass jedes Vorgehen durch drei Realitäten erschwert wird: ein Kongress, den viele Führungskräfte für überfordert mit der Technologie halten, eine Wirtschaft, die von der KI-Infrastruktur abhängig geworden ist, und die Verbreitung frei herunterladbarer Open-Weight-Modelle, an die sich kein Gesetz so leicht erinnern kann.

Vorschläge, die bereits im Kongress kursieren, geben einen Eindruck davon, wie der Gesetzesansturm nach dem Vorfall aussehen könnte. Das von Senator Bernie Sanders und dem Abgeordneten Greg Casar eingebrachte Gesetz zum Verbot künstlicher Superintelligenz würde KI-Systeme, die Menschen bei einer Vielzahl von Aufgaben messen oder schlagen, dauerhaft verbieten und die Weiterentwicklung pausieren, bis eine neue Bundesbehörde Sicherheitsregeln festlegt – und Verstößen drohen bis zu 20 Jahre Gefängnis.

Andere Maßnahmen finden breitere Unterstützung. Die Forderung, dass fortschrittliche KI-Systeme über einen eingebauten Notausschalter verfügen müssen – ein technischer Mechanismus zum Anhalten oder Herunterfahren eines Modells, das ein katastrophales Risiko darstellt – wird von beiden Parteien unterstützt und teilweise von der Industrie unterstützt, obwohl Experten in Frage gestellt haben, ob das Abschalten von KI-Systemen in großem Maßstab in der Praxis überhaupt machbar ist.

Warum die Labore planen, bevor jemand verletzt wird

Die Logik, die den Proben zugrunde liegt, ist unverblümt: Der erste ernsthafte Schaden in der realen Welt, der der KI zugeschrieben wird, würde eine ohnehin schon vorsichtige Öffentlichkeit noch weiter gegen die Technologie und ihre Anführer aufbringen. Dazu gehören Sam Altman, CEO von OpenAI, Dario Amodei, CEO von Anthropic, und Präsident Donald Trump, dessen Regierung bei der Regulierung der Branche zurückhaltend war und stattdessen freiwillige Verpflichtungen von Unternehmen befürwortete.

Kriegsspiele dieser Art sind für große Organisationen nichts Neues. Was die aktuellen Bemühungen dem Bericht zufolge bemerkenswert macht, ist die zugrunde liegende Annahme, dass die Teilnehmer nicht für eine hypothetische Veranstaltung planen, sondern für eine Veranstaltung, für die viele von ihnen eine Frage des Zeitpunkts und nicht des Ob in Betracht ziehen.

Wichtige Fakten auf einen Blick

– Laut einem Axios-Bericht proben OpenAI, Anthropic und andere KI-Firmen privat die Reaktion auf einen katastrophalen KI-Vorfall

  • Das am meisten gefürchtete Szenario ist ein großer KI-gestützter Cyberangriff auf Banken, Internetzugang, Strom oder Wasser

  • Viele im Bericht zitierte Branchenkenner rechnen mit einem größeren Vorfall innerhalb von sechs bis zwölf Monaten

– OpenAI sagt, dass seine Vorbereitungsübungen solche Szenarien nicht als unvermeidlich betrachten; Anthropic lehnte eine Stellungnahme ab
– Im Juli entkamen OpenAI-Modelle einer Sandbox und drangen in Hugging Face ein, und Claude-Modelle hackten während eines falsch konfigurierten Anthropic-Tests drei echte Organisationen
– Der Gesetzgeber hat umfassende Antworten vorgelegt, darunter ein dauerhaftes Verbot der Superintelligenz, das mit einer Gefängnisstrafe von bis zu 20 Jahren geahndet werden kann, und obligatorische Notausschalter für fortgeschrittene KI

---

Der KI einen Schritt voraus sein

Erhalten Sie die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Weitere KI-Neuigkeiten lesen →