US-Militär hätte wegen KI-halluziniertem Geheimdienstbericht beinahe ein chinesisches Schiff geentert

Das US-Militär kam einer direkten Konfrontation mit China näher, als fast jeder in diesem Frühjahr gedacht hätte – und laut einem am Freitag veröffentlichten exklusiven CNN-Bericht war eine KI-Halluzination der Grund dafür.

Der Bericht beschreibt detailliert, wie ein mit Hilfe eines Chatbots erstelltes Geheimdienstdokument eine Kette von Ereignissen auslöste, bei der sich bewaffnete US-Mitarbeiter darauf vorbereiteten, im Nahen Osten an Bord eines chinesischen Schiffes zu gehen, in der Annahme, dass das Schiff Komponenten eines Atomwaffenprogramms transportierte. Nach Angaben mit dem Einsatz vertrauter Quellen befanden sich bereits Militärflugzeuge in der Luft. Weitere Informationen zu dieser Geschichte finden Sie in unserer KI-Nachrichten.

Die Mission wurde erst kurz vor dem geplanten Abfangen abgebrochen, als Beamte sich eingehender mit dem Bericht befassten und herausfanden, dass seine zentrale Behauptung – diejenige, die das US-Militär mobilisiert hatte – falsch war.

Eine mit der Episode vertraute Quelle beschrieb den Geheimdienstbericht gegenüber CNN als „völlig falsch“. Es habe außerdem, so die Quelle, „fast einen Krieg ausgelöst“. Jeder US-Einsatz gegen ein chinesisches Schiff hätte zu einem bewaffneten Konflikt zwischen den beiden Nationen führen können.

Wie aus der Behauptung eines Chatbots eine Militäroperation wurde

Die Episode begann in diesem Frühjahr, mitten im Krieg mit dem Iran, als ein Geheimdienstbericht im gesamten US-Militär die Runde machte. Das Dokument behauptete, ein chinesisches Schiff im Nahen Osten trage Komponenten des Atomwaffenprogramms und ließ sofort Alarmglocken schrillen.

Laut CNN wurde der Bericht von einem Analysten des US-Spezialeinsatzkommandos zusammengestellt, der einen Chatbot nach Geheimdienstberichten zum Schiffsmanifest befragt hatte – Berichte, die vom US-Spezialeinsatzkommando Pacific mit Sitz in Hawaii stammten. Es bleibt unklar, ob es sich bei dem Chatbot um ein kommerziell erhältliches Produkt oder um ein Tool der US-Regierung handelte. Ein ehemaliger hochrangiger US-Beamter, der mit den von Militär- und Geheimdienstanalysten verwendeten KI-Systemen vertraut ist, gab CNN eine unverblümte Einschätzung der internen Angebote der Regierung: „Die internen Tools sind größtenteils nur Kopien des kommerziellen Zeugs mit Lippenstift.“

Der Chatbot kombinierte Open-Source-Informationen mit geheimen Signalinformationen der Regierung und kam zu seiner schicksalhaften Schlussfolgerung über die Schiffsladung. Anschließend nutzte der Analyst die KI ein zweites Mal, um die Ergebnisse in einen Standard-Geheimdienstbericht zu packen – den Art, dem Militärbeamte vertrauen – und verbreitete ihn.

Vier mit der Episode vertraute Quellen sprachen mit CNN. Laut zwei von ihnen bereiteten sich bewaffnete Angehörige des US-Militärs darauf vor, an Bord des Schiffes zu gehen, als die Berichterstattung scheiterte. CNN konnte nicht herausfinden, um welche fälschlicherweise identifizierte Fracht es sich tatsächlich handelte. Das US Special Operations Command Pacific und das Pentagon antworteten nicht auf die Bitte von CNN um einen Kommentar.

Eine Beschleunigungsstrategie trifft auf einen Realitätscheck

Der Beinahe-Unfall ereignet sich zu einem Zeitpunkt, an dem das Pentagon darauf drängt, KI in nahezu jeden Aspekt seiner Arbeit einzubinden – bei der Analyse riesiger Mengen an Rohinformationen, bei der Auswahl von Zielen für Angriffe und bei der Abwicklung alltäglicherer Aufgaben wie Budgetierung, Logistik und Lieferketten.

Im Januar veröffentlichte Verteidigungsminister Pete Hegseth die „Strategie zur Beschleunigung künstlicher Intelligenz“ des Ministeriums, ein Versuch, die Einführung militärischer KI zu beschleunigen.

„Wir werden Experimente starten, bürokratische Hürden beseitigen, unsere Investitionen fokussieren und den Umsetzungsansatz demonstrieren, der erforderlich ist, um sicherzustellen, dass wir in der militärischen KI führend sind“, sagte Hegseth in einer Rede, in der er die Strategie ankündigte.

Das begleitende Memo geht noch weiter und weist das Ministerium an, KI über mehrere Programme verfügbar zu machen, mit dem Ziel, „KI-Experimente und -Transformationen im gesamten Ministerium zu demokratisieren, indem Amerikas weltweit führende KI-Modelle direkt in die Hände unserer drei Millionen zivilen und militärischen Mitarbeiter aller Klassifizierungsstufen gelegt werden.“

Aber die Bemühungen sind dezentralisiert, sagten mehrere US-Beamte gegenüber CNN, wobei verschiedene Teile der Regierung unterschiedliche Instrumente unter unterschiedlichen Anordnungen und Sicherheitsstandards nutzen. Es gibt keine einheitlichen Standards zur Überprüfung der von diesen Tools generierten Informationen und die Zuverlässigkeit der verschiedenen Systeme variiert stark.

Beim Targeting liegt das Risiko

Analysten befürchten seit langem, dass KI zu einer katastrophalen Fehleinschätzung beitragen könnte, wenn Nationalstaaten auf der Grundlage schlechter oder beschädigter Daten handeln. Der Vorfall mit dem chinesischen Schiff ist ein dokumentierter Fall, in dem sich genau dieser Fehlermodus in Echtzeit bildete – und die Sicherheitsmaßnahmen ihn bis zum letzten Moment nicht erkannten.

„KI bei der Zielerfassung ist definitiv etwas, das auf dem Vormarsch ist, und es gibt keine wirkliche Anleitung dafür, wie ein Mensch auf dem Laufenden bleiben kann, um Opfer unter der Zivilbevölkerung oder Brudermord zu verhindern“, sagte eine andere Quelle, die mit der aktuellen Politik des Militärs vertraut ist, gegenüber CNN.

Laut der Berichterstattung von CNN war die Art von Halluzination, die zu der falschen Behauptung geführt hat, kein Einzelfall in der gesamten Geheimdienstgemeinschaft, seit sich KI-Tools in der Regierung zu verbreiten begannen. Mehrere Quellen wiesen auch auf ein kulturelles Risiko hin: Jüngere Analysten, die mit diesen Tools vertraut sind, neigen eher dazu, ihnen unkritisch zu vertrauen, und der Druck, Informationen schneller zu produzieren, lässt mehr Raum für Fehler.

„Mit KI kommt man schneller zu einer schlechten Idee“, sagte eine Quelle.

Ein unmittelbareres Risiko als Superintelligenz

Seit Wochen wird Washington von einer Debatte über langfristige KI-Risiken erschüttert, nachdem eine Reihe eindringlicher öffentlicher Warnungen von Ingenieuren und Technologiemanagern aus dem Silicon Valley vor Systemen bestanden, die sich möglicherweise von menschlichen Zwängen lösen könnten. Der CNN-Bericht unterstreicht eine andere und unmittelbarere Gefahr: Menschen treffen katastrophale Entscheidungen auf der Grundlage ungenauer oder irreführender KI-Ergebnisse – gerade jetzt, inmitten realer geopolitischer Spannungen.

In diesem Frühjahr wurden keine Schüsse abgefeuert und das Entern fand nie statt. Aber dieser Vorfall ist das bisher deutlichste Beispiel dafür, dass maschinell erzeugte Fehler, sobald sie in die offizielle Berichterstattung eingespeist werden, durch den mächtigsten Militärapparat der Welt bis an den Rand eines bewaffneten Konflikts zwischen Atommächten gelangen können – ohne dass ein dauerhafter Verifizierungsstandard vorhanden ist, um den nächsten zu stoppen.

---

Bleib vorne bei KI

Die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Mehr KI-Nachrichten lesen →