Eine Überprüfung des US-Verteidigungsministeriums kam zu dem Schluss, dass übermäßiger Einsatz künstlicher Intelligenz zu einem Raketenangriff auf eine Schule im Iran im März beigetragen hat, bei dem Berichten zufolge etwa 120 Kinder getötet wurden. Dies geht aus den Ergebnissen der Überprüfung hervor, die Bloomberg am Montag berichtete und die von Yahoo News und anderen Medien zusammengefasst wurden.
Die Feststellung ist das erste Mal, dass das Pentagon offiziell einen tödlichen Kampfausgang zum Teil auf den Einsatz eines KI-Systems zurückführt, und sie landet mitten in einer sich verschärfenden Debatte darüber, wie viel Zielkompetenz das US-Militär an maschinelles Urteilsvermögen delegieren sollte. Weitere Berichte wie diese finden Sie in unserer KI-Ethik-Berichterstattung.
Was im März geschah
Der Angriff ereignete sich Anfang März 2026, als eine von Bellingcat veröffentlichte und von NPR und BBC überprüfte Videoanalyse zeigte, dass eine amerikanische Tomahawk-Marschflugkörper neben einer Mädchenschule in der iranischen Stadt Lamerd einschlug. Innerhalb weniger Tage berichtete die New York Times, dass eine vorläufige US-Untersuchung ergeben habe, dass der Angriff das Ergebnis einer US-Rakete sei, und iranische Quellen bezifferten die Zahl der Todesopfer auf Dutzende, die meisten davon Kinder.
Die neue Untersuchung des Pentagons, die in einer am Montag veröffentlichten Bloomberg-Untersuchung beschrieben wird, geht noch weiter: Berichten zufolge verfolgt sie den Fehler in der Targeting-Pipeline und kommt zu dem Schluss, dass eine übermäßige Abhängigkeit von KI zu dem Angriff beigetragen hat. Yahoo News fasste die Überprüfung so zusammen, dass ein KI-Zielsystem mit dem Angriff in Verbindung gebracht wird, bei dem 120 iranische Kinder getötet wurden. Mehrere Medien haben das fragliche System als von Palantir bereitgestellte Software identifiziert, obwohl das Pentagon die Angaben zum Anbieter nicht öffentlich bestätigt hat.
Innerhalb der Kill Chain
Die Los Angeles Times hat in einer parallelen Untersuchung, die am Montag veröffentlicht wurde, die sogenannte „Tötungskette“ der USA nachgezeichnet, die die Schule zerstört hat – die Abfolge von Datenerfassung, maschinengestützter Zielnennung und menschlicher Freigabe, die mit einem Raketenabschuss endete. Die Berichterstattung unterstreicht eine unangenehme Realität der modernen Präzisionskriegsführung: Die Besatzung, die einen Tomahawk abfeuert, sieht das Ziel möglicherweise nie. Sie führen ein vorab zusammengestelltes Zieldatenpaket aus, wobei algorithmische Tools zunehmend bestimmen, was nominiert wird und wie sicher die unterstützenden Analysten sind.
Mit anderen Worten: Das zentrale Ergebnis der Überprüfung – übermäßiges Vertrauen – betrifft nicht einen Roboter, der einen Abzug drückt. Es geht darum, dass Menschen der Leistung einer Maschine so vertrauen, dass sie die Skepsis überspringen, die der Prozess erfordern sollte.
Aufsicht, die abgebaut wurde
Der Kontext für den Fehler wurde bereits vor Monaten gemeldet. Politico enthüllte im März, dass der Pentagon-Chef Büros gestrichen hatte, die nicht zu seinen „Tödlichkeits“-Zielen beitrugen, darunter das Civilian Protection Center of Excellence, und dass die Zahl der Teams zur Schadensminderung für Zivilisten um etwa 90 % gesunken war und auf insgesamt weniger als 20 Personen geschrumpft war. ProPublica berichtete, dass das Zivil- und Unfallteam des Zentralkommandos von zehn auf eine Person gesunken sei.
Vor diesem Hintergrund lesen sich die Ergebnisse der Überprüfung weniger wie ein Softwarefehler als vielmehr wie ein Systemversagen: ein KI-Tool, dessen Fehler in einem Zielgerät, dessen menschliche Sicherheitsnetze bis auf die Knochen durchtrennt waren, unangefochten blieben.
Ein Muster, von dem das Pentagon bereits wusste
Der Iran-Angriff war kein isolierter KI-bedingter Beinaheunfall des US-Militärs. Separate Berichte von Gizmodo und Futurism dokumentierten einen Vorfall, bei dem das Militär beinahe ein chinesisches Schiff geentert hätte – und möglicherweise darauf geschossen hätte –, nachdem ein KI-System Atomwaffenmaterial an Bord halluziniert hatte, ein Fehler, der eine Eskalation der Großmächte hätte auslösen können. In diesem Fall konnte durch menschliches Eingreifen eine Katastrophe verhindert werden. Im Iran kam es zu keiner solchen Intervention.
KI-Forscher und Militärethiker warnen seit Jahren davor, dass maschinelle Ergebnisse, die in Entscheidungen mit hohem Risiko einfließen, zu Automatisierungsfehlern führen – der dokumentierten menschlichen Tendenz, zuversichtlichen Systemen zu vertrauen. Die eigene Überprüfung des Pentagon gilt nun als offizielle Anerkennung dafür, dass diese Voreingenommenheit zu einem der tödlichsten Todesopfer unter der Zivilbevölkerung im Krieg beigetragen hat.
Was als nächstes kommt
Die Überprüfung dürfte in Washington den Druck auf gesetzliche Human-in-the-Loop-Anforderungen bei der KI-gestützten Zielerfassung verstärken, während die Regierung gleichzeitig darauf drängt, die Einführung militärischer KI zu beschleunigen. Es verkompliziert auch die Verkaufsargumente von Verteidigungstechnologieanbietern, deren Produkte nun in eine formelle Fehlerprüfung verwickelt sind – und es gibt dem Kongress eine konkrete, dokumentierte Fallstudie, die er in Anhörungen zur autonomen Waffenpolitik zitieren kann.
Viele Fragen bleiben unbeantwortet. Die bisher veröffentlichten Zusammenfassungen der Überprüfung geben nicht an, welche Modellversion verwendet wurde, ob der Fehler eine Halluzination, eine Fehlklassifizierung des Gebäudes oder beschädigte Eingangsdaten im Vorfeld war – Unterscheidungen, die für die Regulierung von KI-Werkzeugen durch das Militär von enormer Bedeutung sind. Es ist auch nicht klar, ob die Ergebnisse des Systems vor der Fertigstellung des Zielpakets von irgendeinem Analysten überprüft wurden.
Die öffentliche Meinung ist bereits skeptisch: Eine diese Woche veröffentlichte Reuters/Ipsos-Umfrage ergab, dass 73 % der Amerikaner der Meinung sind, dass KI-Unternehmen nicht genug tun, um katastrophale Folgen zu verhindern, und die Besorgnis über KI in Waffensystemen ist in Umfragen durchweg höher als die Besorgnis über Verbraucher-KI. Was mit den Empfehlungen der Überprüfung passiert – und ob jemand zur Rechenschaft gezogen wird – wird darauf hinweisen, ob sich die Feststellung in der Praxis ändert oder zu einem weiteren Vorfallbericht wird, der archiviert und vergessen wird.
---
Erhalten Sie die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Weitere KI-Neuigkeiten lesen →
