Verhandlungen über mögliche Regeln für tödliche autonome Waffen – sogenannte „Killerroboter“ – laufen derzeit bei den Vereinten Nationen in Genf, auf einer Konferenz, die Befürworter der Rüstungskontrolle als die letzte realistische Chance bezeichnen, Grenzen zu setzen, bevor die Technologie die Diplomatie völlig übertrifft. Die Gespräche finden diese Woche auf der UN-Konferenz zu bestimmten konventionellen Waffen (CCW) statt, einem Forum, das auf dieser Ebene nur alle fünf Jahre zusammenkommt.

Die Dringlichkeit ist nicht hypothetisch. Die Technologie der Kriegsführung hat in den letzten Jahren rasante Fortschritte gemacht, und einige Experten warnen nun, dass die Welt nur noch wenige Monate von Waffen entfernt ist, die Ziele auswählen und die Entscheidung zum Töten treffen können, ohne dass ein Mensch beteiligt ist. In der Ukraine und im Gazastreifen wurden KI-gestützte Waffen bereits zum Angriff auf Ziele eingesetzt, wobei ukrainische Zivilisten berichteten, sie seien beim Einkaufen oder auf dem Weg zur Schule von Drohnen „gejagt“ worden. Diese Systeme werden immer noch von menschlichen Bedienern ferngesteuert – aber der Abstand zwischen Fernsteuerung und vollständiger Autonomie wird kleiner. Für Leser, die verfolgen, wie schnell sich dieses Feld entwickelt, verfolgt unsere KI-Waffen- und Ethik-Berichterstattung jede Entwicklung.

Warum Aktivisten dies die „letzte beste Chance“ nennen

Befürworter der Kontrolle autonomer Waffen argumentieren, dass das CCW-Treffen diese Woche das letzte Fenster zur Einigung auf Regeln sei, solange sich die Technologie noch in ihrem halbautonomen Stadium befinde. Sobald Waffen, die unabhängig voneinander Ziele auswählen und angreifen, in großem Maßstab eingesetzt werden, wird es ihrer Ansicht nach erheblich schwieriger, über Zurückhaltung zu verhandeln – Staaten werden die Systeme bereits in ihre Arsenale und Doktrinen integriert haben.

Das moralische Gewicht hinter den Gesprächen ist ungewöhnlich weitreichend. Im Vorfeld des Treffens forderten die Vereinten Nationen, das Internationale Komitee vom Roten Kreuz und der Papst rechtsverbindliche Regeln. UN-Generalsekretär António Guterres warnte, dass die Zulassung vollständig autonomer Tötungswaffen „eine moralische rote Linie überschreiten“ würde.

Der humanitäre Fall: Verantwortung muss menschlich bleiben

Humanitäre Organisationen argumentieren, dass die Entscheidung zum Töten – und die Verantwortung dafür – in menschlichen Händen bleiben muss. Das Rote Kreuz ist besonders besorgt darüber, dass bestehende Kriegsregeln, die in den Genfer Konventionen kodifiziert sind, von autonomen Systemen nicht zuverlässig eingehalten werden können. Krieg ist chaotisch und schnelllebig, und die Konventionen schützen verwundete oder aktiv kapitulierende Soldaten vor Angriffen.

„Das Risiko besteht darin, dass sie aufgrund der Technologie, die wir sehen, nicht in der Lage sind, die kontextuellen Signale auf die gleiche Weise zu verstehen wie ein Mensch“, sagte Georgia Haines, Rechtsberaterin beim Roten Kreuz. „Und daher ist das Risiko unglaublich hoch, dass es zu einer Fehlidentifizierung eines Ziels kommt.“

Menschenrechtsgruppen fügen der Gefahr eine wirtschaftliche Dimension hinzu: Die Technologie hinter KI-gestützten Waffen wird immer billiger und benutzerfreundlicher. Je umfassender es von nationalen Militärs übernommen wird, desto größer ist das Risiko einer Weitergabe an terroristische Gruppen oder an Strafverfolgungsbehörden in repressiven Regimen. Theoretisch könnte ein Schwarm autonomer Drohnen so programmiert werden, dass er jeden angreift, der eine bestimmte Kleidungsfarbe oder ein bestimmtes Plakat trägt – eine Diskriminierung in einem Ausmaß, für das das Kriegsrecht nie ausgelegt war.

Ein geteilter Raum: Über 50 Staaten gegen die Großen Drei

Mindestens 50 Länder – darunter Irland, Italien, Brasilien, Mexiko, Frankreich und Deutschland – fordern einen strengen Zeitplan für die Vereinbarung verbindlicher Regeln für autonome Waffen. Viele der jetzt in Genf tagenden Staaten nehmen die humanitären Bedenken ernst und wollen den Prozess im Völkerrecht verankern.

Doch unter den Staaten, die bereits halbautonome Waffen entwickeln und einsetzen, gibt es heftigen Widerstand. Die Vereinigten Staaten, Russland und Israel haben angedeutet, dass sie sich gegen rechtsverbindliche Regeln aussprechen werden. Washingtons Gegenvorschlag: stattdessen ein Fünf-Jahres-Zeitplan zur Ausarbeitung unverbindlicher Leitlinien.

Die Position der USA spiegelt eine breitere Skepsis gegenüber Verträgen wider

Die amerikanische Haltung steht im Einklang mit einem langen Muster: Die USA sind traditionell ein Spätanwender internationaler Verträge. Das Ottawa-Übereinkommen über Landminen wurde nie ratifiziert, obwohl es im Laufe der Zeit den Einsatz von Landminen einstellte und seine Bestände reduzierte. Unter Präsident Trump sind die Zweifel am Völkerrecht deutlicher geworden – Washington hat weitreichende Sanktionen gegen den Internationalen Strafgerichtshof verhängt, und an diesem Wochenende warnte Außenminister Marco Rubio in einer Grundsatzrede vor der Federalist Society davor, „Männern mit Schwertern Gesetze zu zitieren“.

Konsensregeln und eine Geschichte von Problemumgehungen

Über den Genfer Gesprächen schwebt ein strukturelles Problem: Die UN-Verhandlungen über die Begrenzung bestimmter Waffen sollen im Konsens stattfinden. Dieser Mechanismus führte zu einer bahnbrechenden Vereinbarung – dem Verbot blendender Laser von 1995 –, aber die meisten anderen Versuche sind gescheitert. Im Hinblick auf Landminen führten Länder, die über den langsamen UN-Prozess frustriert waren, die Verhandlungen schließlich gänzlich aus und führten zur Ottawa-Konvention.

Für diese Woche hegen Diplomaten einen möglichen Kompromiss: eine längere oder sogar unbefristete Verhandlungsperiode, um Regeln zu entwickeln, die einzelne Staaten dann als verbindlich oder unverbindlich übernehmen könnten. Für die Unterstützer ist das eine Möglichkeit, zumindest einen gewissen Fortschritt zu garantieren. Für Aktivisten ist das völlig unzureichend – man verglich den Ansatz damit, eine sehr gefährliche Dose auf die Straße zu werfen.

Was als nächstes passiert

Wenn die Konferenz mit einem unbefristeten Mandat endet, hat dies in der Praxis zur Folge, dass verbindliche Grenzwerte für autonome Waffen weiter in die Zukunft rücken, während sich die Einsatzzeitpläne immer weiter verkürzen. Regierungen, Militärs und Verteidigungs-Startups werden Genf diese Woche genau beobachten – denn wie auch immer der Konsens ausfallen wird, er wird die Rechtslandschaft für autonome Waffen für die kommenden Jahre bestimmen.

---

Der KI einen Schritt voraus sein

Erhalten Sie die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Weitere KI-Neuigkeiten lesen →