Wie Reuters am Montag berichtete, werden sich die großen Militärmächte USA und Russland voraussichtlich bei einem globalen Treffen in Genf diese Woche gegen den Vorstoß zur Aufnahme von Verhandlungen über rechtsverbindliche Regeln für autonome Waffen wehren. Diplomaten und Menschenrechtsgruppen gehen davon aus, dass die Gespräche schwierig werden.

Das von den Vereinten Nationen veranstaltete Treffen, das am Montag in Genf begann, muss entscheiden, ob Verhandlungen über ein rechtsverbindliches Abkommen über Verbote und Vorschriften für tödliche autonome Waffensysteme (LAWS) aufgenommen werden sollen – die sogenannten „Killerroboter“, von denen Kritiker warnen, dass sie Ziele ohne menschliches Zutun auswählen und angreifen könnten. Der Aufstieg der künstlichen Intelligenz hat die Entwicklung von Drohnen, Robotern, Panzern und U-Booten beschleunigt, die ohne direkten menschlichen Befehl töten können, und halbautonome, KI-gestützte Waffen wurden bereits in der Ukraine, im Sudan und im Nahen Osten eingesetzt – eine reale Entwicklung, die in der KI-Branchenberichterstattung des Verteidigungstechnologiesektors verfolgt wird.

Was in Genf auf dem Tisch liegt

Bei dem Treffen handelt es sich um die Überprüfungskonferenz des Übereinkommens über bestimmte konventionelle Waffen (CCW), an dem 128 Staaten beteiligt sind. Während die meisten dieser Staaten die Aufnahme von Verhandlungen über ein verbindliches Instrument zu LAWS unterstützen, lehnen große Militärnationen wie die USA, Russland und Israel den Schritt ab und argumentieren, dass das bestehende humanitäre Völkerrecht bereits ausreicht, um diese Waffen zu regeln.

Mehrere konkurrierende Vorschläge sind im Spiel. Der Vorsitzende der Gespräche dieser Woche hat ein zweijähriges Mandat zur Aushandlung eines rechtsverbindlichen Protokolls vorgeschlagen. Im Gegensatz dazu bevorzugt Washington Richtlinien gegenüber verbindlichen Regeln und hat ein fünfjähriges Mandat für Gespräche über ein unverbindliches Abkommen vorgeschlagen. Laut Verity Coyle von Human Rights Watch im Gespräch mit Reuters haben das Vereinigte Königreich, Deutschland und Frankreich Verhandlungen über ein Instrument vorgeschlagen, bei dem offen bleibt, ob es letztendlich rechtsverbindlich sein wird.

Diplomaten teilten Reuters mit, dass die Diskussionen eine Herausforderung darstellen würden, sagten jedoch, dass die Staaten bis Ende der Woche Brücken zu einer Kompromissvereinbarung bauen könnten. Alle Optionen bleiben auf dem Tisch, von rechtsverbindlichen bis hin zu nicht rechtsverbindlichen Texten, bis hin zu einem Hybridabkommen, das beide Elemente vereint.

Warum die USA und Russland Widerstand leisten

Washingtons Position beruht auf dem Argument, dass das Völkerrecht bereits einen Rahmen für die Regelung der Kriegsführung vorgibt, was einen neuen Vertrag unnötig macht. Russland hat seinen Standpunkt zu den Gesprächen nicht öffentlich dargelegt, hat sich jedoch zuvor Vorschlägen für ein rechtsverbindliches Abkommen widersetzt – und plant, die Europäische Union, die als Beobachter der Gespräche fungiert, daran zu hindern, das Wort zu ergreifen, sagte ein hochrangiger westlicher Diplomat gegenüber Reuters.

Anna Hehir, Leiterin der militärischen KI-Governance am Future of Life Institute, sagte gegenüber Reuters, dass die USA und Russland wahrscheinlich versuchen würden, jedes Ergebnis abzuschwächen, wie sie es im September mit einem UN-Text über autonome Waffen und deren Schadenspotenzial taten. Auf der UN-Generalversammlung letzten Monat verabschiedeten 163 Staaten eine Resolution, in der Verhandlungen über Regeln für autonome Waffen gefordert werden. Fünf Länder stimmten dagegen – die Vereinigten Staaten, Russland, Weißrussland, Israel und Nordkorea – und neun enthielten sich der Stimme, darunter Iran, Saudi-Arabien und China.

Warnungen der UN, des Roten Kreuzes und des Papstes

Der Regulierungsdrang wird von einer ungewöhnlichen Koalition unterstützt. UN-Generalsekretär Antonio Guterres, die Führung des Internationalen Komitees vom Roten Kreuz und Papst Leo XIV. haben alle davor gewarnt, die Macht über Leben und Tod vollständig autonomen Maschinen zu überlassen. Im Jahr 2023 forderten Guterres und IKRK-Präsidentin Mirjana Spoljaric Egger die Staaten gemeinsam dazu auf, vor 2026 ein Verbot autonomer Waffen abzuschließen.

„Die Notwendigkeit, autonome Waffen zu regulieren, hat mit der Entwicklung der künstlichen Intelligenz eine neue Dringlichkeit erlangt“, sagte Laurent Gisel, Leiter der Abteilung für Waffen und Feindseligkeitsführung beim IKRK. Das Rote Kreuz ist der Ansicht, dass das humanitäre Recht die spezifischen Risiken, die autonome Waffen mit sich bringen, nicht ausreichend berücksichtigt, und fordert ein Verbot zweier Kategorien: unvorhersehbare autonome Waffen und solche, die direkt auf Menschen abzielen oder eingesetzt werden.

„Maschinen sollten niemals entscheiden dürfen, wer auf einem Schlachtfeld lebt und stirbt, aber das ist die dystopische Realität, die immer näher rückt“, sagte Verity Coyle von Human Rights Watch, die die Überprüfungskonferenz zu entschlossenem Handeln auffordert und davor gewarnt hat, dass Zivilisten „gefährlich exponiert“ werden, wenn das Treffen scheitert.

Autonome Waffen sind bereits auf dem Schlachtfeld

Befürworter verbindlicher Regeln argumentieren, dass die Debatte über Hypothesen hinausgegangen sei. Berichten zufolge hat Russland in seinem Krieg gegen die Ukraine völlig autonome Drohnen mit tödlicher Wirkung eingesetzt, während die Verteidigungsindustrie der Ukraine auf die Entwicklung autonomer Drohnenschwärme drängt. Nordkorea prahlte letzte Woche mit einem neuen KI-gestützten Torpedosystem.

Hehir sagte gegenüber Reuters, dass LAWS keine Science-Fiction mehr seien, und verwies auf Medienberichte über den frühen Einsatz vollständig autonomer Systeme in der Ukraine. Aktivisten warnen davor, dass sich die Systeme unvorhersehbar verhalten können, was das Risiko schwerwiegender Fehler erhöht, selbst wenn das Militär die Menschen auf dem Laufenden halten möchte.

Was als nächstes passiert

Angesichts des Widerstands der führenden Militärmächte halten Beobachter es für unwahrscheinlich, dass diese Woche eine Einigung über die Aufnahme formeller Verhandlungen über verbindliche Regeln erzielt wird. Die wahrscheinlichsten Ergebnisse sind nach Ansicht von Diplomaten ein Kompromissmandat – möglicherweise ein hybrides Instrument, das die Frage der Rechtsverbindlichkeit aufschiebt – oder ein weiteres Jahr Stillstand.

In jedem Fall wird die Genfer Sitzung testen, ob die internationale Rüstungskontrolle mit der KI-gesteuerten Waffenentwicklung Schritt halten kann oder ob, wie bei früheren Transformationen in der Militärtechnologie, verbindliche Beschränkungen erst dann eintreten, wenn die Waffen bereits weit verbreitet sind.

Der KI einen Schritt voraus sein

Verfolgen Sie die politischen Entscheidungen, die den weltweiten Einsatz von KI beeinflussen. Weitere KI-Neuigkeiten lesen →