Διαπραγματεύσεις για πιθανούς κανόνες για φονικά αυτόνομα όπλα - τα λεγόμενα "ρομπότ δολοφόνων" - βρίσκονται σε εξέλιξη στα Ηνωμένα Έθνη στη Γενεύη, σε μια διάσκεψη που οι υποστηρικτές του ελέγχου των όπλων περιγράφουν ως την τελευταία ρεαλιστική ευκαιρία να τεθούν όρια πριν η τεχνολογία ξεπεράσει εντελώς τη διπλωματία. Οι συνομιλίες πραγματοποιούνται στη διάσκεψη του ΟΗΕ για ορισμένα συμβατικά όπλα (CCW) αυτής της εβδομάδας, ένα φόρουμ που συγκαλείται σε αυτό το επίπεδο μόνο μία φορά κάθε πέντε χρόνια.

Το επείγον δεν είναι υποθετικό. Η τεχνολογία του πολέμου έχει προχωρήσει ραγδαία τα τελευταία χρόνια και ορισμένοι ειδικοί προειδοποιούν τώρα ότι ο κόσμος απέχει μόλις μήνες από όπλα που μπορούν να επιλέξουν στόχους και να λάβουν την απόφαση να σκοτώσουν χωρίς έναν άνθρωπο στο βρόχο. Στην Ουκρανία και τη Γάζα, όπλα με τη βοήθεια τεχνητής νοημοσύνης έχουν ήδη χρησιμοποιηθεί για να χτυπήσουν στόχους, με Ουκρανούς πολίτες να αναφέρουν ότι έχουν «κυνηγηθεί» από drones ενώ ψωνίζουν ή πηγαίνουν στο σχολείο. Αυτά τα συστήματα εξακολουθούν να ελέγχονται εξ αποστάσεως από ανθρώπινους χειριστές — αλλά η απόσταση μεταξύ του τηλεχειριστηρίου και της πλήρους αυτονομίας συρρικνώνεται. Για τους αναγνώστες που παρακολουθούν πόσο γρήγορα κινείται αυτό το πεδίο, η κάλυψη όπλων τεχνητής νοημοσύνης και δεοντολογίας ακολουθεί κάθε εξέλιξη.

Γιατί οι καμπάνιες το αποκαλούν "Τελευταία καλύτερη ευκαιρία"

Οι υποστηρικτές των ελέγχων στα αυτόνομα όπλα υποστηρίζουν ότι η συνεδρίαση της CCW αυτής της εβδομάδας είναι το τελευταίο παράθυρο για να συμφωνηθούν κανόνες, ενώ η τεχνολογία παραμένει στο ημιαυτόνομο στάδιο της. Μόλις τεθούν σε κλίμακα όπλα που επιλέγουν και εμπλέκουν στόχους ανεξάρτητα, ισχυρίζονται ότι η διαπραγματευτική συγκράτηση γίνεται δραματικά πιο δύσκολη - τα κράτη θα έχουν ήδη ενσωματώσει τα συστήματα στα οπλοστάσια και τα δόγματά τους.

Το ηθικό βάρος πίσω από τις συνομιλίες είναι ασυνήθιστα ευρύ. Πριν από τη συνάντηση, τα Ηνωμένα Έθνη, η Διεθνής Επιτροπή του Ερυθρού Σταυρού και ο Πάπας απηύθυναν έκκληση για νομικά δεσμευτικούς κανόνες. Ο Γενικός Γραμματέας του ΟΗΕ Αντόνιο Γκουτέρες προειδοποίησε ότι το να επιτραπεί η θανάτωση σε πλήρως αυτόνομα όπλα θα ήταν «περίβαση μιας ηθικής κόκκινης γραμμής».

Η ανθρωπιστική υπόθεση: Η ευθύνη πρέπει να παραμείνει ανθρώπινη

Οι ανθρωπιστικές οργανώσεις υποστηρίζουν ότι η απόφαση για τη δολοφονία - και η ευθύνη για αυτήν την επιλογή - πρέπει να παραμείνει σε ανθρώπινα χέρια. Ο Ερυθρός Σταυρός ανησυχεί ιδιαίτερα ότι οι υφιστάμενοι κανόνες πολέμου, που κωδικοποιούνται στις Συμβάσεις της Γενεύης, δεν μπορούν να γίνουν αξιόπιστοι σεβαστοί από αυτόνομα συστήματα. Ο πόλεμος είναι χαοτικός και γρήγορος και οι Συμβάσεις προστατεύουν τους στρατιώτες που τραυματίζονται ή παραδίδονται ενεργά από το να στοχοποιηθούν.

«Ο κίνδυνος είναι ότι, με βάση την τεχνολογία που βλέπουμε, δεν είναι σε θέση να κατανοήσουν με τον ίδιο τρόπο ότι ο άνθρωπος είναι τα συμφραζόμενα σήματα», δήλωσε η Georgia Haines, νομική σύμβουλος του Ερυθρού Σταυρού. «Και έτσι οι κίνδυνοι είναι απίστευτα μεγάλοι ότι θα υπάρξει λάθος προσδιορισμός ενός στόχου».

Ομάδες ανθρωπίνων δικαιωμάτων προσθέτουν μια οικονομική διάσταση στον κίνδυνο: η τεχνολογία πίσω από τα όπλα που υποβοηθούνται από AI γίνεται φθηνή και εύκολη στη χρήση. Όσο ευρύτερη είναι η υιοθέτησή του από τους εθνικούς στρατούς, τόσο μεγαλύτερος είναι ο κίνδυνος διάδοσης σε τρομοκρατικές ομάδες ή σε υπηρεσίες επιβολής του νόμου σε κατασταλτικά καθεστώτα. Θεωρητικά, ένα σμήνος αυτόνομων drones θα μπορούσε να προγραμματιστεί ώστε να επιτίθεται σε όλους όσους φορούν συγκεκριμένο χρώμα ρούχα ή φέρουν μια συγκεκριμένη αφίσα - διακρίσεις σε κλίμακα που οι νόμοι του πολέμου δεν σχεδιάστηκαν ποτέ να χειριστούν.

A Split Room: 50 Plus States Versus the Big Three

Τουλάχιστον 50 χώρες - συμπεριλαμβανομένης της Ιρλανδίας, της Ιταλίας, της Βραζιλίας, του Μεξικού, της Γαλλίας και της Γερμανίας - ζητούν ένα αυστηρό χρονοδιάγραμμα για τη συμφωνία δεσμευτικών κανόνων που διέπουν τα αυτόνομα όπλα. Πολλά από τα κράτη που συναντώνται τώρα στη Γενεύη λαμβάνουν σοβαρά υπόψη τις ανθρωπιστικές ανησυχίες και θέλουν η διαδικασία να εδραιωθεί στο διεθνές δίκαιο.

Αλλά μεταξύ των κρατών που ήδη αναπτύσσουν και αναπτύσσουν ημιαυτόνομα όπλα, υπάρχει σταθερή απώθηση. Οι Ηνωμένες Πολιτείες, η Ρωσία και το Ισραήλ έχουν δηλώσει ότι θα αντιταχθούν σε νομικά δεσμευτικούς κανόνες. Η αντιπρόταση της Ουάσιγκτον: ένα πενταετές χρονοδιάγραμμα για τη σύνταξη μη δεσμευτικών κατευθυντήριων γραμμών.

Η θέση των ΗΠΑ αντικατοπτρίζει έναν ευρύτερο σκεπτικισμό των Συνθηκών

Η αμερικανική στάση είναι συνεπής με ένα μακρύ μοτίβο: οι ΗΠΑ παραδοσιακά υιοθετούν αργά τις διεθνείς συνθήκες. Ποτέ δεν επικύρωσε τη Σύμβαση της Οτάβα για τις νάρκες ξηράς, αν και με την πάροδο του χρόνου σταμάτησε την ανάπτυξή τους και μείωσε τα αποθέματά της. Υπό τον Πρόεδρο Τραμπ, οι αμφιβολίες για το διεθνές δίκαιο έχουν γίνει πιο σαφείς - η Ουάσιγκτον επέβαλε σαρωτικές κυρώσεις στο Διεθνές Ποινικό Δικαστήριο και αυτό το Σαββατοκύριακο ο υπουργός Εξωτερικών Μάρκο Ρούμπιο, σε μια κεντρική ομιλία στην Ομοσπονδιακή Εταιρεία, προειδοποίησε να μην "αναφέρουμε νόμους σε άνδρες με ξίφη".

Κανόνες συναίνεσης και μια ιστορία λύσεων

Ένα διαρθρωτικό πρόβλημα κρέμεται στις συνομιλίες της Γενεύης: οι διαπραγματεύσεις του ΟΗΕ για τον περιορισμό συγκεκριμένων όπλων υποτίθεται ότι θα προχωρήσουν με συναίνεση. Αυτός ο μηχανισμός παρήγαγε μια συμφωνία ορόσημο - την απαγόρευση του 1995 για τα εκτυφλωτικά λέιζερ - αλλά οι περισσότερες άλλες προσπάθειες έχουν θεμελιωθεί. Με τις νάρκες ξηράς, οι χώρες που απογοητεύτηκαν από την αργή διαδικασία των Ηνωμένων Εθνών οδήγησαν τελικά τις διαπραγματεύσεις εκτός αυτού εξ ολοκλήρου, δημιουργώντας τη Σύμβαση της Οτάβα.

Οι διπλωμάτες επικαλούνται έναν πιθανό συμβιβασμό για αυτήν την εβδομάδα: μια μεγαλύτερη, ή ακόμα και αορίστου χρόνου, περίοδο διαπραγματεύσεων για την ανάπτυξη κανόνων που τα μεμονωμένα κράτη θα μπορούσαν στη συνέχεια να υιοθετήσουν ως δεσμευτικούς ή μη δεσμευτικούς. Για τους υποστηρικτές, αυτός είναι ένας τρόπος να εγγυηθεί τουλάχιστον κάποια πρόοδο. Για τους συμμετέχοντες στην εκστρατεία, υπολείπεται - κάποιος παρομοίασε την προσέγγιση με το να κλωτσάς ένα πολύ επικίνδυνο κουτάκι στο δρόμο.

Τι θα συμβεί στη συνέχεια

Εάν η διάσκεψη τελειώσει με μια εντολή αορίστου χρόνου, το πρακτικό αποτέλεσμα είναι ότι τα δεσμευτικά όρια για τα αυτόνομα όπλα υποχωρούν περαιτέρω στο μέλλον, ενώ τα χρονοδιαγράμματα ανάπτυξης συνεχίζουν να συμπιέζονται. Κυβερνήσεις, στρατοί και νεοφυείς επιχειρήσεις στον τομέα της άμυνας θα παρακολουθούν στενά τη Γενεύη αυτή την εβδομάδα – γιατί με όποιον τρόπο και αν επιτευχθεί η συναίνεση, θα καθορίσει το νομικό τοπίο για τα αυτόνομα όπλα για τα επόμενα χρόνια.

---

Μείνετε μπροστά από την τεχνητή νοημοσύνη

Λάβετε τα πιο πρόσφατα νέα, αναλύσεις και ανακαλύψεις για την τεχνητή νοημοσύνη — όλα σε ένα μέρος.

Διαβάστε περισσότερα νέα AI →