I negoziati su possibili regole per le armi autonome letali – i cosiddetti “robot killer” – sono in corso presso le Nazioni Unite a Ginevra, in una conferenza che i sostenitori del controllo degli armamenti descrivono come l’ultima possibilità realistica di stabilire dei limiti prima che la tecnologia superi completamente la diplomazia. I colloqui si terranno questa settimana alla conferenza delle Nazioni Unite su alcune armi convenzionali (CCW), un forum che si riunisce a questo livello solo una volta ogni cinque anni.
L'urgenza non è ipotetica. La tecnologia bellica è progredita rapidamente negli ultimi anni e alcuni esperti ora avvertono che mancano solo pochi mesi al mondo per avere armi in grado di scegliere obiettivi e prendere la decisione di uccidere senza che un essere umano sia coinvolto. In Ucraina e a Gaza, le armi assistite dall’intelligenza artificiale sono già state utilizzate per colpire obiettivi, con civili ucraini che hanno riferito di essere stati “cacciati” dai droni mentre facevano la spesa o andavano a scuola. Questi sistemi sono ancora controllati a distanza da operatori umani, ma la distanza tra il controllo remoto e la piena autonomia si sta riducendo. Per i lettori che tengono traccia della velocità con cui si sta muovendo questo campo, la nostra copertura sulle armi e l'etica dell'intelligenza artificiale segue ogni sviluppo.
Perché gli attivisti la chiamano "l'ultima migliore possibilità"
I sostenitori dei controlli sulle armi autonome sostengono che la riunione della CCW di questa settimana è l'ultima finestra per concordare le regole mentre la tecnologia rimane nella sua fase semi-autonoma. Una volta che le armi che selezionano e attaccano obiettivi in modo indipendente saranno messe in campo su larga scala, sostengono, la moderazione negoziale diventerà drammaticamente più difficile: gli stati avranno già integrato i sistemi nei loro arsenali e nelle loro dottrine.
Il peso morale dietro i colloqui è insolitamente ampio. Prima dell’incontro, le Nazioni Unite, il Comitato internazionale della Croce Rossa e il Papa hanno tutti chiesto norme giuridicamente vincolanti. Il segretario generale delle Nazioni Unite Antonio Guterres ha avvertito che consentire l’uso di armi completamente autonome per uccidere significherebbe “oltrepassare una linea rossa morale”.
Il caso umanitario: la responsabilità deve rimanere umana
Le organizzazioni umanitarie sostengono che la decisione di uccidere – e la responsabilità di tale scelta – devono rimanere nelle mani dell’uomo. La Croce Rossa è particolarmente preoccupata che le regole di guerra esistenti, codificate nelle Convenzioni di Ginevra, non possano essere rispettate in modo affidabile da sistemi autonomi. La guerra è caotica e rapida e le Convenzioni proteggono i soldati feriti o che si arrendono attivamente dall’essere presi di mira.
"Il rischio è che, con la tecnologia che stiamo vedendo, non siano in grado di comprendere allo stesso modo in cui un essere umano è il segnale contestuale", ha affermato Georgia Haines, consulente legale della Croce Rossa. "E quindi il rischio che si verifichi un'errata identificazione di un obiettivo è incredibilmente alto."
I gruppi per i diritti umani aggiungono una dimensione economica al pericolo: la tecnologia alla base delle armi assistite dall’intelligenza artificiale sta diventando economica e facile da usare. Quanto più ampia è la sua adozione da parte degli eserciti nazionali, tanto maggiore è il rischio di proliferazione da parte di gruppi terroristici o di forze dell’ordine in regimi repressivi. In teoria, uno sciame di droni autonomi potrebbe essere programmato per attaccare chiunque indossi un particolare colore di abbigliamento o porti un poster specifico: una discriminazione su una scala che le leggi di guerra non sono mai state progettate per gestire.
Una stanza divisa: oltre 50 stati contro i tre grandi
Almeno 50 paesi – tra cui Irlanda, Italia, Brasile, Messico, Francia e Germania – chiedono un calendario rigoroso per concordare norme vincolanti che regolano le armi autonome. Molti degli stati riuniti a Ginevra prendono sul serio le preoccupazioni umanitarie e vogliono che il processo sia ancorato al diritto internazionale.
Ma tra gli stati che già sviluppano e dispiegano armi semi-autonome, c’è una ferma opposizione. Stati Uniti, Russia e Israele hanno indicato che si opporranno a norme giuridicamente vincolanti. La controproposta di Washington: un calendario quinquennale per elaborare linee guida non vincolanti.
La posizione degli Stati Uniti riflette un più ampio scetticismo nei confronti dei trattati
La posizione americana è coerente con un modello di lunga data: gli Stati Uniti sono tradizionalmente tra i ritardatari ad adottare i trattati internazionali. Non ha mai ratificato la Convenzione di Ottawa sulle mine terrestri, anche se col tempo ha smesso di dispiegarle e ha ridotto le sue scorte. Sotto la presidenza Trump, i dubbi sul diritto internazionale sono diventati più espliciti: Washington ha imposto sanzioni radicali alla Corte penale internazionale, e questo fine settimana il segretario di Stato Marco Rubio, in un discorso alla Federalist Society, ha messo in guardia dal “citare le leggi agli uomini armati di spada”.
Regole di consenso e storia delle soluzioni alternative
Sui colloqui di Ginevra incombe un problema strutturale: i negoziati delle Nazioni Unite sulla limitazione delle armi specifiche dovrebbero procedere per consenso. Quel meccanismo ha prodotto un accordo storico – il divieto del 1995 dei laser accecanti – ma la maggior parte degli altri tentativi sono falliti. Con le mine terrestri, i paesi frustrati dal lento processo delle Nazioni Unite alla fine hanno portato i negoziati al di fuori di esso, producendo la Convenzione di Ottawa.
I diplomatici stanno valutando un possibile compromesso per questa settimana: un periodo negoziale più lungo, o addirittura a tempo indeterminato, per sviluppare regole che i singoli stati potrebbero poi adottare come vincolanti o non vincolanti. Per i sostenitori, questo è un modo per garantire almeno qualche progresso. Per gli attivisti, l’approccio è decisamente inferiore: qualcuno ha paragonato l’approccio a calciare un barattolo molto pericoloso lungo la strada.
Cosa succede dopo
Se la conferenza si concludesse con un mandato a tempo indeterminato, l’effetto pratico è che i limiti vincolanti sulle armi autonome si allontanano ulteriormente nel futuro, mentre i tempi di dispiegamento continuano a ridursi. Governi, eserciti e start-up della difesa osserveranno da vicino Ginevra questa settimana, perché qualunque sia la direzione in cui otterrà il consenso, definirà il panorama legale per le armi autonome negli anni a venire.
---
Stai al passo con l'intelligenza artificialeRicevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.
Leggi altre notizie sull'AI →