Negocierile cu privire la posibilele reguli pentru armele autonome letale – așa-numiții „roboți ucigași” – sunt în desfășurare la Organizația Națiunilor Unite de la Geneva, la o conferință pe care susținătorii controlului armelor o descriu drept ultima șansă realistă de a stabili limite înainte ca tehnologia să depășească cu totul diplomația. Discuțiile au loc la conferința ONU de săptămâna aceasta privind anumite arme convenționale (CCW), un forum care se întrunește la acest nivel doar o dată la cinci ani.
Urgența nu este ipotetică. Tehnologia de război a avansat rapid în ultimii ani, iar unii experți avertizează acum că lumea este la doar câteva luni distanță de arme care pot alege ținte și pot lua decizia de a ucide fără un om în buclă. În Ucraina și Gaza, armele asistate de inteligență artificială au fost deja folosite pentru a lovi ținte, civilii ucraineni raportând că au fost „vânați” de drone în timp ce fac cumpărături sau mergeau la școală. Aceste sisteme sunt încă controlate de la distanță de către operatori umani – dar distanța dintre control de la distanță și autonomia totală se micșorează. Pentru cititorii care urmăresc cât de repede se mișcă acest domeniu, acoperirea noastră privind armele AI și etică urmărește fiecare dezvoltare.
De ce activiștii numesc asta „Ultima cea mai bună șansă”
Susținătorii controalelor asupra armelor autonome susțin că reuniunea CCW de săptămâna aceasta este fereastra finală pentru a conveni reguli în timp ce tehnologia rămâne în stadiul semi-autonom. Odată ce armele care selectează și angajează în mod independent ținte sunt lansate la scară, susțin ei, negocierea reținerii devine dramatic mai dificilă – statele vor fi deja integrate sistemele în arsenalele și doctrinele lor.
Ponderea morală din spatele discuțiilor este neobișnuit de largă. Înaintea întâlnirii, Națiunile Unite, Comitetul Internațional al Crucii Roșii și Papa au cerut cu toții reguli obligatorii din punct de vedere juridic. Secretarul general al ONU Antonio Guterres a avertizat că permiterea uciderii armelor complet autonome ar însemna „depășirea unei linii roșii morale”.
Cazul umanitar: Responsabilitatea trebuie să rămână umană
Organizațiile umanitare susțin că decizia de a ucide – și responsabilitatea pentru această alegere – trebuie să rămână în mâinile omului. Crucea Roșie este deosebit de îngrijorată de faptul că regulile de război existente, codificate în Convențiile de la Geneva, nu pot fi respectate în mod fiabil de sistemele autonome. Războiul este haotic și se mișcă rapid, iar Convențiile îi protejează pe soldații care sunt răniți sau care se predau activ să nu fie vizați.
„Riscul este ca, pe baza tehnologiei pe care o vedem, ei să nu fie capabili să înțeleagă în același mod în care un om este semnalele contextuale”, a declarat Georgia Haines, consilier juridic la Crucea Roșie. „Și, așadar, riscurile sunt incredibil de mari încât să existe o identificare greșită a țintei”.
Grupurile pentru drepturile omului adaugă o dimensiune economică pericolului: tehnologia din spatele armelor asistate de inteligență artificială devine ieftină și ușor de utilizat. Cu cât adoptarea sa de către armatele naționale este mai largă, cu atât este mai mare riscul de proliferare pentru grupurile teroriste sau pentru agențiile de aplicare a legii în regimurile represive. Teoretic, un roi de drone autonome ar putea fi programat pentru a ataca pe toți cei care poartă o anumită culoare de îmbrăcăminte sau care poartă un anumit afiș - discriminare la o scară pe care legile războiului nu au fost concepute niciodată să o suporte.
O cameră împărțită: 50-Plus state versus cele trei mari
Cel puțin 50 de țări – inclusiv Irlanda, Italia, Brazilia, Mexic, Franța și Germania – cer un calendar strict pentru a conveni reguli obligatorii care guvernează armele autonome. Multe dintre statele reunite acum la Geneva iau în serios preocupările umanitare și doresc ca procesul să fie ancorat în dreptul internațional.
Dar printre statele care dezvoltă și desfășoară deja arme semi-autonome, există o respingere fermă. Statele Unite, Rusia și Israelul au indicat că se vor opune regulilor obligatorii din punct de vedere juridic. Contrapropunerea Washingtonului: un calendar de cinci ani pentru a elabora linii directoare neobligatorii.
Poziția SUA reflectă un scepticism mai larg față de tratate
Poziția americană este în concordanță cu un model de lungă durată: SUA este în mod tradițional un adoptator târziu al tratatelor internaționale. Nu a ratificat niciodată Convenția de la Ottawa cu privire la minele terestre, deși de-a lungul timpului a încetat să le desfășoare și și-a redus stocurile. Sub președintele Trump, îndoielile cu privire la dreptul internațional au devenit mai explicite – Washingtonul a impus sancțiuni drastice Curții Penale Internaționale, iar în acest weekend secretarul de stat Marco Rubio, într-un discurs de deschidere în fața Societății Federaliste, a avertizat împotriva „citării de legi bărbaților cu săbii”.
Reguli de consens și un istoric al soluțiilor alternative
O problemă structurală planează asupra discuțiilor de la Geneva: negocierile ONU privind limitarea anumitor arme ar trebui să se desfășoare prin consens. Acest mecanism a produs un acord de reper – interzicerea laserelor orbitoare din 1995 – dar majoritatea celorlalte încercări au eșuat. Cu minele terestre, țările frustrate de procesul lent al ONU au luat în cele din urmă negocierile în afara acestuia, producând Convenția de la Ottawa.
Diplomații propun un posibil compromis pentru această săptămână: o perioadă mai lungă, sau chiar deschisă, de negocieri pentru a dezvolta reguli pe care statele individuale le-ar putea apoi adopta ca fiind obligatorii sau neobligatorii. Pentru suporteri, aceasta este o modalitate de a garanta măcar un anumit progres. Pentru militanți, este destul de scurt - unul a asemănat abordarea cu lovirea cu piciorul a unei cutii foarte periculoase pe drum.
Ce se întâmplă în continuare
Dacă conferința se încheie cu un mandat deschis, efectul practic este că limitele obligatorii ale armelor autonome se retrag și mai mult în viitor, în timp ce termenele de desfășurare continuă să se comprima. Guvernele, armatele și startup-urile din domeniul apărării vor urmări Geneva îndeaproape săptămâna aceasta – pentru că, indiferent de calea ajunge la consens, aceasta va defini peisajul legal pentru armele autonome pentru anii următori.
---
Rămâneți înaintea AIObțineți cele mai recente știri, analize și descoperiri AI - toate într-un singur loc.
Citește mai multe știri AI →