As negociações sobre possíveis regras para armas letais autónomas - os chamados "robôs assassinos" - estão em curso nas Nações Unidas, em Genebra, numa conferência que os defensores do controlo de armas descrevem como a última oportunidade realista para estabelecer limites antes que a tecnologia ultrapasse totalmente a diplomacia. As conversações decorrem esta semana na conferência da ONU sobre Certas Armas Convencionais (CCW), um fórum que só se reúne a este nível uma vez a cada cinco anos.
A urgência não é hipotética. A tecnologia de guerra avançou rapidamente nos últimos anos, e alguns especialistas alertam agora que o mundo está a apenas alguns meses de ter armas que possam escolher alvos e tomar a decisão de matar sem um humano no circuito. Na Ucrânia e em Gaza, armas assistidas por IA já foram utilizadas para atingir alvos, com civis ucranianos a relatarem que foram “caçados” por drones enquanto faziam compras ou caminhavam para a escola. Esses sistemas ainda são controlados remotamente por operadores humanos – mas a distância entre o controlo remoto e a autonomia total está a diminuir. Para os leitores que acompanham a rapidez com que este campo está se movendo, nossa cobertura de armas e ética de IA acompanha cada desenvolvimento.
Por que os ativistas chamam isso de 'última melhor chance'
Os defensores dos controlos sobre armas autónomas argumentam que a reunião desta semana da CCW é a janela final para chegar a acordo sobre regras enquanto a tecnologia permanece na sua fase semiautônoma. Assim que as armas que selecionam e atacam alvos de forma independente forem colocadas em campo em grande escala, afirmam eles, a negociação de restrições torna-se dramaticamente mais difícil – os estados já terão integrado os sistemas nos seus arsenais e doutrinas.
O peso moral por trás das negociações é invulgarmente amplo. Antes da reunião, as Nações Unidas, o Comité Internacional da Cruz Vermelha e o Papa apelaram a regras juridicamente vinculativas. O secretário-geral da ONU, Antonio Guterres, alertou que permitir armas totalmente autônomas para matar seria “ultrapassar a linha vermelha moral”.
O caso humanitário: a responsabilidade deve permanecer humana
As organizações humanitárias argumentam que a decisão de matar — e a responsabilidade por essa escolha — deve permanecer nas mãos humanas. A Cruz Vermelha está particularmente preocupada com o facto de as regras de guerra existentes, codificadas nas Convenções de Genebra, não poderem ser respeitadas de forma fiável por sistemas autónomos. A guerra é caótica e rápida, e as Convenções protegem os soldados feridos ou que se rendem activamente de serem alvos.
“O risco é que, com base na tecnologia que estamos vendo, eles não sejam capazes de compreender da mesma forma que um ser humano são os sinais contextuais”, disse Georgia Haines, consultora jurídica da Cruz Vermelha. "E portanto os riscos são incrivelmente altos de que haja uma identificação incorreta de um alvo."
Os grupos de direitos humanos acrescentam uma dimensão económica ao perigo: a tecnologia por detrás das armas assistidas pela IA está a tornar-se barata e fácil de utilizar. Quanto mais ampla for a sua adopção pelos militares nacionais, maior será o risco de proliferação para grupos terroristas ou para agências de aplicação da lei em regimes repressivos. Em teoria, um enxame de drones autónomos poderia ser programado para atacar qualquer pessoa que use uma determinada cor de roupa ou carregue um cartaz específico – discriminação a uma escala que as leis da guerra nunca foram concebidas para lidar.
Uma sala dividida: mais de 50 estados versus os três grandes
Pelo menos 50 países – incluindo Irlanda, Itália, Brasil, México, França e Alemanha – apelam a um calendário rigoroso para chegar a acordo sobre regras vinculativas que regem as armas autónomas. Muitos dos Estados agora reunidos em Genebra levam a sério as preocupações humanitárias e querem que o processo seja ancorado no direito internacional.
Mas entre os estados que já desenvolvem e implantam armas semiautônomas, há uma forte resistência. Os Estados Unidos, a Rússia e Israel indicaram que se oporão a regras juridicamente vinculativas. A contraproposta de Washington: um calendário de cinco anos para a elaboração de directrizes não vinculativas.
A posição dos EUA reflete um ceticismo mais amplo em relação aos tratados
A posição americana é consistente com um padrão de longa data: os EUA são tradicionalmente um país que adopta tardiamente os tratados internacionais. Nunca ratificou a Convenção de Ottawa sobre minas terrestres, embora com o tempo tenha parado de utilizá-las e reduzido os seus arsenais. Sob o presidente Trump, as dúvidas sobre o direito internacional tornaram-se mais explícitas - Washington impôs sanções abrangentes ao Tribunal Penal Internacional, e este fim-de-semana o Secretário de Estado Marco Rubio, num discurso de abertura na Sociedade Federalista, alertou contra "citar leis a homens com espadas".
Regras de consenso e um histórico de soluções alternativas
Um problema estrutural paira sobre as conversações de Genebra: as negociações da ONU sobre a limitação de armas específicas deverão decorrer por consenso. Esse mecanismo produziu um acordo histórico – a proibição de lasers ofuscantes em 1995 – mas a maioria das outras tentativas fracassou. Com as minas terrestres, os países frustrados pela lentidão do processo da ONU acabaram por levar as negociações inteiramente para fora dele, produzindo a Convenção de Ottawa.
Os diplomatas estão a propor um possível compromisso para esta semana: um período de negociação mais longo, ou mesmo aberto, para desenvolver regras que os estados individuais possam então adoptar como vinculativas ou não vinculativas. Para os apoiadores, essa é uma forma de garantir pelo menos algum progresso. Para os ativistas, é muito aquém – alguém comparou a abordagem a chutar uma lata muito perigosa no caminho.
O que acontece a seguir
Se a conferência terminar com um mandato por tempo indeterminado, o efeito prático será que os limites vinculativos às armas autónomas retrocederão ainda mais no futuro, enquanto os prazos de implantação continuarão a diminuir. Governos, forças armadas e startups de defesa estarão observando Genebra de perto esta semana – porque qualquer que seja a direção que o consenso chegue, ele definirá o cenário legal para armas autônomas nos próximos anos.
---
Fique à frente da IAReceba as últimas notícias, análises e avanços sobre IA — tudo em um só lugar.
Leia mais notícias sobre IA →