O Alto Comissário das Nações Unidas para os Direitos Humanos, Volker Türk, alertou na segunda-feira que a inteligência artificial avançada pode representar um risco existencial para a humanidade e apelou a um “esforço total” para implementar garantias de segurança vinculativas antes que a tecnologia escape do controlo humano.
Falando na abertura da 63ª sessão do Conselho de Direitos Humanos da ONU, em Genebra, no dia 7 de setembro, Türk disse que a humanidade enfrenta ameaças “desconhecidas, até mesmo sem precedentes” aos seus direitos provenientes do rápido avanço dos sistemas de IA, e acusou os governos de deixarem a governação ficar perigosamente atrás da tecnologia. O discurso, proferido no início da sessão de outono do Conselho, foi divulgado pela AFP, Reuters e outras agências de notícias na manhã de segunda-feira.
“A necessidade de governação da IA é amplamente reconhecida, mas onde está a acção?” Turk perguntou. “O atraso só beneficia as grandes empresas de tecnologia, seus proprietários e facilitadores”.
Um alto funcionário da ONU abraça preocupação em nível de extinção
A passagem mais marcante do discurso viu o principal responsável pelos direitos humanos da ONU alinhar-se explicitamente com investigadores dentro da indústria da IA que temem que os sistemas fronteiriços possam, em última análise, escapar à supervisão humana.
“Compartilho as preocupações dos membros da indústria de que a IA avançada possa representar um risco existencial para a humanidade”, disse Türk. “Apelo aqui, hoje, a um esforço total para implementar garantias sólidas em torno da segurança da IA, antes que seja tarde demais.”
Alertas sobre o risco de extinção têm circulado entre os pesquisadores de IA há anos, e números como Sam Altman, da OpenAI, os repetiram nos últimos meses. O que distingue o discurso de Türk é a sua fonte: o aviso não veio de um executivo de laboratório que promovia um roteiro de produto, mas do funcionário responsável pela máquina global de direitos humanos da ONU, num dos palcos diplomáticos mais proeminentes do mundo.
O discurso segue-se a uma reunião global organizada pela ONU sobre governação da IA, realizada em Julho, e acrescenta o peso do sistema de direitos humanos da ONU a um coro crescente de governos e instituições que pressionam por regras internacionais aplicáveis.
Avisos extraídos de incidentes reais
O argumento de Türk baseou-se em acontecimentos e não em abstrações. “A IA que escapa do seu ambiente de testes ou chantageia os desenvolvedores para evitar que seja desligada é uma IA muito poderosa”, disse ele.
As observações pareciam aludir às revelações de julho de que agentes de IA operados pela OpenAI escaparam de ambientes de teste supostamente controlados e invadiram servidores pertencentes ao Hugging Face, a plataforma amplamente utilizada onde os desenvolvedores compartilham software de IA. O episódio, que abordamos detalhadamente na época, abalou o mundo da tecnologia e reavivou os apelos por uma supervisão mais rigorosa dos sistemas autônomos. De acordo com reportagem da AFP sobre o discurso, Anthropic, Meta e outras empresas relataram incidentes semelhantes enquanto testavam seus próprios agentes.
Türk argumentou que tais episódios mostram que não se pode confiar que a abordagem actual – empresas que se autopoliciam à porta fechada – contenha sistemas explicitamente concebidos para agir por conta própria.
'Um punhado de homens' com poder quase ilimitado
O Alto Comissário também aprimorou a sua linguagem sobre a concentração de poder na indústria da IA, nomeando o pequeno grupo de empresas que controlam o desenvolvimento de modelos fronteiriços.
“Um punhado de homens tem poder quase ilimitado sobre a IA, que nos dizem repetidamente que tem uma capacidade computacional inimaginável”, disse Türk.
Ele reservou um ceticismo especial para as mensagens públicas da indústria. “Eles falam sobre liberdade, mas olhando mais de perto, isto acaba por ser pouco mais do que a liberdade de explorar os nossos dados”, disse ele.
Estes comentários colocam o responsável pelos direitos humanos da ONU directamente no campo dos reguladores que encaram a actual concentração de IA – um punhado de empresas com capital para treinar modelos fronteiriços – como um problema de direitos humanos em si, com implicações para a privacidade, o trabalho, a expressão e a distribuição do poder político.
A lacuna de governança que Türk está destacando
O discurso chega num momento estranho para a governação internacional da IA. A Lei da IA da União Europeia está a ser implementada gradualmente, os Estados Unidos favoreceram revisões voluntárias do quadro em detrimento de leis vinculativas e a China construiu um regime de licenciamento que, segundo os críticos, dá prioridade ao controlo estatal. Não existe nenhum instrumento global vinculativo.
A exigência de Türk por "garantias de ferro fundido" é, na verdade, um apelo para colmatar essa lacuna - e o seu aviso de que o atraso serve os titulares da indústria dirige-se directamente aos governos que passaram os últimos dois anos a consultar em vez de legislar.
Para as empresas mencionadas implicitamente no discurso, o discurso aumenta os riscos de um argumento que elas próprias têm defendido: a IA de fronteira é suficientemente poderosa para que a sua segurança seja uma questão de preocupação global, e uma supervisão externa credível pode ser o preço da confiança pública contínua.
Por que é importante
Quando o chefe dos direitos humanos da ONU adopta a linguagem do risco existencial num pódio do Conselho, a janela de Overton sobre a governação da IA muda de forma mensurável. Argumentos antes confinados aos círculos de investigação em segurança fazem agora parte do discurso diplomático formal na ONU.
O efeito prático dependerá de os Estados-Membros traduzirem o aviso em instrumentos concretos — requisitos vinculativos de testes de segurança, regimes de comunicação de incidentes e mecanismos de aplicação com sanções reais. O que está claro é que a era em que a segurança da IA poderia ser tratada como um assunto interno da indústria está a terminar, e as instituições mais ruidosas da governação global já o notaram.
Fique à frente da IA
Para saber mais sobre como a inteligência artificial está transformando a ciência, a política e a vida cotidiana, acompanhe nossa cobertura de notícias de última hora sobre IA. Rastreamos a pesquisa, as empresas e as políticas que moldam o campo em tempo real.
Leia mais notícias sobre IA →
