A startup chinesa de IA DeepSeek estará entre as empresas que informarão o Conselho de Segurança das Nações Unidas esta semana sobre os riscos representados pela inteligência artificial, disseram à Reuters duas fontes familiarizadas com o assunto, enquanto os líderes mundiais se reúnem em Nova York para a Assembleia Geral anual da ONU.
O Conselho de Segurança, composto por 15 membros, deverá reunir-se em 23 de Setembro para discutir a IA e a segurança internacional – semanas depois de vários líderes da indústria da IA terem apelado a um abrandamento coordenado do desenvolvimento de sistemas de IA cada vez mais poderosos, alertando que em breve poderão melhorar por si próprios e escapar ao controlo humano. Para obter mais contexto sobre esta história, consulte nossa cobertura do setor de IA em andamento.
Quem estará na sala
O presidente-executivo da OpenAI, Sam Altman, planeja informar a reunião, onde diplomatas também esperam a participação de representantes seniores da Anthropic, informou a Reuters na semana passada.
Do lado chinês, a DeepSeek e outras empresas chinesas de IA, incluindo a Moonshot, foram convidadas a fazer declarações, disse uma das fontes. O fundador da DeepSeek, Liang Wenfeng, não planeja comparecer, advertiu a fonte, observando que os planos permanecem fluidos e podem mudar no último minuto. DeepSeek e Moonshot não responderam imediatamente aos pedidos de comentários.
A sessão acontece durante uma semana em que Nova Iorque já está repleta de diplomacia da IA, à medida que os líderes mundiais se reúnem para a Assembleia Geral anual da ONU e as reuniões paralelas se multiplicam em torno dela. Esse momento é favorável à DeepSeek: o imprimatur do conselho sinaliza que os principais laboratórios da China são agora tratados como vozes indispensáveis no risco da IA de fronteira, mesmo que a posição oficial de Pequim continue a rejeitar a retórica de desaceleração emergente de Silicon Valley.
A formação incomum – o executivo de IA mais proeminente dos EUA compartilhando uma agenda do Conselho de Segurança com o laboratório aberto mais conhecido da China – faz da sessão de quarta-feira a reunião de IA mais importante que o conselho realizou desde que abordou o assunto pela primeira vez.
De 'Cavalo em Fuga' a Rogue AI
O Conselho de Segurança da ONU, encarregado de manter a paz e a segurança internacionais, reuniu-se pela primeira vez sobre os riscos da IA em 2023. Mesmo então, as falhas eram visíveis: a China alertou que a tecnologia não deveria tornar-se um “cavalo em fuga”, enquanto os Estados Unidos alertaram contra a sua utilização para censurar ou reprimir pessoas.
Três anos depois, o debate passou de hipóteses para relatórios de incidentes. O secretário-geral da ONU, Antonio Guterres, alertou os líderes mundiais na semana passada que o rápido avanço da IA apresenta riscos que não podem ser ignorados, colocando-o em desacordo com o presidente dos EUA, Donald Trump, que argumentou que as salvaguardas existentes são suficientes e que a China beneficiaria se fossem lançadas dúvidas sobre o desenvolvimento da IA.
Silêncio público de Pequim sobre risco catastrófico
Uma das observações mais contundentes nos relatórios da Reuters diz respeito ao que os líderes dos laboratórios chineses não disseram. Ao contrário dos chefes dos laboratórios fronteiriços dos EUA, como o OpenAI e o Anthropic, os líderes dos principais criadores de modelos da China raramente articularam publicamente a possibilidade de que sistemas de IA cada vez mais capazes pudessem enganar os humanos, fugir ao controlo ou causar danos catastróficos - e permaneceram em grande parte silenciosos sobre esses riscos desde que o debate se intensificou nos Estados Unidos em Setembro.
Os meios de comunicação estatais chineses, por seu lado, rejeitaram os apelos a um abrandamento no desenvolvimento da IA como decorrentes de um "manual da Guerra Fria" - um esforço, segundo Pequim, que visa preservar o domínio de Washington na tecnologia de ponta e excluir inteiramente Pequim do sistema global de governação da IA.
A aparição da DeepSeek no conselho tem, portanto, um duplo significado: é simultaneamente o envolvimento mais visível de Pequim até à data na conversa global sobre o risco da IA e um teste para saber se os laboratórios chineses se envolverão no enquadramento do risco catastrófico.
Conversas antes de Trump-Xi
A sessão do Conselho de Segurança não é independente. Altos funcionários dos EUA e da China concordaram em manter mais conversações sobre a segurança da IA, disse o secretário do Tesouro dos EUA, Scott Bessent, em 21 de setembro, após se reunir antes das conversações programadas de Trump com o presidente chinês, Xi Jinping, no final desta semana, em Washington.
Esta sequência – uma cimeira de alto risco em Washington que decorre paralelamente a um debate no Conselho de Segurança em Nova Iorque – sublinha o quão profundamente a IA passou de um dossiê de política técnica para o centro da relação bilateral.
O que assistir
Três questões pairam sobre a reunião de quarta-feira. Se Liang Wenfeng muda de ideia e comparece. Se a declaração da DeepSeek envolve os riscos do baralho de cartas - engano, perda de controlo - que os seus homólogos americanos enfatizam, ou permanece em terreno mais seguro de acesso equitativo e direitos de desenvolvimento. E se o conselho pode produzir algo além de posições familiares.
O historial do conselho em matéria de IA é fraco: uma primeira reunião em 2023, um aviso do secretário-geral este mês e nenhum quadro vinculativo. Mas como palco para a discussão emergente entre EUA e China sobre quem define as regras para a IA de fronteira – e quais os receios que são levados a sério – tem poucos rivais.
---
Fique à frente da IAReceba as últimas notícias, análises e avanços sobre IA — tudo em um só lugar.
Leia mais notícias sobre IA →
