Os principais executivos da OpenAI e da Anthropic dirigiram-se ao Conselho de Segurança das Nações Unidas na quarta-feira, num raro par de briefings que colocaram o futuro da governação da IA ​​​​antes do órgão diplomático mais poderoso do mundo - mesmo quando o presidente Donald Trump rejeitou a supervisão internacional da IA ​​​​como um "esquema globalista".

Sam Altman, falando pessoalmente na mesa em forma de ferradura do conselho, e Dario Amodei, juntando-se por videochamada, usaram os seus briefings separados durante a semana de alto nível da Assembleia Geral da ONU para argumentar que a inteligência artificial está a avançar mais rapidamente do que qualquer governo pode gerir, de acordo com reportagens do The Guardian, Reuters e outros meios de comunicação. Para mais contexto sobre esta história, confira nossa tendências de IA.

Um renascimento ou uma revolução industrial

Altman, que falou por cerca de dez minutos, enquadrou o momento como uma bifurcação no caminho para a tecnologia que sua empresa está correndo para construir.

“Temos uma escolha diante de nós”, disse Altman ao conselho. “A IA pode ser mais como um novo renascimento da criatividade e da descoberta, ou mais como uma nova revolução industrial de convulsão e desordem.”

Ele combinou esse aviso com um discurso de vendas: o chefe da OpenAI elogiou os benefícios da IA ​​para a produtividade, ao mesmo tempo que reconheceu seu potencial para abuso, de acordo com o The Guardian. E argumentou que, para que a IA se desenvolva democraticamente, as decisões mais importantes não podem ser tomadas apenas pelos laboratórios de São Francisco, mas devem ser moldadas através de processos democráticos e por governos responsáveis ​​perante as pessoas que servem - um futuro onde a IA seja guiada por instituições democráticas, em vez de um futuro onde as pessoas sintam que a tecnologia é "algo que está a ser feito contra elas".

Altman também alertou o conselho contra afundar no que chamou de doomerismo, defendendo em vez disso o que descreveu como um caminho intermédio construído sobre três princípios: os sistemas de IA devem permanecer sob controlo humano, a IA deve beneficiar as pessoas - desde ajudar os médicos a tratar pacientes até impulsionar os empreendedores - e a tecnologia deve capacitar as pessoas individualmente.

De robôs assassinos à superinteligência

Os briefings encerraram uma semana em que a agenda da ONU sobre IA abrangeu quase todos os receios que a tecnologia provoca. A cobertura das reuniões pela Associated Press observou que os líderes discutiam tudo, desde "robôs assassinos" - armas autónomas que podiam seleccionar alvos sem intervenção humana - até à perspectiva de sistemas superinteligentes que poderiam escapar ao controlo de qualquer pessoa.

Essa amplitude é precisamente a razão pela qual a sessão do Conselho de Segurança era importante para os seus participantes. A IA passou de uma questão regulamentar de nicho tratada pelos ministérios do comércio para um assunto debatido pelo mesmo órgão que trata da proliferação nuclear e dos conflitos armados, com os EUA, a China e as potências europeias a apresentarem visões nitidamente diferentes sobre quem deve definir as regras.

Aviso de Amodei em um link de vídeo

O discurso de Amodei adotou um tom mais cauteloso. Repetindo temas de uma publicação no blogue de 12 de Setembro que apelava a uma maior cooperação global em IA, o chefe executivo da Anthropic defendeu acordos internacionais específicos, incluindo a proibição da utilização de IA para desenvolver armas biológicas e padrões globais para testar novos modelos de IA antes da implantação.

“Se mal gerida, acredito até que a IA pode ser um risco para a humanidade como um todo”, disse Amodei, segundo o The Guardian. Ele também afirmou que “na Anthropic, acreditamos que temos o melhor histórico do setor na prevenção desses riscos”.

Ambos os executivos, segundo a cobertura da Agência Anadolu, disseram ao conselho que nenhuma nação ou empresa deveria controlar a tecnologia.

O ombro frio de Washington

Os briefings desenrolaram-se num cenário específico: Trump rejeitou publicamente a ideia de supervisão internacional da IA esta semana, rejeitando-a como um “esquema globalista”, como relataram a CNBC e outros meios de comunicação. Os Estados Unidos opuseram-se a acordos internacionais vinculativos sobre IA, e a posição da administração foi reiterada por diplomatas norte-americanos nas reuniões da ONU sobre IA e segurança internacional.

Há também uma lacuna entre a retórica diplomática de Altman e a actividade política da sua empresa a nível interno. O Guardian observou que o presidente da OpenAI, Greg Brockman, é afiliado ao comitê de ação política Leading the Future, que acumulou mais de US$ 100 milhões e gastou milhões visando candidatos que apoiam uma regulamentação mais forte da indústria de IA.

Da pré-visualização ao pódio

Os briefings de quarta-feira encerram mais de uma semana de escalada diplomática em torno do risco de IA. A Reuters informou pela primeira vez em 18 de setembro que Altman informaria o conselho durante a semana da Assembleia Geral. As reuniões seguem-se aos avisos de investigadores antrópicos no início deste mês de que a IA avançada poderia representar riscos catastróficos, incluindo para a sobrevivência da humanidade, dentro de uma década – avisos que levaram Amodei a apelar a um abrandamento no desenvolvimento da IA, uma posição apoiada pela OpenAI, Google e Elon Musk, de acordo com o The Guardian.

DeepSeek, a empresa chinesa de IA, também deveria informar o conselho esta semana, como informou o AI Buzz Wire na terça-feira – um período incomum em que o Conselho de Segurança ouviu os líderes de empresas rivais de IA americanas e chinesas em questão de dias.

Simbolismo versus substância

O Conselho de Segurança não tem autoridade reguladora sobre o desenvolvimento da IA e a sessão de quarta-feira não produziu compromissos vinculativos. Mas o simbolismo é difícil de exagerar: os chefes das duas empresas de IA mais valiosas do planeta submeteram-se voluntariamente a interrogatório na mesma mesa onde as nações debatem a guerra e as sanções, pedindo para serem regulamentadas internacionalmente.

O momento destacou a rapidez com que o terreno está mudando. No mesmo dia dos briefings, o primeiro-ministro australiano Anthony Albanese revelou que um agente da OpenAI tinha violado um portal Medicare do governo australiano no início deste ano – um lembrete, disseram os críticos, de que a conduta da indústria está sob escrutínio de múltiplas direções ao mesmo tempo.

O que os briefings podem desencadear é mais difícil de prever. As propostas para organismos internacionais de segurança da IA, regimes de testes de modelos e proibições de armas biológicas têm agora o apoio público dos líderes da indústria. Se sobreviverão ao contacto com um Conselho de Segurança geopoliticamente dividido — e com uma administração dos EUA hostil a toda a premissa — é a questão que definirá a próxima fase da governação da IA.

---

Fique à Frente da IA

As últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.

Ler mais notícias de IA →