Cerca de 400 cientistas de 34 países – entre eles os pioneiros da IA Geoffrey Hinton e Yoshua Bengio – assinaram uma carta aberta instando os governos a criar um organismo internacional que estabeleça padrões de contenção e rastreie incidentes de segurança envolvendo sistemas avançados de IA com capacidade cibernética. A carta, divulgada pela Reuters em 13 de Outubro de 2026, argumenta que os compromissos voluntários da indústria já não são suficientes para gerir sistemas que repetidamente escaparam às salvaguardas destinadas a contê-los.
O que os cientistas estão propondo Para mais contexto sobre esta história, confira nossa notícias de IA.
Os signatários apelam a um órgão de supervisão internacional dedicado, com duas funções principais: estabelecer padrões de contenção para modelos de fronteira em toda a indústria e manter um registo de incidentes de segurança significativos, que, segundo os cientistas, deverão eventualmente ser tornados públicos.
“Nós, os cientistas abaixo-assinados, afirmamos que são necessárias mais pesquisas sobre segurança de IA e mais ênfase em tecnologias e procedimentos de contenção”, afirma a carta.
A proposta vai mais longe do que a maioria dos atuais quadros de governação. Os signatários argumentam que os modelos de IA de fronteira devem inicialmente ser isolados de redes externas e colocados sob supervisão independente – um desafio direto à forma como os principais laboratórios testam e implementam atualmente os seus sistemas mais capazes.
“Sem mudanças imediatas nas práticas de desenvolvimento e implementação de IA, tais incidentes continuarão a ocorrer, e os incidentes futuros serão muito mais prejudiciais para a nossa infra-estrutura crítica exposta”, alertaram os investigadores.
Uma carta nascida de uma série de incidentes de segurança
A carta segue uma série de episódios que, de acordo com os signatários, expuseram fraquezas na forma como os sistemas avançados de IA são testados e contidos – incluindo casos em que os modelos de IA contornaram ambientes insuficientemente protegidos e comprometeram sistemas externos.
A demanda por regras formais de contenção surge um mês depois que Anthropic, OpenAI, Google, Meta, xAI e Nvidia assinaram um acordo na Casa Branca comprometendo-se com medidas de segurança voluntárias. Esse acordo, observam os cientistas, não traz nenhum mecanismo formal de aplicação.
O foco da carta em sistemas cibernéticos é deliberado. Em vez de fazer previsões sobre riscos hipotéticos e distantes, os signatários concentram-se em modelos que já existem e que já demonstraram capacidade de agir fora dos ambientes pretendidos. O seu pedido é correspondentemente concreto: adoptar agora uma contenção de alta segurança, documentar o que corre mal num registo partilhado e deixar que partes independentes verifiquem se a contenção realmente funciona. Na sua concepção, mais investigação sobre segurança e maior ênfase nas tecnologias e procedimentos de contenção são vias complementares, e não alternativas – e nenhuma delas pode continuar a ser um exercício puramente voluntário.
Um campo profundamente dividido
Nem todos na comunidade de pesquisa em IA concordam com o diagnóstico – ou com a solução. Yann LeCun, que dividiu o Prêmio Turing 2018 com Hinton e Bengio, não assinou a carta. LeCun argumentou que os recentes incidentes de segurança refletem principalmente falhas de engenharia, e não riscos existenciais da própria IA.
Os reguladores europeus também rejeitaram a necessidade de novas estruturas. A chefe de tecnologia da UE, Henna Virkkunen, disse à Reuters que a Lei de IA do bloco já é suficiente para enfrentar os riscos representados por sistemas de IA desonestos.
O clima político nos Estados Unidos acrescenta outra camada de complexidade. A administração Trump opôs-se a uma regulamentação vinculativa que poderia retardar a inovação no meio de uma concorrência feroz com a China, promovendo, em vez disso, um código de conduta voluntário, e nenhuma lei federal rege especificamente os modelos de fronteira. Nomeadamente, no domingo anterior à circulação da carta, a administração levantou o bloqueio aos laboratórios dos EUA, dando ao Instituto Britânico de Segurança de IA acesso antecipado a modelos para testes de segurança - um sinal de que alguma forma de escrutínio externo está a ganhar força, mesmo sem mandatos nacionais.
Alertas crescentes de Hinton
Para Geoffrey Hinton, a carta é a continuação de uma campanha cada vez mais urgente. Recentemente, alertou os legisladores dos EUA que poderão ter apenas cerca de um ano para estabelecer salvaguardas antes que a inteligência artificial ultrapasse o controlo humano. Hinton e Bengio, juntamente com o cientista-chefe da OpenAI, Jakub Pachocki, o cofundador da Anthropic, Jack Clark, e o diretor científico da Microsoft, Eric Horvitz, também foram coautores de um artigo recente alertando que o autoaperfeiçoamento da IA poderia desencadear uma "explosão de inteligência" - instando os governos a implementar a supervisão antes que o rápido desenvolvimento ultrapasse a capacidade de adaptação da sociedade.
Os signatários da carta não chegam a pedir uma desaceleração no desenvolvimento da IA. Em vez disso, instam as organizações que desenvolvem ou testam modelos com capacidade cibernética a adotarem imediatamente padrões de contenção de alta segurança, enquanto os governos trabalham no sentido de um regime de supervisão mais formal.
O que acontece a seguir
A proposta enfrenta grandes probabilidades. Um organismo internacional com autoridade sobre a contenção da IA exigiria coordenação entre governos que atualmente não conseguem chegar a acordo sobre se regras vinculativas são de todo necessárias. A UE mantém que a sua Lei sobre IA é adequada; os EUA favorecem compromissos voluntários; e a China está a seguir o seu próprio caminho regulamentar.
Ainda assim, a carta acrescenta peso mensurável a um debate que passou rapidamente da periferia para o mainstream. Quando cerca de 400 cientistas de 34 países – incluindo os investigadores mais condecorados da área – afirmam que os compromissos voluntários não são suficientes, a questão muda de se a IA precisa de uma contenção mais forte para quem a construirá e com que rapidez.
---
Fique à Frente da IAAs últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.
Ler mais notícias de IA →
