Geoffrey Hinton, o prémio Nobel amplamente conhecido como o “Padrinho da IA”, fez esta semana um dos seus avisos mais severos aos legisladores dos EUA: o Congresso tem cerca de um ano para colocar salvaguardas significativas na inteligência artificial antes que a tecnologia ultrapasse o controlo humano. O cientista da computação anglo-canadense fez os comentários em 16 de setembro em uma reunião a portas fechadas do Senado no Capitólio, de acordo com a NBC News.

“Talvez um ano, mas não muito mais do que um ano”, disse Hinton na sala dos legisladores, de acordo com o relato da reunião pela NBC. O briefing foi convocado pelo senador Bernie Sanders e também contou com a participação do físico do MIT Max Tegmark, cofundador do Future of Life Institute, e da pesquisadora de segurança de IA Ajeya Cotra, de acordo com vários relatórios da sessão.

O núcleo do aviso: IA construindo IA

O argumento de Hinton centrou-se num marco técnico específico e não numa hipótese distante. “A IA atingiu agora o ponto em que a IA está projetando uma IA melhor”, disse ele, de acordo com relatos do briefing. "Isso se chama autoaperfeiçoamento recursivo... vai ficar fora de controle a menos que façamos alguma coisa."

Ele também disse aos legisladores que os prazos dos especialistas para a superinteligência entraram em colapso na última década. “Se você olhar as previsões de quando obteremos superinteligência, isso costumava levar talvez 30 anos, talvez 50 anos”, disse Hinton, segundo a NBC News. "Então caiu para talvez 10 anos, talvez 20 anos. Agora as pessoas estão dizendo, muitos pesquisadores estão dizendo apenas alguns anos."

Hinton, professor emérito da Universidade de Toronto que compartilhou o Prêmio Nobel de Física de 2024 pelo trabalho fundamental em redes neurais, deixou o Google em 2023 e desde então se tornou o crítico interno mais proeminente da área – alertando que os sistemas que ele ajudou a criar poderiam acabar superando e deslocando seus criadores.

Ceticismo em relação a um 'Kill Switch'

Ao mesmo tempo que apelava a uma regulamentação rápida, Hinton expressou dúvidas sobre uma das propostas mais discutidas: um mandato federal que permitiria ao governo encerrar sistemas perigosos de IA. Ele disse aos legisladores que tal “interruptor de desligamento” não se sustentaria no longo prazo, segundo a CNN.

Seu ceticismo surgiu na mesma semana em que o senador Rand Paul impediu que um projeto de lei de mudança de IA liderado pelos republicanos fosse acelerado no Senado – um episódio que ilustra o quão longe ainda está de ser aprovada uma legislação mínima de proteção. O senador John Kennedy, da Louisiana, que participou em parte do briefing, disse ao The Washington Sun que gostou da discussão, mas não viu nenhum sinal de que o Senado iria agir, acrescentando que espera que o próximo passo venha da Casa Branca, apontando para a notícia de que o secretário do Tesouro, Scott Bessent, está a pressionar por um quadro de segurança.

A perspectiva do outro lado do corredor não era muito mais ensolarada. O senador Rick Scott, da Flórida, disse em uma entrevista à NewsNation que as empresas precisam se auto-regular: "Não seremos inteligentes o suficiente para regulá-las. Não vamos conseguir fazer nada aqui", disse ele, conforme relatado pelo The Washington Sun.

Alguns democratas empurraram na outra direção. O representante Yassamin Ansari, do Arizona, que participou do briefing, escreveu no X que a IA “pode e continuará a ir além do controle humano” e que “nossa janela para regulá-la está desaparecendo rapidamente.

Uma semana de chicotadas de segurança de IA

O briefing culminou em um período tumultuado no debate sobre governança de IA. Dias antes, o CEO da Anthropic, Dario Amodei, publicou um ensaio apelando aos laboratórios de fronteira para acelerarem o desenvolvimento, alertando para os riscos da perda de controlo ao bioterrorismo – uma posição apoiada publicamente por outros líderes de laboratório, de acordo com relatórios generalizados. No mesmo dia em que Hinton se dirigiu aos senadores, proeminentes investigadores de IA, incluindo Andrew Ng, rejeitaram publicamente as preocupações com a extinção, considerando-as exageradas, sublinhando um campo que está a discutir consigo mesmo em público.

No Capitólio, a atividade tem sido mais barulhenta do que a produção. O senador Cory Booker apelou ao presidente Trump para convocar uma sessão especial do Congresso sobre inteligência artificial, enquanto um grupo bipartidário de solucionadores de problemas anunciou um novo grupo de trabalho sobre IA e tecnologias emergentes esta semana. Nada disso ainda produziu lei federal vinculativa.

Por que o enquadramento de um ano é importante

Os avisos dos pioneiros da IA ​​baseados em prazos tornaram-se rotina, mas a especificidade do cronograma de Hinton – entregue diretamente às pessoas com autoridade para legislar, numa sala excluída dos executivos da indústria – marca uma mudança de tom. Alertas anteriores de pesquisadores normalmente projetavam riscos em horizontes de décadas; uma janela de um ano implica respostas políticas concebidas para o Congresso actual, e não para os futuros.

Também agrava o problema político. Como mostram o cepticismo do próprio Hinton relativamente ao interruptor de interrupção e o bloqueio processual do Senador Paul, não há consenso, mesmo entre figuras preocupadas com a segurança, sobre quais as intervenções que funcionariam. Hinton argumentou que a situação internacional – particularmente a concorrência com a China – torna politicamente frágeis os abrandamentos unilaterais, uma tensão que tem frustrado as propostas mais sérias até agora.

O que acontece a seguir é, segundo o relógio de Hinton, uma questão de meses. Se o briefing altera esse cálculo depende de um Senado que, pelas contas dos seus próprios membros, não está actualmente a mover-se.

Fique à frente da IA

A política de IA está avançando rapidamente – assim como todo o resto na área. Para obter mais notícias sobre IA, atualizações regulatórias e análises, leia mais notícias sobre IA →.

---

Fique à Frente da IA

As últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.

Ler mais notícias de IA →