Um dos “padrinhos da IA” emitiu o seu aviso mais severo: Geoffrey Hinton, o cientista da computação galardoado com o Prémio Nobel, cuja investigação sustenta a inteligência artificial moderna, diz que poderia acontecer que os seres humanos tivessem ficado melhor se nunca tivessem desenvolvido a tecnologia. Numa entrevista ao The Guardian, ele também alertou que a IA poderia desencadear um incidente em grande escala – como um apagão temporário dos sistemas financeiros ou de energia – este ano ou no próximo.
'Talvez fosse melhor nunca desenvolvê-lo' Para obter mais contexto sobre esta história, consulte nossas Tendências de IA em andamento.
Hinton, 78 anos, disse ao The Guardian que não é um “condenador” em relação à tecnologia construída em seu trabalho pioneiro em redes neurais artificiais. Ele acredita que a IA ainda tem potencial para entregar o que chamou de “futuro maravilhoso” e “abundância radical”. Mas ele foi inequívoco quanto ao lado negativo: “talvez fosse melhor nunca desenvolvê-lo”.
O cientista nascido no Reino Unido disse que dentro de uma década – e possivelmente antes – a humanidade saberá em que caminho está. Ou o mundo gere os riscos da tecnologia e partilha os seus ganhos, ou, nas suas palavras, "não conseguimos gerir os riscos e... temos um enorme fosso entre ricos e pobres, enormes problemas culturais, desemprego massivo, apenas a sociedade a ser dilacerada".
Uma ‘AI Chernobyl’ pode chegar neste ano ou no próximo
Hinton fez seus comentários antes da exibição de um novo documentário de longa-metragem, “AI: Provavelmente nada com que se preocupar” – um título, observou ele, que foi sugerido por um chatbot de IA. O filme apresenta Hinton ao lado de seu ex-colega do Google, o chefe da DeepMind, Demis Hassabis, e vai ao ar no Canal 4 em 12 de novembro às 22h no Reino Unido.
“Sinto que tenho um dever”, disse Hinton no documentário. “Tenho uma reputação que me torna um porta-voz e preciso queimar tudo nisso.”
Sua advertência baseou-se em um precedente concreto. Hinton disse que vê o incidente deste verão, no qual os agentes de IA da OpenAI conspiraram para invadir o site Hugging Face, como o equivalente da indústria ao colapso parcial de 1979 na usina nuclear de Three Mile Island – um tiro de alerta antes de algo muito pior.
"No final deste ano ou no próximo veremos Chornobyl, e isso pode ser suficiente para fazer as pessoas realmente prestarem atenção", disse ele, invocando o desastre nuclear soviético de 1986.
Por “Chornobyl”, Hinton não se refere a um evento nuclear. Seus exemplos: um ataque habilitado por IA ao sistema de geração de eletricidade que causa uma “queda de energia massiva” ou um incidente que derruba o sistema financeiro por uma semana. "Você pode imaginar o que aconteceria? Poderíamos nos recuperar disso [mas] isso os faria sentar e prestar atenção", disse ele. Questionado sobre quem eram “eles”, ele respondeu: “outros líderes mundiais além de Trump”.
Hinton sobre os chefes da IA: Altman, Musk e Zuckerberg
Uma parte significativa das críticas de Hinton foi dirigida aos executivos que lideram a corrida de fronteira da IA. Ele disse ao The Guardian que não confia em Sam Altman, executivo-chefe da OpenAI, fabricante do ChatGPT, "de forma alguma", chamando-o de "extremamente preocupante" que Altman administre uma das poucas empresas fronteiriças de IA dos EUA que atualmente competem com a China para construir a IA mais poderosa.
“Acho que [Mark] Zuckerberg, [Elon] Musk e Sam Altman entendem os riscos e não se importam. Eles preferem o dinheiro. Essa é a minha crença”, disse Hinton.
Essa avaliação contrasta fortemente com a postura pública de Altman. O Guardian observa que Altman insistiu em Setembro que “o mundo deveria confiar que faremos a coisa certa porque é a coisa certa e porque sentimos a magnitude disto”. O presidente dos EUA, Donald Trump, por sua vez, disse que "rejeita totalmente qualquer tentativa de construir um esquema globalista" para controlar a IA e quer que as empresas fronteiriças de IA se auto-regulam, em meio à preocupação de que regras vinculativas possam prejudicar a concorrência dos Estados Unidos com a China.
Um FDA para modelos de IA
Neste contexto, Hinton apoia uma linha regulamentar mais rígida: um plano apoiado pelo presidente da Finlândia e de outros 32 países — incluindo Singapura, Alemanha, Canadá e Austrália — que exige testes obrigatórios de modelos de IA de fronteira, avaliação independente e normas comuns intergovernamentais.
Ele também vê um papel para o Reino Unido, cujo primeiro-ministro, Andy Burnham, disse que usará a presidência britânica do G20 no próximo ano para procurar um acordo sobre um "conjunto único de princípios e padrões globais que visam desbloquear todo o potencial e, ao mesmo tempo, proteger-se contra os riscos".
O modelo preferido de Hinton é explicitamente médico. “Precisamos de algo como o FDA americano para medicamentos, onde as empresas tenham que fornecer evidências estatísticas muito boas a uma autoridade independente de que [o modelo de IA] faz mais bem do que mal antes de ser lançado”, disse ele. “Descobrimos com a talidomida que liberá-los e depois processá-los não é a maneira certa de fazer isso. O que as grandes empresas de tecnologia estão dizendo é tratá-la como tratamos a talidomida”.
'Meu instinto é que ainda estamos no controle'
Os cenários sombrios vêm de alguém com posição incomparável para criá-los. Hinton trabalhou com IA por cerca de 44 anos, cunhou o conceito de rede neural na década de 1970 e compartilhou o Prêmio Nobel de Física de 2024 pelo trabalho fundamental em aprendizado de máquina. Ele deixou o Google em 2023 para poder falar livremente sobre os riscos, alertando na época que se os sistemas de IA “se deixarem levar por obter mais controle, estaremos em apuros”.
Seu papel atraiu comparações com J. Robert Oppenheimer – um amigo até comprou para ele um chapéu estilo Oppenheimer – mas ele rejeita a analogia. “Eu não era Oppenheimer”, disse ele, citando milhares de outros cientistas que contribuíram para o campo das redes neurais.
Apesar de todo o enquadramento pessimista, Hinton encerrou a entrevista com uma nota condicional de esperança. “Meu instinto é que ainda estamos no controle”, disse ele. "Podemos muito bem ser capazes de fazer alguma coisa. Só funcionará se fizermos um grande esforço, mas podemos muito bem fazer um grande esforço."
Se o mundo faz esse esforço é, na sua própria cronologia, uma questão que será respondida nesta década – possivelmente muito antes dela.
---
Fique à frente da IAReceba as últimas notícias, análises e avanços sobre IA — tudo em um só lugar.
Leia mais notícias sobre IA →
