Mais de 20 pesquisadores – entre eles o ganhador do Prêmio Nobel Geoffrey Hinton, o colega pioneiro da IA Yoshua Bengio, o cofundador da Anthropic Jack Clark e o cientista-chefe da OpenAI Jakub Pachocki – alertaram os governos para se prepararem para uma “explosão de inteligência” de IA que eles dizem que poderia ser o desenvolvimento tecnológico mais importante da história, informou o The Guardian na segunda-feira.
O artigo, intitulado “E se a automação da P&D em IA desencadear uma explosão de inteligência”, insta os políticos a agirem antes que haja um progresso desenfreado na tecnologia. Seus autores descrevem o cenário como uma “aceleração dramática do progresso da IA, impulsionada pela IA, comprimindo avanços que de outra forma levariam anos em meses ou menos”. Para os leitores que acompanham as últimas notícias sobre investigação em IA, o relatório é menos notável pelo seu alarme do que por quem o assinou: números de toda a academia e de laboratórios de fronteira rivais, defendendo conjuntamente que a investigação automatizada é o cenário para o qual os decisores políticos estão menos preparados.
O que significaria uma explosão de inteligência
A preocupação central dos autores é a perspectiva de os sistemas de IA se melhorarem sem intervenção humana – um processo conhecido como autoaperfeiçoamento recursivo, amplamente referido no artigo como pesquisa e desenvolvimento automatizado de IA.
Assim que os sistemas de IA atingirem capacidades de nível especializado em P&D de IA, argumenta o artigo, um único desenvolvedor poderá administrar uma força de trabalho equivalente a “milhões” de pesquisadores humanos de ponta. A automatização da I&D em IA é, na opinião dos autores, o gatilho mais provável de uma explosão de inteligência, porque os sistemas de IA já estão a contribuir para melhorar a sua própria tecnologia - e os sistemas melhorados que ajudam a criar podem ser rapidamente implementados uma vez construídos.
“Uma explosão de inteligência pode ser o desenvolvimento tecnológico mais importante da história da humanidade, comprimindo anos de progresso em meses ou menos, ameaçando o controlo humano sobre os sistemas de IA e corroendo gravemente os controlos do poder dentro e entre estados, empresas e ramos do governo”, afirma o jornal, segundo o The Guardian.
Por que os autores dizem que a janela está fechando
A urgência do relatório baseia-se numa afirmação cronológica: os sistemas de IA que hoje parecem problemáticos poderão automatizar totalmente projetos de I&D que atualmente levam meses às equipas humanas até 2028.
“Os ganhos de produtividade resultantes da automatização da I&D em IA ainda não atingiram o limiar necessário para desencadear uma explosão de inteligência, mas os ganhos provenientes de sistemas mais recentes estão provavelmente a aproximar-se desse limiar”, escrevem os autores. "Assim que uma explosão de inteligência começar, a janela para ação poderá se fechar."
O artigo acrescenta que “evidências preliminares sugerem que uma explosão de inteligência impulsionada por software é possível”, o que poderia levar ao “desenvolvimento extremamente rápido de sistemas de IA altamente capazes ou sobre-humanos”.
Os riscos que eles sinalizam
Embora uma explosão de inteligência possa produzir avanços médicos e rápidos saltos tecnológicos, os autores descrevem três perigos principais:
- Ameaças descontroladas. Sistemas poderosos podem permitir ameaças biológicas e cibernéticas que se desenvolvam mais rapidamente do que as medidas necessárias para combatê-las.
- Controle perdido. À medida que os humanos se tornam menos envolvidos em P&D de IA, eles podem perder a oportunidade de direcionar e restringir os sistemas que constroem.
- Instabilidade estratégica. Os Estados poderiam utilizar uma explosão de inteligência para converter uma liderança modesta – no ciberespaço, por exemplo – numa vantagem nacional decisiva.
O relatório é sincero ao afirmar que estes impactos são “incertos”. Um avanço tecnológico poderia levar tempo a implementar determinadas cadeias de abastecimento de materiais especializados ou requisitos regulamentares, e os sistemas de IA também poderiam acelerar a velocidade a que os riscos são mitigados.
O que os governos deveriam fazer
Os autores dizem que a preparação para uma explosão de inteligência “deveria ser uma prioridade urgente, inclusive nos mais altos níveis de liderança governamental”, e apresentam um conjunto de políticas candidatas:
- Exigir relatórios transparentes sobre o progresso da I&D relacionada com a IA, incluindo a integração de auditores independentes nas empresas de IA
- Limitar a rapidez com que um sistema de IA pode melhorar dentro de um determinado período de tempo
- Trabalhar com data centers para permitir a pausa de determinados projetos de P&D de IA
- Garantir que os sistemas automatizados de P&D de IA estejam totalmente isolados e não possam escapar do controle humano
- Criar "planos de resposta a emergências" para a variedade de cenários que uma explosão de inteligência poderia produzir
As propostas estendem ideias que já estão em curso na política ocidental de IA – relatórios obrigatórios de incidentes, avaliação de terceiros e governação computacional – mas aplicam-nas a um ponto final específico: a automatização da própria investigação.
Por que esses autores e por que agora
Os signatários dão ao documento um peso incomum. Hinton e Bengio são dois dos “padrinhos” da IA moderna, reconhecidos pelo trabalho fundamental em redes neurais; ambos se tornaram vozes proeminentes alertando sobre a tecnologia que ajudaram a criar. Clark foi cofundador da Anthropic e Pachocki é cientista-chefe da OpenAI.
O seu alerta surge no meio de um movimento mensurável da indústria nessa direção. A Anthropic disse que a IA agora produz 80% de seu próprio código, enquanto a OpenAI usa agentes autônomos de IA em áreas como o treinamento de novos modelos, de acordo com o The Guardian. Ambos os laboratórios também concordaram em que avaliadores independentes avaliassem os seus modelos depois de alertarem que o desenvolvimento da IA estava a atingir um nível crítico em termos de segurança.
Se os governos irão avançar ao ritmo que os autores desejam é outra questão. Mas o argumento central do artigo – de que o momento de construir os travões é antes de o carro precisar deles – é agora endossado pelas pessoas mais próximas da máquina.
---
Fique à frente da IAReceba as últimas notícias, análises e avanços sobre IA — tudo em um só lugar.
Leia mais notícias sobre IA →
