O Google DeepMind lançou um novo instituto dedicado a ampliar a conversa em torno da inteligência artificial geral – e seus ensaios inaugurais incluem uma proposta concreta de Demis Hassabis para um órgão liderado pelos EUA que avaliaria modelos de IA de fronteira antes da implantação.
O DeepMind Institute, lançado quarta-feira pelo Google e por pesquisadores do Google DeepMind, lista o cofundador do DeepMind, Shane Legg, como seu editor-chefe, ao lado do executivo do Google, James Manyika, e do presidente do Google DeepMind, Demis Hassabis, como diretores, de acordo com o TechCrunch. Para mais contexto sobre esta história, confira nossa cobertura da indústria de IA.
Espaço para discordar
O objetivo declarado do instituto é trazer à tona divergências genuínas – inclusive dentro do próprio Google. “Eles nem sempre concordarão e provavelmente mudarão de ideia, à medida que mais dados e informações vierem à tona na fronteira em rápida evolução”, diz o anúncio.
A sua primeira coleção compreende quatro ensaios que cobrem políticas económicas para gerir potenciais perturbações da AGI, preservando o raciocínio do modelo legível por humanos, princípios para o florescimento humano e uma estrutura para avaliar modelos de IA de fronteira.
Institucionalizar o desacordo aberto é um movimento incomum para um laboratório corporativo de IA, onde as mensagens públicas tendem a ser rigidamente controladas. Por definição, o instituto oferece aos pesquisadores do Google um espaço para discutir posições que podem entrar em conflito com os interesses comerciais da empresa – ou entre si.
O ensaio de transparência: observe a 'profundidade serial opaca'
Um dos quatro ensaios, dos investigadores de segurança da DeepMind Rohin Shah e Anca Dragan, argumenta que a janela cada vez menor de transparência da IA – a capacidade de ver e verificar o raciocínio passo a passo de um modelo – não é inevitável, mesmo que as novas arquitecturas tornem os modelos mais poderosos mais difíceis de monitorizar.
Os autores dizem que os desenvolvedores e reguladores devem enfrentar diretamente as compensações de segurança. Concretamente, isso poderia significar limitar o que eles chamam de “profundidade serial opaca” – a quantidade de computação sequencial que um modelo pode realizar sem produzir um traço de raciocínio legível – ou exigir que os desenvolvedores demonstrem que sistemas menos transparentes permanecem tão monitoráveis quanto os interpretáveis.
A proposta é notável porque trata a perda de interpretabilidade como uma escolha de concepção e política, em vez de uma consequência inevitável de escala, abrindo a porta a requisitos que poderiam ser incluídos na regulamentação.
Proposta de Hassabis: um órgão de padrões de fronteira dos EUA
O ensaio mais importante pode ser o de Hassabis. Ele propõe um órgão de padrões de IA de fronteira liderado pelos EUA, encarregado de avaliar os modelos de IA mais avançados. De acordo com a estrutura, os desenvolvedores inicialmente enviariam modelos voluntariamente para revisão até 30 dias antes do lançamento. Uma vez que o sistema de avaliação se mostre eficaz, passar nos seus testes poderá tornar-se um requisito para a implantação de modelos de fronteira nos Estados Unidos.
O organismo começaria por conceber avaliações em consulta com empresas de IA, mas acabaria por desenvolver avaliações independentes e não divulgadas - o que o ensaio chama de testes "resistentes" - para evitar que os laboratórios adaptassem os seus modelos a parâmetros de referência conhecidos, um modo de fracasso bem documentado dos regimes de avaliação pública.
Hassabis também deixou a porta aberta à escalada: o quadro poderia ser “aumentado se a gravidade da situação o exigir”, incluindo potencialmente uma desaceleração coordenada entre os criadores de IA de fronteira.
Por que os outros dois ensaios são importantes
Os dois ensaios restantes — sobre políticas económicas para gerir a disrupção da AGI e sobre princípios para o florescimento humano — completam uma coleção que trata a AGI como um problema que abrange toda a sociedade e não como um problema puramente técnico. A deslocação económica tem sido há muito tempo a preocupação pública mais tangível em torno da IA avançada, e enquadrá-la juntamente com a política de avaliação e a interpretabilidade sugere que o instituto quer que os decisores políticos vejam as peças como uma agenda em vez de debates separados.
Essa amplitude também é um sinal sobre o posicionamento do Google. A empresa está competindo por clientes empresariais e contratos governamentais, ao mesmo tempo que argumenta que os sistemas fronteiriços precisam de escrutínio externo. Publicar a tensão, em vez de suavizá-la, é a premissa central do instituto.
Da preocupação às propostas concretas
Os ensaios chegam num momento em que o debate sobre segurança na indústria passa de declarações amplas de preocupação para mecanismos específicos: requisitos de divulgação, escrutínio externo e – se as salvaguardas ficarem para trás – abrandamentos coordenados. Essa mudança se acelerou esta semana, quando os líderes da indústria endossaram elementos do apelo do CEO da Anthropic, Dario Amodei, para “acelerar” o desenvolvimento de IA de fronteira, de acordo com o TechCrunch.
O momento é importante. Os governos de ambos os lados do Atlântico estão a ponderar como supervisionar sistemas cujas capacidades estão a avançar mais rapidamente do que as infra-estruturas de avaliação. Uma proposta que tem origem num laboratório líder de IA – e que inclui uma revisão minuciosa antes do lançamento – dá aos decisores políticos um modelo que a própria indústria endossou nominalmente, o que tem sido historicamente um pré-requisito para uma regulamentação significativa da IA.
O que assistir
A independência editorial do instituto em relação ao Google será o primeiro teste. Se os ensaios continuarem a incluir posições que vão contra o roteiro comercial do Google – como o ensaio sobre transparência provavelmente faz – o local poderia se tornar um contribuinte sério para o debate político da AGI. Se migrar para mensagens corporativas, será mais um canal de relações públicas em um campo lotado.
De qualquer forma, a substância está agora sobre a mesa: requisitos de avaliação pré-lançamento, testes prolongados e até mesmo uma desaceleração coordenada estão a ser defendidos publicamente por uma das figuras mais poderosas da IA. A questão já não é se os modelos de fronteira devem ser avaliados de forma independente, mas sim quem faz a avaliação — e em que calendário.
---
Fique à Frente da IAAs últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.
Ler mais notícias de IA →
