O Google DeepMind está contratando uma equipe de especialistas nucleares para avaliar se os modelos de IA de ponta poderiam ajudar no desenvolvimento de armas nucleares, de acordo com listas de empregos relatadas pela primeira vez pela publicação do setor Data Center Dynamics e cobertas esta semana pela Futurism.
As listagens, publicadas no site de carreiras do Google, buscam “físicos e engenheiros nucleares altamente qualificados” para a função de especialista em assunto nuclear na equipe de Explosivos Químicos, Biológicos, Radiológicos, Nucleares e de Alto Rendimento (CBRNE), que faz parte da organização de Desenvolvimento Responsável e Inovação da DeepMind. Para mais contexto sobre esta história, confira nossa últimos desenvolvimentos em IA.
O que o trabalho realmente pede
A barra mínima é íngreme. Os candidatos precisam de um doutoramento numa área como a física dos plasmas ou a engenharia nuclear – ou “experiência prática equivalente” – além de um historial de colaboração com um laboratório do governo dos EUA e familiaridade com áreas políticas, incluindo gestão de arsenais, não proliferação, controlo de armas ou redução de ameaças.
As qualificações preferidas vão ainda mais longe: experiência em segurança de IA, experiência em modelagem computacional, tempo gasto trabalhando em grandes instalações de usuários de laser e a capacidade de projetar avaliações de segurança que são "comprovadamente não classificadas e não controladas para exportação, através do desenvolvimento de proxies científicos de uso duplo para tópicos de armas".
A remuneração está de acordo com os requisitos do especialista. O Google lista uma faixa salarial de US$ 174.000 a US$ 252.000, com um bônus de 15% no topo.
Por que um laboratório de IA precisa de especialistas em armas
A principal responsabilidade é avaliar a segurança dos modelos de IA de fronteira no domínio nuclear. A listagem descreve o trabalho como uma avaliação de “modelo de assistência em fissão, fusão e proliferação de armas termonucleares, hidrodinâmica de radiação, magneto-hidrodinâmica, etc. de uma forma comprovadamente não classificada e não controlada para exportação”.
Traduzido da linguagem do anúncio de emprego: a DeepMind quer especialistas que possam determinar se os seus modelos são capazes de fornecer ajuda significativa no desenvolvimento de armas nucleares – e fazê-lo sem que as próprias avaliações cruzem os limites de classificação. A referência a “proxies científicos de dupla utilização” sugere testes baseados em problemas científicos adjacentes, como a hidrodinâmica da radiação, que substituem questões específicas de armas que um modelo não deveria responder.
Os domínios da física mencionados na listagem não são arbitrários. A hidrodinâmica da radiação e a magneto-hidrodinâmica descrevem como a energia e o plasma se comportam sob condições extremas relevantes para a física das armas nucleares, e é precisamente por isso que funcionam como tópicos sensíveis: a competência nestes campos é fundamental para a concepção de ogivas, mas a ciência subjacente também é publicada abertamente na investigação em fusão e astrofísica. A construção de questões de avaliação em torno de tais “proxies” permite que as equipes de segurança avaliem se um modelo pode navegar nesse conhecimento limite sem que as próprias avaliações se tornem um risco de proliferação.
A leitura da listagem feita pelo Futurismo foi contundente: sugere que o principal laboratório de pesquisa de IA do Google espera que seus modelos acabem enfrentando questões com conteúdo nuclear real e está contratando o conhecimento necessário para detectar esse comportamento antes que ele seja importante. Esse enquadramento é especulativo – um esforço de contratação demonstra preparação, e não prova de que os modelos atuais podem produzir orientação de armas acionáveis – mas a escala dos requisitos especializados sublinha a seriedade com que o laboratório trata o cenário.
Parte de uma construção de segurança maior
A contratação se enquadra em um padrão que definiu a indústria de laboratórios de ponta durante anos: empresas de IA recrutando especialistas de domínio credenciados em disciplinas acadêmicas para testar seus modelos. O que começou como exércitos de verificadores de factos para formação de modelos evoluiu cada vez mais para equipas de avaliação dedicadas a domínios de risco catastrófico, estando os QBRN entre os mais sensíveis.
A própria liderança da DeepMind tem soado o alarme publicamente. Na semana passada, a liderança do laboratório alertou que as tentativas de hacking habilitadas por IA deveriam ser tratadas como “disparos de alerta precoce” de riscos de segurança maiores, informou a Reuters, com previsões de que a IA poderia permitir grandes incidentes de segurança dentro de aproximadamente dois anos. A criação de uma equipa de avaliação QBRN é a versão operacional dessa retórica.
O impulso também ocorre em meio a um período de mudanças estruturais nas operações de IA do Google. Em agosto, a empresa reorganizou sua liderança em IA, com a Reuters e a CNBC relatando que mudanças de liderança de longa data transferiram funções de responsabilidade – e o Wall Street Journal relatou separadamente que o Google transferiu uma equipe de responsabilidade de IA para fora do laboratório DeepMind inteiramente como parte dessa mudança. O facto de a equipa do CBRNE estar agora integrada numa organização de “Desenvolvimento e Inovação Responsáveis” mostra como o aparelho de segurança foi reorganizado – e expandido – mesmo enquanto os relatórios sobre a reestruturação continuam.
O subtexto da governança
Há também uma dimensão política. As empresas fronteiriças de IA estão sob pressão crescente dos governos para demonstrar que podem medir e controlar as capacidades mais perigosas que os seus sistemas possam desenvolver. Avaliações credíveis nos domínios nuclear e biológico estão a tornar-se um requisito de facto para a credibilidade do laboratório – o trabalho de segurança que os reguladores e os organismos de supervisão pedem cada vez mais para ver.
Nesta perspectiva, a contratação de pessoas que passaram carreiras dentro do sistema de não-proliferação serve dois propósitos ao mesmo tempo: cria a capacidade técnica para realizar avaliações rigorosas e empresta legitimidade institucional ao mundo existente de controlo de armas.
As listagens permanecem abertas no site de carreiras do Google. Quer as funções sinalizem cautela ou posicionamento competitivo, uma coisa é certa: a era em que a segurança da IA era uma tarefa para generalistas acabou.
_Este artigo é baseado em relatórios da Data Center Dynamics and Futurism e nas listas públicas de empregos do Google DeepMind._
---
Fique à Frente da IAAs últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.
Ler mais notícias de IA →
