O governo do Reino Unido anunciou a criação do Laboratório de Biossegurança de IA, descrito como a primeira organização mundial dedicada à biossegurança de IA, apoiada por £ 100 milhões de financiamento governamental e até £ 200 milhões em compromissos da OpenAI e da Anthropic. O Gabinete publicou os planos na sexta-feira como parte de uma Iniciativa Nacional de Biossegurança de IA mais ampla.
No seu conjunto, os compromissos do governo e da indústria destinam até 300 milhões de libras a uma instituição cuja função é garantir que os mesmos sistemas de IA que aceleram a descoberta de medicamentos não diminuem também as barreiras à engenharia de agentes patogénicos perigosos.
O que o laboratório de biossegurança de IA fará
De acordo com o anúncio do governo, o laboratório – abreviado AIBL – reunirá talentos de ponta em IA e ciências biológicas para desenvolver capacidades técnicas práticas que melhorem a capacidade do Reino Unido de compreender, prevenir, detectar e responder a ameaças biológicas. O programa de trabalho inicial centra-se em duas prioridades: melhorar a detecção precoce de ameaças biológicas emergentes e acelerar o desenvolvimento de vacinas, tratamentos e outras contramedidas médicas.
O laboratório aproveitará a IA de ponta em parceria com os centros nacionais de biossegurança do Reino Unido e a indústria das ciências da vida, com o objectivo declarado de permitir ao Reino Unido – e, argumenta o governo, ao mundo – responder mais rapidamente a surtos de doenças. Baseia-se na Estratégia de Segurança Biológica existente do Reino Unido, que enquadrou a preparação para pandemias e as ameaças projetadas como um único continuum de risco biológico desde 2023.
Por que os governos estão mudando agora
O anúncio do Gabinete é invulgarmente direto sobre o problema da dupla utilização. Os avanços na IA, observa, estão a criar oportunidades sem precedentes para a descoberta científica, ao mesmo tempo que alteram o panorama dos riscos biológicos: a IA pode melhorar a compreensão das doenças e o desenvolvimento de contramedidas, mas sistemas cada vez mais capazes também podem reduzir as barreiras às atividades prejudiciais.
Essa preocupação passou do hipotético para o demonstrado ao longo do ano passado. A investigação amplamente divulgada na imprensa científica – incluindo estudos em que modelos de IA conceberam genomas semelhantes a vírus viáveis – mostrou que a linha entre capacidades benéficas e perigosas é mais ténue do que a comunidade de biossegurança pensava anteriormente. A resposta do Reino Unido é institucionalizar o lado defensivo dessa equação antes que o lado ofensivo amadureça.
OpenAI e Anthropic assumem compromissos
A característica mais notável do anúncio é a estrutura de financiamento. Além dos £ 100 milhões de dinheiro público, o governo diz que a OpenAI e a Anthropic comprometeram até £ 200 milhões entre eles. A cidade A. M. O jornal informou que o Google DeepMind também está entre os patrocinadores da iniciativa pela indústria, embora o próprio comunicado do governo nomeie OpenAI e Anthropic como as fontes dos compromissos da empresa.
Para os laboratórios, o acordo é uma forma familiar de envolvimento. A Anthropic construiu grande parte da sua identidade comercial em torno da investigação de segurança, e a OpenAI tem enfrentado críticas constantes de que a sua infraestrutura de segurança não acompanhou as suas ambições de implantação. Colocar dinheiro e pessoal numa instituição de biossegurança ancorada pelo governo dá a ambas as empresas uma resposta concreta e externamente credível à questão de saber qual é o significado dos seus compromissos de segurança na prática.
Também amplia uma relação de trabalho. O Reino Unido posicionou-se como um campo de testes para a supervisão de modelos de fronteira desde a sua Cimeira de Segurança de IA de 2023, e ambas as empresas já encaminham os seus modelos através de avaliações ligadas ao governo antes dos principais lançamentos. Uma instituição permanente com orçamento próprio transforma essa cooperação ad hoc em infra-estruturas.
Um caso de teste para segurança de IA público-privada
O laboratório será observado de perto como um modelo. Se a AIBL demonstrar que os governos e as empresas fronteiriças de IA podem construir capacidades operacionais de biossegurança em conjunto, esperamos que instituições semelhantes noutras capitais — e esperemos que os laboratórios fronteiriços procurem acordos equivalentes onde quer que os seus modelos sejam implementados em escala. Se se tornar um veículo para a lavagem de compromissos de relações públicas em comunicados de imprensa, fortalecerá o cepticismo em relação às promessas voluntárias de segurança.
Muito depende dos detalhes que o anúncio deixa em aberto: o pessoal do laboratório, o seu acesso aos modelos de fronteira, a sua relação com os reguladores e a forma como as suas capacidades de detecção serão partilhadas com os sistemas de saúde pública. O governo afirma que as parcerias serão fundamentais para o trabalho do laboratório e que a sua investigação fortalecerá a resiliência a uma vasta gama de riscos biológicos, incluindo aqueles possibilitados pelos avanços na IA.
O que já está claro é a direção da política. Os governos já não tratam a biossegurança da IA como uma questão de investigação para trabalhos de workshops; estão a financiar instituições permanentes com orçamentos de nove dígitos e a recrutar a indústria da IA como parceiro pagador. O Reino Unido reivindicou a gestão do primeiro. A cópia do modelo por parte de outros países dependerá menos da ciência do que da confiança - e de se as primeiras descobertas da AIBL serão publicadas de forma suficientemente aberta para que o resto do mundo as possa desenvolver.
Acompanhe os mais recentes desenvolvimentos de políticas de IA à medida que os governos em todo o mundo respondem à fronteira.
Fique à frente da IA
Da regulamentação aos avanços da investigação, monitorizamos o que é importante.
Leia mais notícias sobre IA →
