O CEO do Google DeepMind, Demis Hassabis, propôs a criação de um órgão de padrões independente, liderado pelos EUA, modelado após a Autoridade Reguladora da Indústria Financeira (FINRA) para avaliar e regular modelos de IA de fronteira antes da divulgação pública, alertando que a humanidade tem uma "janela preciosa" para garantir que a inteligência artificial geral seja desenvolvida com segurança.
Num documento-quadro intitulado "Uma Estrutura para a IA de Fronteira e o Amanhecer de uma Nova Era", publicado no X na manhã de terça-feira, Hassabis apresentou uma proposta detalhada sobre como os Estados Unidos poderiam estabelecer uma infra-estrutura regulatória credível para os sistemas de IA mais poderosos. O plano prevê uma nova organização que testaria modelos de fronteira e desenvolveria melhores práticas para a sua implantação – financiada pela indústria da IA, mas operada independentemente de qualquer empresa.
Para obter as últimas notícias de última hora sobre IA e análises políticas aprofundadas, o AI Buzz Wire acompanha os desenvolvimentos que moldam a indústria.
Como funcionaria o órgão de padrões proposto
De acordo com a proposta de Hassabis, os laboratórios de IA partilhariam voluntariamente os seus modelos de fronteira com o organismo de normalização para revisão até 30 dias antes da divulgação pública. Esta avaliação pré-implantação avaliaria modelos de segurança, proteção e riscos potenciais de uso indevido. Uma vez comprovado que o protocolo de avaliação é eficaz e robusto, o quadro prevê a formalização do processo para que os modelos de fronteira sejam obrigados a aprová-lo antes de serem implantados no mercado dos EUA.
A proposta aborda diretamente uma lacuna exposta pelas recentes análises governamentais dos sistemas de IA de fronteira. No início deste ano, o governo dos EUA conduziu análises de segurança ad hoc do modelo Mythos da Anthropic e do modelo Sol da OpenAI antes de seus respectivos lançamentos. Essas revisões suscitaram críticas significativas pela falta de profundidade técnica e pela opacidade da tomada de decisões sobre quando um modelo foi considerado suficientemente seguro para implantação pública.
No quadro de Hassabis, essas decisões seriam tratadas por uma organização dedicada, composta por especialistas técnicos, apoiada pelo governo dos EUA, mas isolada de pressões políticas. Os laboratórios também seriam obrigados a trabalhar com o órgão de padronização para resolver vulnerabilidades críticas descobertas após o lançamento.
Uma 'janela preciosa' antes da AGI
Em entrevistas com Axios, CNBC e The Economist que acompanharam o lançamento do quadro, Hassabis enfatizou que o momento actual representa uma pequena oportunidade para estabelecer mecanismos de governação antes da chegada da inteligência artificial geral. Ele descreveu este período como uma “janela preciosa” – o que implica que a janela não permanecerá aberta indefinidamente.
Hassabis há muito defende uma governança proativa da IA. A sua estrutura surge no meio de um debate cada vez mais intenso sobre se os Estados Unidos deveriam criar um regulador formal da IA e, em caso afirmativo, que forma deveria assumir. O modelo FINRA é notável porque a organização autorreguladora do setor financeiro é financiada por empresas-membro, mas opera sob supervisão governamental, o que lhe confere experiência no setor e responsabilidade pública.
Resistência da administração Trump
A proposta enfrenta obstáculos políticos significativos. A administração Trump sinalizou profundo cepticismo em relação à criação de novos órgãos reguladores para a inteligência artificial. O conselheiro de IA da Casa Branca e sócio geral do a16z, Sriram Krishnan - que desde então deixou seu cargo - rejeitou publicamente a ideia de um regulador de IA dentro do poder executivo, afirmando sem rodeios que "não haverá um FDA para IA".
Essa posição colocou os responsáveis da administração em desacordo com alguns dos líderes mais proeminentes da indústria. Embora empresas como a Anthropic e a OpenAI tenham apoiado amplamente os testes de segurança pré-implantação, o mecanismo e a autoridade para tais testes permanecem contestados. A proposta de Hassabis tenta enfiar a linha nesta agulha, posicionando o organismo de normalização como inicialmente financiado pela indústria e voluntário, com a formalização apenas a ocorrer depois de o processo provar o seu valor.
Aproveitando os esforços existentes
A estrutura não começa do zero. Baseia-se nos compromissos voluntários que várias empresas fronteiriças de IA já assumiram em relação aos testes de segurança e à formação de equipas. Também se baseia em esforços internacionais, incluindo o AI Safety Institute do Reino Unido e o Processo de Hiroshima AI do G7, que estabeleceram quadros preliminares para avaliar modelos avançados.
No entanto, a proposta de Hassabis vai mais longe ao apelar a uma organização permanente e com bons recursos, com o mandato de testar todos os modelos de fronteira antes da sua divulgação – um nível de escrutínio que nenhum organismo actual oferece. A analogia da FINRA sugere uma operação profissional em escala, com centenas de especialistas técnicos, e não um pequeno painel consultivo.
A proposta também aborda o monitoramento pós-implantação, exigindo que os laboratórios trabalhem com o órgão de padronização nas vulnerabilidades descobertas depois que um modelo estiver disponível publicamente. Isto reflete o reconhecimento crescente de que os riscos de segurança não terminam no lançamento, como demonstrado pelos jailbreaks e casos de uso indevido que surgiram após vários lançamentos de modelos de alto perfil.
Resposta da indústria e próximas etapas
A estrutura gerou atenção significativa em toda a comunidade política de IA. Os defensores argumentam que um regime credível de testes pré-implantação poderia construir a confiança pública nos modelos de fronteira e reduzir o risco de utilização indevida catastrófica. Os críticos, incluindo alguns defensores do mercado livre, alertam que um requisito de testes obrigatórios poderia consolidar os grandes operadores históricos, criando barreiras regulamentares para as pequenas empresas e os criadores de código aberto.
A proposta de Hassabis não especifica quais os modelos que seriam qualificados como “fronteira” – uma questão fundamental que determinará o âmbito de qualquer regime regulamentar futuro. Também deixa em aberto a forma como o organismo de normalização lidaria com aplicações classificadas ou de dupla utilização, especialmente dadas as preocupações recentes sobre os modelos de IA que estão a ser utilizados para quebrar sistemas confidenciais dos EUA.
O momento da proposta é deliberado. Com a AGI a parecer cada vez mais plausível nos próximos anos, Hassabis defende que a infra-estrutura de governação deve ser construída agora e não depois de surgir uma capacidade perigosa. Ainda não se sabe se Washington agirá de acordo com seu chamado.
Fique à frente da IA
Para uma cobertura abrangente das políticas, regulamentações e desenvolvimentos do setor de IA, visite AI Buzz Wire.
Leia mais notícias sobre IA →
