Os funcionários do pequeno escritório do governo dos EUA responsável por testar a segurança dos modelos de IA de fronteira foram recentemente solicitados a se reportar informalmente a um escritório da Casa Branca, informou a Associated Press no sábado, suscitando novas preocupações sobre a independência do principal avaliador de segurança de IA do país.
O escritório, Centro para o Avanço da Inovação e Padrões para Super Inteligência – conhecido como CAISSI e sediado no Departamento de Comércio – também parou de publicar suas pesquisas, de acordo com a AP. O relatório surge no meio de uma crescente ansiedade pública face a uma série de histórias sobre agentes de IA fora de controlo e descreve um cão de guarda com falta de pessoal, sem liderança e cada vez mais silencioso. Para mais contexto sobre esta história, confira nossa notícias de IA.
O que o CAISSI faz — e o que a AP encontrou
A CAISSI está encarregada de avaliar a segurança das novas ofertas de IA antes de chegarem ao público, um mandato que inclui avaliar até que ponto os modelos de fronteira resistem ao uso indevido para ataques cibernéticos e outros danos graves. De acordo com a AP, o pessoal do centro foi “recentemente” convidado a reportar-se informalmente a um escritório da Casa Branca. A agência de notícias citou dois ex-funcionários do governo com conhecimento das discussões, que falaram anonimamente para proteger os atuais funcionários. A Casa Branca não respondeu a perguntas específicas sobre o centro.
A escala da operação é modesta. A AP relata que a CAISSI recebe cerca de 10 milhões de dólares por ano – cerca de um oitavo do que o seu homólogo do Reino Unido recebe, embora os Estados Unidos sejam onde a maioria dos modelos de fronteira são construídos.
O acordo informal de prestação de contas é apenas a mais recente perturbação no centro. A AP descreve um vácuo de liderança que remonta a meses: um diretor foi contratado em abril e demitido em poucos dias, sua substituição durou alguns meses antes de renunciar, e o chefe do instituto pai está atualmente atuando como diretor interino. Na prática, isso significa que ninguém com mandato permanente defende actualmente a independência do centro.
Um cão de guarda que parou de publicar
A mudança mais consequente, segundo a AP, é aquela que o centro já não faz. Em agosto, o Congresso perguntou por que a CAISSI parou de divulgar publicamente relatórios sobre o desempenho dos sistemas de IA em testes de segurança. Os testes de pré-implantação funcionam como uma verificação pública dos construtores de modelos apenas se seus resultados forem visíveis fora do laboratório — e, por enquanto, não são.
A mudança não surgiu do nada. Em Outubro, a Reuters, citando um relatório do The Information, revelou que a administração planeava transferir três altos funcionários da CAISSI para a Casa Branca. Um funcionário da Casa Branca disse ao The Information na época que os problemas de coordenação com o Comércio mostravam a necessidade de aproximar a liderança do centro da tomada de decisões sobre IA. De acordo com esse relatório, as autoridades responderiam a Michael Kratsios, que dirige o Escritório de Política Científica e Tecnológica, e ao Diretor Nacional Cibernético, Sean Cairncross. O secretário de Comércio, Howard Lutnick, convidou os dois para co-gerir o centro cerca de seis meses antes.
Lidos em conjunto, os novos relatórios da AP sugerem que o plano está a chegar à prática – informalmente e antes de qualquer reestruturação formal.
Preocupações com a independência, em ambas as direções
Os críticos citados pela AP temem que as decisões relativas à segurança cibernética e ao risco de armas biológicas possam ser politizadas, ou que as conclusões possam ser suavizadas para se adequarem à indústria tecnológica. Amos Toh, do Centro Brennan para Justiça, disse à AP que tais decisões têm imensas consequências públicas e devem ser explicadas em público. Caroline Siegel Singh, da Federação de Cientistas Americanos, descreveu centros como o CAISSI como instituições poderosas que podem melhorar drasticamente vidas ou fazer o oposto.
Há um contra-argumento e a AP não o descarta. Avaliar a capacidade de um modelo para ajudar a escrever malware é uma questão de segurança nacional, e uma administração que deseja visibilidade sobre quem vê esses resultados tem um caso defensável. A dificuldade é institucional: um árbitro que responde a um dos patrocinadores das equipas está mal colocado para encerrar o jogo e o centro deixou de publicar os relatórios que de outra forma demonstrariam a sua independência.
Por que é importante para construtores e compradores
Para as empresas que baseiam modelos de fronteira, o risco prático identificado nos relatórios não é uma proibição – é incerteza. Se as avaliações permanecerem secretas e alimentarem os controlos de exportação e as compras governamentais, um laboratório poderá perder um contrato ou um mercado com base numa descoberta que nunca consegue ver ou contestar. Esse risco propagar-se-ia através da cadeia de abastecimento até aos produtos a jusante sem qualquer aviso.
Duas coisas valem a pena assistir a seguir. A primeira é se a administração nomeia um diretor permanente para o centro e quem o escolhe. A segunda é se o Congresso, que já pressionou o centro pelo seu silêncio sobre os relatórios publicados, se move para transformar a independência do centro em lei. Até que isso aconteça, o árbitro de segurança da IA de fronteira da América opera com um orçamento de 10 milhões de dólares, sem líder permanente e com uma linha de subordinação que vai até à Casa Branca.
---
Fique à Frente da IAAs últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.
Ler mais notícias de IA →
