Os avisos de segurança dos investigadores antrópicos que dominaram o discurso sobre IA esta semana produziram agora algo concreto em Washington: um impulso legislativo. A Reuters informou na quinta-feira que os legisladores dos EUA estão pedindo novas regras de IA em resposta às declarações dos pesquisadores, enquanto a representante de Massachusetts, Lori Trahan, usou uma entrevista na manhã de quinta-feira para detalhar seu Frontier Act, um projeto de lei que imporia obrigações vinculativas aos desenvolvedores fronteiriços de IA pela primeira vez.
Falando na edição matinal da WBUR, Trahan disse que a reação no Capitólio aos eventos desta semana foi diferente de tudo que ela viu desde que começou a trabalhar na regulamentação da IA no início deste ano. Para cobertura diária das mudanças nas políticas de IA em Washington, Bruxelas e outros lugares, siga AI Buzz Wire, sua fonte para as últimas notícias sobre IA e atualizações regulatórias.
O que a Lei da Fronteira faria
Trahan, coautor do projeto de lei bipartidário, descreveu-o como um conjunto de “regras de trânsito” para um punhado de empresas cujos modelos poderiam causar danos catastróficos. A Lei da Fronteira exigiria quatro coisas, de acordo com a congressista: requisitos de transparência para desenvolvedores de IA de fronteira, relatórios de incidentes, verificação independente das reivindicações de segurança do modelo e o que ela chamou de botão de pausa do governo se um modelo representar um risco iminente de catástrofe.
“A um nível básico, precisamos de colocar barreiras de protecção nos laboratórios de fronteira”, disse Trahan, enquadrando essas disposições como “apostas de mesa” enquanto o Congresso elabora políticas para os muitos outros sectores que a IA irá tocar.
'O sistema de honra': o argumento de Trahan para regras vinculativas
O cerne do argumento de Trahan é que atualmente nada vincula os desenvolvedores dos sistemas de IA mais poderosos. “Hoje, a única coisa que temos é o sistema de honra”, disse ela. “A tecnologia mais poderosa da história da humanidade está sendo regulada pelos seus desenvolvedores.”
Ela reconheceu o ceticismo entre os colegas, dizendo que alguns consideram os avisos da semana como fomentadores do medo ou demasiado extremos. Mas ela descreveu uma rápida mudança no humor da câmara: "Meu telefone não parou de tocar desde que Jacob Coxon soprou o apito. Acho que meus colegas estão com medo. Eles estão ouvindo seus eleitores que querem que ajamos... Esta semana acaba de atingir um ponto crítico."
Notavelmente, ela disse que a pressão não se limita a uma das partes. “Não são apenas os democratas”, disse Trahan, observando que “os republicanos do MAGA pediram ontem uma ação bipartidária.
Os avisos que deram início a tudo
A fermentação legislativa remonta diretamente às declarações de dois pesquisadores antrópicos. Jacob Coxon deixou a empresa na terça-feira, escrevendo nas redes sociais que a Anthropic está “correndo direto para o autoaperfeiçoamento da superinteligência e apostando em nossas vidas”. O colega pesquisador antrópico Evan Hubinger o apoiou publicamente, escrevendo: "Jacob está correto aqui... Nós realmente acreditamos sinceramente que a IA poderia matar todos os humanos! Eu pessoalmente acho que será> 10% na próxima década."
A história se metastatizou ao longo da semana. The Hill relatou que os legisladores soaram o alarme sobre os perigos da IA após os avisos, a BBC e a CBS cobriram a estimativa de probabilidade de Hubinger, e a NBC News informou na quinta-feira que dois pesquisadores de IA deixaram a Anthropic e o Google por questões de segurança, citando um que disse "não há adultos na sala". A Reuters informou na quinta-feira que os legisladores estão agora pedindo novas regras, e também circularam relatórios de que a OpenAI buscou regras dos EUA que regem modelos poderosos de IA.
De avisos a um arquivo de fatura
O que torna esta semana diferente das controvérsias de segurança anteriores é a velocidade da resposta política. As próprias revelações da Antrópico esta semana – um relatório de inteligência sobre ameaças detalhando campanhas de uso indevido interrompidas, incluindo possíveis tentativas de usar Claude para desenvolver armas biológicas – deram aos avisos uma espinha dorsal probatória que faltava no debate anterior, e os legisladores parecem estar agindo enquanto o momento durar.
O caminho a seguir para a legislação sobre IA
As perspectivas para a Lei da Fronteira permanecem incertas. O Congresso tem lutado durante anos para aprovar uma legislação abrangente sobre IA, e qualquer projeto de lei que aborde a verificação obrigatória ou uma autoridade federal de pausa enfrentaria intenso lobby dos laboratórios que iria regular, juntamente com lutas jurisdicionais entre comitês. Paralelamente, os estados não estão esperando: o governador da Califórnia, Gavin Newsom, sancionou esta semana um conjunto de projetos de lei sobre segurança de IA, de acordo com o Los Angeles Times, mantendo a pressão por uma estrutura federal que evite uma colcha de retalhos de regras estaduais.
Por enquanto, a dinâmica se inverteu. Pela primeira vez neste Congresso, as pessoas que constroem modelos de fronteira exigem publicamente restrições à sua própria indústria – e os legisladores estão a esboçá-las.
Se esse alinhamento produzirá lei ou apenas manchetes, dependerá dos próximos meses. Mas a semana demonstrou algo que nem os laboratórios nem os seus críticos podem ignorar: a segurança da IA passou da sala de seminários para a contagem de chicotes, e os membros que contam os votos dizem que são finalmente os seus eleitores que lhes pedem para agir.
AI Buzz Wire continuará acompanhando o Frontier Act à medida que ele avança no Congresso.
---
Fique à frente da IAReceba as últimas notícias, análises e avanços sobre IA — tudo em um só lugar.
Leia mais notícias sobre IA →
