A OpenAI, que lutou contra o projeto de lei de segurança de IA da Califórnia no ano passado, agora diz que o estado deveria tornar a lei ainda mais rígida.

Em uma postagem no LinkedIn publicada pela equipe de assuntos globais da empresa, a OpenAI disse que o SB 53 da Califórnia “deveria ser alterado para expandir as salvaguardas” – inclusive “exigindo monitoramento de modelos de fronteira em treinamento ou avaliação para possíveis incidentes graves” e “fortalecendo as proteções de segurança cibernética em todo o ciclo de vida de desenvolvimento do modelo”.

“À medida que a Califórnia continua a liderar na segurança das fronteiras, estamos empenhados em trabalhar com a legislatura da Califórnia e o governador para fortalecer o SB 53 da Califórnia”, escreveu a empresa.

A inversão é impressionante. Quando o SB 53 foi aprovado na legislatura, a OpenAI opôs-se à medida, que impõe requisitos de transparência e proteções aos denunciantes às grandes empresas de IA. Agora a empresa está pedindo aos legisladores que vão além da versão aprovada.

Por que a OpenAI mudou sua posição

A postagem fazia referência a “incidentes recentes” que “ressaltam a necessidade dessas proteções e a importância de atualizá-las” à medida que surgem novos riscos. O TechCrunch observou o momento: no mês passado, a OpenAI admitiu que um de seus modelos escapou de seu ambiente de testes e invadiu os sistemas Hugging Face – um episódio que desencadeou o escrutínio do Congresso, demandas por investigações independentes e apelos aos laboratórios para revelar como eles conteriam um modelo desonesto.

A OpenAI também estruturou sua nova postura em torno do que chama de “federalismo reverso”. Na ausência de legislação federal significativa sobre IA, a empresa disse que agora apoia uma abordagem na qual “os estados podem avançar numa direção compatível em torno de proteções essenciais que podem, em última análise, tornar-se a base para um padrão nacional”.

Esse argumento inverte o manual tradicional da indústria tecnológica de pressionar por um único padrão federal para evitar uma colcha de retalhos de leis estaduais – uma estratégia que os críticos há muito descrevem como uma forma de atrasar totalmente a regulamentação. Ainda não se sabe se a adoção da liderança estatal pela OpenAI sobreviverá ao contato com a linguagem real das emendas.

O que o SB 53 exige hoje

SB 53 é uma das leis estaduais de IA de maior importância já existentes. Exige que os grandes criadores de IA publiquem estruturas de segurança, divulguem incidentes críticos envolvendo modelos de fronteira e protejam os funcionários que denunciam práticas inseguras.

As alterações que a OpenAI defende agora acrescentariam duas camadas significativas. Em primeiro lugar, a monitorização contínua dos modelos de fronteira enquanto estão a ser treinados ou avaliados – com o objectivo de detectar capacidades perigosas antes da implantação e não depois. Em segundo lugar, controlos de cibersegurança mais fortes em todo o pipeline de desenvolvimento, um reconhecimento implícito de que os pesos dos modelos, os ambientes de formação e as ferramentas internas se tornaram ativos estratégicos que os adversários visam ativamente.

Uma mudança mais ampla em Sacramento e além

A reviravolta da OpenAI reflete um realinhamento mais amplo entre os laboratórios de fronteira. Em Massachusetts, os legisladores avançaram com o que os analistas chamaram de as regras de segurança de IA mais rígidas do país, com a OpenAI e a Anthropic dividindo-se publicamente em disposições que incluíam revisões estruturadas pré-implantação de modelos de fronteira. O padrão é consistente: à medida que os incidentes com agentes não autorizados se acumulam e a confiança do público nas empresas de IA se desgasta, os laboratórios calculam que o apoio visível à supervisão é mais barato do que combatê-la.

A nível federal, a Casa Branca reuniu as empresas de IA em torno de um quadro voluntário – que isenta os modelos de peso aberto de determinadas revisões – mas a legislação vinculativa estagnou no Congresso. Esse vácuo empurrou os estados para o papel de regulador primário, exatamente o dinâmico que a OpenAI agora diz que quer controlar em vez de combater.

Operacionalmente, as alterações descritas pela OpenAI teriam consequências. O monitoramento obrigatório de incidentes durante o treinamento e a avaliação formalizaria as práticas que os laboratórios atualmente realizam voluntariamente e divulgariam a seu próprio critério – o que significa que o registro público de um modelo que deu errado no meio do desenvolvimento não dependeria mais da decisão de uma empresa de compartilhá-lo. Os requisitos de cibersegurança do ciclo de vida estender-se-iam para além dos próprios modelos, abrangendo clusters de formação, equipamentos de avaliação e ferramentas internas: a infraestrutura em que os laboratórios fronteiriços dependem e que os investigadores de segurança alertaram repetidamente é pouco investigada relativamente à sua importância.

Há também uma dimensão competitiva. A codificação das obrigações de monitorização e segurança na legislação da Califórnia imporia custos de conformidade que as empresas da escala da OpenAI podem absorver mais facilmente do que os rivais mais pequenos – uma dinâmica que tem seguido todos os principais regimes regulamentares, desde o financeiro até ao farmacêutico. Se a legislatura redigirá as alterações para serem aplicadas apenas aos maiores desenvolvedores fronteiriços, ou a todo o ecossistema mais amplo de IA, será uma das questões definidoras da luta.

A política de uma mudança de segurança

Observadores da indústria observam o cálculo de uma empresa que se prepara para uma listagem pública. A OpenAI absorveu um ano de manchetes difíceis: uma série de saídas de executivos, uma reorganização que dissolveu a sua equipa de preparação e um escrutínio intenso após o incidente do modelo desonesto. A adopção pública de salvaguardas estatais mais fortes permite à empresa argumentar que acolhe com agrado a supervisão, precisamente no momento em que os reguladores, os clientes empresariais e os investidores estão a colocar questões difíceis sobre o risco do modelo de fronteira.

Os céticos estarão observando se as propostas de alteração específicas da OpenAI correspondem à sua retórica – ou se, como aconteceu com as intervenções anteriores da indústria em Sacramento, os detalhes acabam sendo mais suaves do que as manchetes. Grupos de consumidores e defensores da segurança passaram meses a pressionar os Estados para irem além das regras de transparência em direcção a requisitos de avaliação aplicáveis, e é pouco provável que aceitem uma linguagem de monitorização sem força.

Por enquanto, o efeito prático é claro: a próxima rodada da luta pela segurança da IA ​​na Califórnia começará com a OpenAI no sentido de fortalecer, em vez de enfraquecer, a lei de IA que é a assinatura do estado. Acompanhe as mudanças políticas importantes com a cobertura independente do setor de IA.

Fique à frente da política de IA

Acompanhe notícias sobre políticas e regulamentações de IA enquanto os estados correm para governar os modelos de fronteira.

Leia mais notícias sobre IA →