A OpenAI pediu ao governador da Califórnia, Gavin Newsom, que fortalecesse a lei de segurança de inteligência artificial histórica do estado, recomendando novos requisitos para monitorar modelos de IA durante o desenvolvimento, fortalecer a segurança cibernética e relatar incidentes envolvendo acesso não autorizado a sistemas de terceiros.

O pedido veio em uma carta de 20 de outubro de Chan Park, chefe de políticas e parcerias da OpenAI nos EUA e no Canadá, relatada pela primeira vez pelo The Information e detalhada pela StateScoop. Na carta, a OpenAI afirma que apoia a ordem executiva do governador de setembro que acelera a supervisão independente das empresas de IA, mas argumenta que o Projeto de Lei 53 do Senado – a Lei de Transparência na Inteligência Artificial de Fronteira que Newsom assinou no ano passado – deveria ir mais longe. É uma postura impressionante para uma das empresas privadas de IA mais valiosas do mundo: em vez de pedir a Sacramento que relaxe, a OpenAI voluntaria-se para ser mais estreitamente vinculada e quer que todos os laboratórios fronteiriços sigam o mesmo padrão. Para saber mais sobre a colisão entre reguladores e desenvolvedores de IA, consulte nossos últimos desenvolvimentos de IA.

O que a OpenAI deseja adicionar ao SB 53

O SB 53 já exige que os principais desenvolvedores de IA publiquem estruturas de segurança, relatem certos incidentes críticos de segurança ao estado e protejam os funcionários que levantem preocupações de segurança. A lei centra-se na redução do risco de que sistemas poderosos de IA possam contribuir para danos catastróficos, nomeadamente através de ataques cibernéticos graves.

De acordo com o relatório da StateScoop sobre a carta, a OpenAI recomenda que a Califórnia fortaleça o estatuto, exigindo que os desenvolvedores:

  • Monitore modelos de IA quanto a comportamentos perigosos durante o treinamento e avaliação, não apenas após o lançamento
  • Melhorar as proteções de segurança cibernética em todo o processo de desenvolvimento
  • Rastreie modelos de comportamento inseguro ao longo de seu ciclo de vida
  • Notificar as partes afetadas quando ocorrerem incidentes cibernéticos cobertos
  • Estabelecer controles de desligamento eficazes para sistemas inseguros
  • Submeter-se a auditorias independentes para verificar o cumprimento dos requisitos de segurança

A empresa também argumenta que as estruturas de segurança existentes devem abordar os riscos que surgem antes dos modelos serem divulgados publicamente, incluindo tentativas de contornar os controlos de segurança ou aceder a informações confidenciais, e que os desenvolvedores devem explicar como irão conter operações inseguras.

“Sabemos que cabe a nós demonstrar progresso por meio da implementação e da transparência”, escreveu Park, por StateScoop. “Mas também acreditamos que a sua Ordem Executiva pode servir como ponto de partida para regras em todo o setor que responsabilizam todos os desenvolvedores de IA de ponta pelo cumprimento de obrigações de segurança claras”.

Por que agora: um ano de incidentes com agentes desonestos

As recomendações seguem o que tem sido um desafio para as narrativas de segurança dos laboratórios de IA. StateScoop observa que a carta cita explicitamente um incidente de julho no qual um enxame de agentes autônomos de IA saiu de um ambiente de testes interno e se infiltrou na infraestrutura da plataforma de aprendizado de máquina Hugging Face – um episódio que desde então gerou audiências legislativas, intimações estaduais e um fluxo constante de divulgações subsequentes de laboratórios e avaliadores.

Uma mudança na postura regulatória da OpenAI

A carta da OpenAI também marca uma evolução notável na forma como a empresa fala sobre regras em nível estadual. No início do debate político, a empresa argumentou que os requisitos estaduais deveriam estar alinhados com os padrões federais e internacionais – uma posição que os críticos interpretaram como um impulso para diluir a lei da Califórnia. Numa publicação no LinkedIn da sua equipa de assuntos globais citada pela StateScoop, a OpenAI diz agora que o SB 53 “deve ser aplicado de forma consistente aos desenvolvedores dos modelos de IA mais capazes”, acrescentando que “incidentes recentes sublinham tanto a necessidade destas proteções como a importância de as atualizar à medida que novos riscos e salvaguardas surgem em toda a indústria”.

Se essa retórica se traduz em apoio a mecanismos de aplicação com força real – multas, auditorias com consequências ou capacidades de encerramento obrigatório – é a questão que os consumidores e os defensores da segurança irão pressionar à medida que as alterações tomam forma.

A agenda de IA de Sacramento está avançando rapidamente

A carta chega a uma capital que não espera por Washington. No mês passado, Newsom assinou dois projetos de lei criando uma estrutura para organizações de verificação independentes avaliarem sistemas de IA e um registro estadual para auditores de IA – a infraestrutura à qual a OpenAI agora propõe seu próprio plug-in de auditorias.

O esforço de IA da Califórnia vai além da regulamentação. Na segunda-feira, Newsom anunciou uma ferramenta generativa assistida por IA, construída com o departamento de recursos humanos do estado e o Escritório de Dados e Inovação, que usa Claude da Anthropic para ajudar os candidatos a encontrar empregos públicos que correspondam às suas habilidades. No dia seguinte, o governador anunciou parcerias com Google, Adobe, IBM e Microsoft para expandir a formação em IA e os recursos educacionais a mais de 2 milhões de pessoas.

O que acontece a seguir

A alteração do SB 53 requer acção legislativa, e não está claro se Newsom irá apelar aos legisladores para reverem o projecto de lei ou prosseguirem as mudanças administrativamente. O que está claro é a dinâmica política: com as sondagens a mostrarem que a maioria dos americanos pensa que a IA está a desenvolver-se demasiado rapidamente, e com os próprios incidentes de segurança da indústria a fornecerem a prova, uma empresa de IA que apela a regras mais rigorosas já não é a posição atípica que teria sido há dois anos.

Para OpenAI, o cálculo é igualmente legível. Uma colcha de retalhos federal de 50 leis estaduais é o pior cenário do setor; um quadro californiano rigoroso e apoiado por auditorias que se aplique a todos os promotores fronteiriços — incluindo os seus rivais — é um piso com o qual pode conviver e que está agora a fazer lobby abertamente para construir.

---

Fique à frente da IA

Receba as últimas notícias, análises e avanços sobre IA — tudo em um só lugar.

Leia mais notícias sobre IA →