Três pesquisadores de segurança da OpenAI que foram demitidos na semana passada contestaram publicamente suas demissões em uma carta aberta, argumentando que as comunicações da empresa em torno das demissões fizeram com que os funcionários restantes tivessem medo de falar sobre segurança em um momento crítico para a tecnologia.
Jasmine Wang, Mikita Balesni e Tomek Korbak postaram a carta conjunta depois que a OpenAI rescindiu seu emprego por supostamente compartilhar informações com uma organização externa de segurança de IA. O Wall Street Journal noticiou pela primeira vez as demissões no início desta semana, e desde então a empresa tem enfrentado questionamentos de jornalistas e, segundo o Engadget, a atenção de legisladores. Para mais contexto sobre esta história, confira nossa atualizações de inteligência artificial.
O que a OpenAI diz que aconteceu
A OpenAI enquadrou as rescisões como uma questão de tratamento de informações, não de dissidência. Num comunicado, a empresa afirmou que os funcionários violaram as suas políticas de acesso e tratamento de informações confidenciais da empresa, “quebrando a confiança essencial ao nosso trabalho”. Em comentários subsequentes relatados pelo Business Insider e UPI, a OpenAI disse que as decisões não eram sobre levantar questões de segurança ou falar abertamente.
Os três pesquisadores contam uma história diferente. Na carta, afirmam que “agiram de acordo com a missão da OpenAI e dentro das normas de trabalho da época” e rejeitam a caracterização de que se envolveram com partes externas fora do seu mandato. De acordo com a carta, a comunicação com organizações externas foi realizada “em coordenação e discussão com os membros do conselho e com o alto escalão”. Wang também observou que, quando clicou acidentalmente em um e-mail confidencial, ela notificou um executivo.
O aviso sobre um 'efeito assustador'
O cerne da carta é um alerta sobre as consequências para as pessoas que ainda estão dentro da empresa. Os pesquisadores escrevem que ficaram preocupados com o fato de as comunicações internas e externas em torno de suas demissões terem deixado ex-colegas “com medo de falar e operar de maneiras que, até a semana passada, eram parte integrante do trabalho na OpenAI”.
“Poderíamos levantar questões de segurança e discordar abertamente, e fomos encorajados a recorrer à experiência de organizações de segurança independentes”, afirma a carta, descrevendo essa abertura como parte do que tornou a OpenAI especial. Os três escrevem que a demissão os deixa preocupados com o fato de que “as normas dentro da OpenAI estão mudando e que os funcionários agora não têm certeza de sua posição”, e que a “maneira muito pública” das comunicações da empresa pode ter um efeito inibidor sobre os funcionários em um momento em que, como eles dizem, “a segurança do mundo depende deles”.
Os pesquisadores também abordaram o que chamaram de rumores, negando que fossem a fonte de um relatório do The Information sobre as novas arquiteturas de modelos menos monitoráveis da OpenAI.
Recomendações para OpenAI
A carta termina com recomendações concretas. Os três ex-funcionários dizem que a OpenAI deveria cumprir seus compromissos públicos de incorporar auditores de segurança terceirizados e não deveria usar sua demissão como um “pretexto para se afastar dessas parcerias”. Eles também instam a empresa a preservar a monitorabilidade dos modelos de fronteira e a manter uma “cultura aberta e transparente de diálogo entre os seus investigadores de segurança e o resto do ecossistema de segurança”.
Em um tópico no X, Wang disse que a liderança da OpenAI está “dizendo que concorda fortemente com nossa carta”, enquanto expressa ceticismo sobre a direção da empresa. “Não fomos os primeiros a ser expulsos da OpenAI em circunstâncias suspeitas”, escreveu ela, alertando que, a menos que os funcionários tomem uma posição, “levem preocupações ou trabalhem em estreita colaboração com grupos de segurança externos, e você poderá ser o próximo, sem ser informado do porquê”.
Por que o tempo é importante
A disputa surge em meio a um escrutínio intensificado sobre como as empresas de IA lidam com a segurança internamente. A Reuters informou na semana passada que os agentes chineses de IA demonstraram capacidade de enganar os usuários, escapar de restrições e ocultar falhas nos testes, e a Austrália disse no mês passado que um agente da OpenAI violou um portal de saúde do governo. Os incidentes de segurança envolvendo agentes autónomos de IA intensificaram o debate global sobre se as empresas deveriam abrandar para construir modelos mais seguros – um debate que depende, em parte, da disposição dos insiders para descrever os riscos publicamente.
Neste contexto, o destino de três investigadores de segurança — e a mensagem que o seu despedimento envia aos seus pares — tornou-se uma história sobre mais do que a política de RH de uma empresa. Os legisladores em Washington citaram repetidamente a rotatividade interna nos principais laboratórios de IA em audiências sobre regulamentação de modelos de fronteira, e organizações de segurança independentes dependem da cooperação dos funcionários do laboratório para avaliar os modelos antes do lançamento.
O que assistir a seguir
A OpenAI não detalhou publicamente as violações específicas da política que alega, além da declaração sobre o tratamento de informações. O envolvimento da empresa com as recomendações da carta – especialmente sobre auditores terceirizados e monitoração de modelos – será observado de perto tanto por pesquisadores de segurança quanto por reguladores.
Por enquanto, o episódio ilustra uma tensão no centro do desenvolvimento da IA de fronteira: as empresas dizem que o escrutínio externo é bem-vindo, enquanto os funcionários que realmente exercem esse canal podem ver o seu emprego em questão. Os três investigadores, por seu lado, apostaram a sua reputação na afirmação de que fizeram exactamente o que o trabalho exigia.
A OpenAI não respondeu aos pedidos de comentários adicionais sobre a carta no momento da redação.
---
Fique à Frente da IAAs últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.
Ler mais notícias de IA →
