A OpenAI confirmou que ela, a Anthropic e o Google DeepMind vêm mantendo negociações sobre a coordenação de segurança de IA há várias semanas e afirma que apoia a legislação que forçaria os laboratórios fronteiriços a abrirem suas portas para organizações de verificação independentes.
Chris Lehane, diretor de assuntos globais da OpenAI, fez a divulgação em uma reunião na terça-feira, de acordo com o TechCrunch. A Reuters e a Bloomberg, citando as mesmas observações, relataram que a OpenAI está trabalhando com a Anthropic e o Google na segurança da IA. A confirmação transforma semanas de dicas – incluindo uma entrevista da Fortune em que Sam Altman reconheceu discussões privadas com outros líderes de IA – numa admissão explícita de que os três principais laboratórios fronteiriços do mundo estão a coordenar a rapidez com que se movem e como os seus modelos são verificados.
Para os leitores que acompanham o tiroteio político mais amplo em torno de uma desaceleração da IA, a cobertura de atualizações de inteligência artificial esta semana variou desde o cofundador da Anthropic, Jack Clark, endossando um interruptor de interrupção obrigatório, até o presidente Trump chamando os temores de segurança de uma farsa durante uma chamada no palco com Jensen Huang, da Nvidia.
Uma confirmação semanas em preparação
As negociações seguem um ensaio publicado no sábado pelo CEO da Anthropic, Dario Amodei, pedindo à indústria que trabalhe em conjunto para desacelerar o ritmo do desenvolvimento de IA de fronteira, a fim de evitar riscos catastróficos. A carta atraiu apoio de toda a indústria, com Altman, Demis Hassabis do Google e Elon Musk endossando o apelo à ação, e Altman dizendo que a OpenAI se juntaria ao esforço.
A informação posteriormente informou que as três empresas têm trabalhado para criar um órgão de padronização para a indústria de IA. Hassabis tem um historial nesta ideia: em Julho, apelou aos Estados Unidos para estabelecerem um novo organismo de normalização para actuar como vigilante da IA, com o poder de examinar os modelos mais avançados do mundo e coordenar abrandamentos em toda a indústria caso os perigos progridam.
O que as observações de Lehane acrescentam é uma confirmação oficial. Até agora, os porta-vozes dos laboratórios tinham em grande parte defendido o diálogo informal; O chefe de assuntos globais da OpenAI agora deixou a coordenação registrada.
A sombra antitruste
Qualquer acordo entre concorrentes diretos para retardar o desenvolvimento suscita questões antitruste óbvias, e os laboratórios sabem disso. O próprio Altman observou que tais negociações poderiam colocar as empresas em risco de violar a lei antitruste se se descobrisse que a coordenação suprimia a concorrência. O ensaio de Amodei propôs uma isenção governamental restrita que permitiria a coordenação da segurança sem desencadear a lei da concorrência – um sinal da seriedade com que a questão está a ser levada dentro das empresas.
Os críticos foram rápidos a apontar a tensão no cerne do acordo: as três empresas que controlam as maiores quotas de mercado na IA de fronteira, decidindo em conjunto racionar o progresso, parece, para os cépticos, um comportamento de cartel com um invólucro de segurança. Os defensores argumentam que o risco catastrófico é precisamente o tipo de problema que os concorrentes não podem resolver unilateralmente, uma vez que qualquer laboratório que abrande sozinho simplesmente cede a fronteira aos rivais.
OpenAI adota verificações de terceiros
As notícias políticas mais concretas nas observações de Lehane dizem respeito à legislação. Ele disse que a OpenAI apóia uma disposição da Lei FRONTIER que exigiria que os principais laboratórios de fronteira permitissem que "organizações de verificação independentes" entrassem em suas empresas para garantir que os modelos fossem desenvolvidos com segurança. O Politico informou que a OpenAI está apoiando um plano bipartidário da Câmara construído em torno de avaliações de segurança de terceiros.
Essa posição teria sido impensável para a área há dois anos, quando os compromissos voluntários e as equipas vermelhas internas eram o padrão da indústria. Agora alinha a OpenAI com a postura de auditoria em primeiro lugar que a Antrópica promove há muito tempo e cria um raro ponto de acordo entre os laboratórios e a ala do debate político que passou o ano exigindo supervisão executória.
Também configura uma colisão com a Casa Branca. O Presidente Trump rejeitou as preocupações de segurança como uma farsa e argumentou que qualquer desaceleração daria à China uma vantagem na corrida à IA. Seu consultor de IA, David Sacks, um investidor de longa data com participações pessoais em todo o setor, considerou exagerados os temores de risco existencial. No Reino Unido, os ministros continuam publicamente divididos sobre a mesma questão, com uma facção a apelar ao governo para que preste atenção aos avisos dos especialistas, enquanto o secretário de Negócios, Reynolds, rejeitou a conversa sobre um interruptor de interrupção para sistemas avançados.
Uma luta política sem terreno neutro
As próximas semanas testarão se a coordenação dos laboratórios sobreviverá ao contacto com as autoridades da concorrência e a uma administração cética. Um organismo de normalização criado por três empresas que controlam a fronteira enfrentará exigências para incluir directores independentes, publicar os seus critérios e submeter à revisão do governo – ou será demitido como um cartel privado em trajes públicos.
Para o FRONTIER Act, o endosso da OpenAI dá aos patrocinadores do projeto um apoio principal, mas também uma nova linha de ataque para os oponentes que argumentam que os maiores laboratórios estão simplesmente capturando o campo regulatório, escrevendo regras que só eles podem seguir. Os laboratórios mais pequenos e a comunidade de pesos abertos, que não tem assento nas negociações, estão a observar atentamente: qualquer que seja o regime de verificação que surja definirá os custos de conformidade para todos os que estão atrás da fronteira.
O que já não está em discussão é o próprio facto da coordenação. As três empresas que definem o que há de mais moderno em IA estão agora discutindo abertamente a velocidade de execução — e convidando o governo a ajudar na arbitragem.
---
Fique à frente da IAReceba as últimas notícias, análises e avanços sobre IA — tudo em um só lugar.
Leia mais notícias sobre IA →
