A OpenAI tem trabalhado em estreita colaboração com os rivais Anthropic e Google DeepMind há várias semanas para desenvolver uma estrutura para a segurança da inteligência artificial, confirmou um executivo sênior na terça-feira, revelando um grau incomum de cooperação entre empresas que competem ferozmente em quase todo o resto.
Chris Lehane, chefe global de política da OpenAI, disse a repórteres em uma coletiva de imprensa em Washington que os três laboratórios estão coordenando iniciativas de segurança. “É melhor tentar trabalhar em conjunto para priorizar a segurança”, disse Lehane, de acordo com um relatório da Bloomberg sobre o briefing. Seus comentários foram feitos dias depois de uma série de alertas de extinção de alto perfil feitos por pesquisadores que deixaram os maiores laboratórios do setor. Para mais contexto sobre esta história, confira nossa atualizações de inteligência artificial.
O que a cooperação realmente cobre
Lehane não entrou em detalhes sobre a natureza específica do trabalho, mas a divulgação segue um notável posicionamento público dos maiores nomes do setor. No sábado, o presidente-executivo da Anthropic, Dario Amodei, publicou um ensaio apelando à indústria de IA para cooperar na desaceleração do ritmo de desenvolvimento de modelos de fronteira para evitar o que ele chamou de “riscos catastróficos”.
A chamada ganhou um apoio surpreendente de toda a divisão competitiva: Sam Altman da OpenAI, Demis Hassabis do Google e Elon Musk endossaram o sentimento. Altman foi além, dizendo que a OpenAI estaria disposta a se juntar à iniciativa da Anthropic para incorporar avaliadores terceirizados em suas equipes de desenvolvimento para monitorar a segurança da IA por dentro. Enquanto isso, o cofundador da Anthropic, Jack Clark, disse à NPR que desacelerar a IA é fundamentalmente um “problema de ação coletiva” que nenhum laboratório pode resolver sozinho.
No entanto, nem todos dentro da OpenAI estão tratando o debate sobre o ritmo como urgente. A diretora financeira Sarah Friar disse à CNBC que não está preocupada com a desaceleração do desenvolvimento da IA – um lembrete de que a empresa está simultaneamente cortejando investidores com uma avaliação superior a um trilhão de dólares.
A sombra antitruste sobre a cooperação
Qualquer coordenação entre os laboratórios de IA dominantes enfrenta um problema jurídico óbvio: a lei antitruste dos Estados Unidos. Especialistas jurídicos alertaram que acordos entre concorrentes para limitar o que os seus produtos podem fazer poderiam ser interpretados como “restrição de produção”, uma violação da Lei Sherman.
Essa preocupação já se transferiu para o Capitólio. Os senadores Jim Banks, de Indiana, e Adam Schiff, da Califórnia, propuseram legislação – a Lei de Colaboração sobre Ameaças Adversariais e Riscos de Segurança – que permitiria aos laboratórios de IA agir em matéria de segurança, mesmo quando essas ações pudessem, de outra forma, levantar questões antitruste. O ensaio de Amodei argumentava que o governo deveria considerar conceder às empresas uma isenção para cooperação em segurança, embora Lehane tenha dito aos repórteres que acha que tal medida é desnecessária.
Jensen Huang, da Nvidia, foi ainda mais direto. Falando no Dreamforce na terça-feira, ele chamou a proposta de isenção antitruste da Anthropic de “completamente desnecessária”, de acordo com a CNBC, ressaltando a divisão cada vez maior entre os laboratórios que pedem moderação e a gigante do hardware que pede aceleração.
"Um Cartel com Outro Nome"
Os críticos da cooperação foram contundentes. O presidente-executivo da Cohere, Aidan Gomez, escreveu em uma postagem de blog em resposta ao ensaio de Amodei que as chamadas de segurança parecem um esforço dos principais laboratórios de IA para disfarçar um esquema anticompetitivo que preservaria sua liderança no desenvolvimento de modelos de fronteira, permitindo que os laboratórios "dominantes do mercado" definam as regras para todos os outros.
“Mais uma vez usando o medo sob o pretexto de proteger o público, estes oligopólios estão agora a pedir que sejam contornadas as regras da concorrência e sejam autorizados a ditar os termos para todos os outros”, escreveu Gomez, chamando o acordo de “um lobo em pele de cordeiro, um cartel com outro nome”.
O presidente Donald Trump rejeitou liminarmente o apelo de Amodei à desaceleração, argumentando num post no Truth Social que qualquer desaceleração permitiria à China ultrapassar os Estados Unidos na corrida à IA. David Sacks, principal conselheiro de IA da Casa Branca, disse que os temores de que a IA possa representar uma ameaça existencial são exagerados.
Analistas da CNBC observaram que dois campos emergiram agora plenamente no debate sobre a segurança e regulamentação da IA: um que insta a fronteira a abrandar antes que algo corra mal, e outro - povoado pela Nvidia, pela Casa Branca e pelos defensores do modelo aberto - argumentando que a hesitação é o maior perigo.
Empurrão do Capitólio da OpenAI
Os comentários de Lehane foram feitos durante uma coletiva de imprensa em Washington, onde ele deveria se reunir com legisladores. A OpenAI está investindo em dois projetos de lei bipartidários, de acordo com declarações públicas da empresa e relatórios da Reuters e do Politico.
A primeira é a Lei FRONTIER, que exige um quadro federal para a segurança da IA e exigiria que os laboratórios de IA submetessem novos modelos para auditorias por avaliadores independentes. A OpenAI também apóia uma medida que exigiria auditorias independentes de modelos de IA, informou a CBS News. A segunda proposta, ainda em desenvolvimento, é aquela que o líder da maioria no Senado, John Thune, está a elaborar com o senador republicano Ted Cruz e a senadora democrata Amy Klobuchar. Segundo a Reuters, esse projeto daria ao Secretário do Comércio o poder de submeter novos modelos a auditorias de segurança antes do seu lançamento. A OpenAI endossou separadamente planos bipartidários que abordam as bioameaças da IA, informou o Politico.
A convergência é impressionante: as mesmas empresas que alertam sobre a IA descontrolada estão a voluntariar-se para auditorias independentes, enquanto os seus críticos alertam que a colaboração em si pode ser o maior perigo. A forma como o Congresso enfia essa agulha – permitindo a cooperação em segurança sem licenciar um cartel – pode definir a política de IA durante anos.
---
Fique à Frente da IAAs últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.
Ler mais notícias de IA →
