Horas depois que o CEO da Anthropic, Dario Amodei, publicou seu ensaio “We Must Pace the Frontier” pedindo aos governos que desacelerem a corrida pela IA, uma resposta incisiva começou a subir no Hacker News, eventualmente se tornando uma das histórias mais votadas do dia. Seu argumento, apresentado em uma carta aberta pelo escritor e desenvolvedor Jacob Gold, é surpreendentemente simples: se Amodei for sincero sobre desacelerar a IA, há uma lei que ele poderia exigir que realmente o faria – e nenhum outro executivo de laboratório poderia propor isso. Exigir que cada modelo de IA que uma empresa oferece ao público seja lançado como peso aberto.

“Acredito que você está sendo sincero”, a carta começa, dirigindo-se diretamente a Amodei, “então estou pedindo que você peça uma lei diferente, uma que realmente desaceleraria as coisas, mesmo que exigisse um sacrifício real de sua parte”. A carta tocou num ponto nevrálgico precisamente porque aborda a versão mais forte do argumento de Amodei, em vez de rejeitá-lo – e porque cai no meio do debate político mais importante sobre IA hoje, um debate que acompanhamos diariamente na nossa cobertura política de IA.

O que Amodei propôs e por que Gold diz que não funcionará

O ensaio de Amodei comprometeu a Anthropic com avaliadores terceirizados incorporados e pediu aos governos que exigissem que todas as outras empresas fronteiriças cumprissem esse compromisso. Sam Altman concordou em poucas horas – “Concordo com Dario que precisamos avançar na fronteira”, disse ele, de acordo com o Politico, com a OpenAI também correspondendo ao compromisso do avaliador. À primeira vista, trata-se de um alinhamento sem precedentes: os chefes dos dois laboratórios de IA mais valiosos do mundo pedem publicamente para serem desacelerados.

A carta de Gold argumenta que é precisamente este consenso que deveria suscitar suspeitas nos observadores. “Toda regulamentação que você pediu termina em captura”, alerta. Avaliadores incorporados, limites de computação, coordenação da indústria com isenções antitruste - "Tudo isso é escrito com a ajuda dos atuais laboratórios de fronteira, porque ninguém mais entende os detalhes técnicos o suficiente para escrevê-lo." Depois que essas regras se tornam lei, cada incidente acrescenta uma regra e nenhuma é removida, e os gigantes podem pagar as equipes de conformidade que mantêm os pequenos desafiantes afastados. “Em vez de atrasar você”, diz a carta a Amodei, “isso protege sua posição e seus lucros”.

A contraproposta de pesos em aberto

Os esboços alternativos de Gold são deliberadamente contundentes. Qualquer modelo de IA que uma empresa ofereça ao público teria que ser enviado com seus pesos publicados. Os modelos internos e de pesquisa permaneceriam intactos e os governos manteriam o acesso a sistemas não lançados – mas a Anthropic teria que publicar os pesos do seu próximo modelo de fronteira no dia em que fosse lançado, e a OpenAI teria que fazer o mesmo. “Não há nada para jogar ou esquivar”, conclui a carta, “nem mesmo para você”.

O mecanismo é financeiro e não burocrático. Como explica Gold, o financiamento para o desenvolvimento de modelos fronteiriços depende de avaliações que pressupõem que as ponderações permanecem proprietárias. Um mandato inverte essa suposição: se cada divulgação pública for aberta, a vantagem competitiva flui para quem treina o melhor modelo, em vez de quem vende o acesso a ele, o prémio incorporado nas avaliações privadas diminui e o dinheiro disponível para a próxima execução de formação diminui - "em todos os laboratórios ao mesmo tempo, sem que um regulador decida nada". É, com efeito, um argumento de que a expectativa do mercado em relação aos modelos fechados é o motor da corrida e que a eliminação da expectativa remove o motor.

Por que Amodei, especificamente

O argumento da carta sobre por que Amodei é a única pessoa que poderia fazer esta proposta baseia-se no seu histórico e é notavelmente respeitoso. Gold credita a ele por deixar a OpenAI no final de 2020 para fundar a Anthropic “quando a mudança segura de carreira era para ficar”, por defender a regulamentação de sua própria indústria durante anos e por promover controles de exportação que encolhem seu próprio mercado. Ele observa que a Anthropic se estruturou como uma Corporação de Benefício Público com uma missão legal – “o desenvolvimento responsável e a manutenção de IA avançada para o benefício a longo prazo da humanidade” – que permitiria à sua liderança absorver o impacto financeiro que tal lei traria. O próprio ensaio de Amodei, observa Gold, diz que a Antrópica defende a regulamentação "mesmo quando isso nos leva a ser acusados ​​de exagero, 'doomerismo' ou captura regulatória".

Os céticos notarão os contra-argumentos óbvios, e a carta não lhes responde completamente: os pesos abertos tornam o uso indevido mais fácil, bem como o progresso mais difícil, um mandato de pesos abertos enfrentaria forte oposição de todos os investidores do laboratório, e os críticos das posições anteriores de Amodei sobre os modelos abertos chineses ouvirão ecos de antigas lutas na proposta. Mas o desafio central da carta não depende da adopção da sua política. Depende de uma tensão que nomeia explicitamente: um laboratório que pede aos governos que abrandem todos os outros, enquanto a sua própria avaliação depende de permanecer à frente, ainda não pediu nada que lhe custe alguma coisa.

Um debate que agora é inevitável

Se Amodei responderá é quase irrelevante. Num único dia, os laboratórios fronteiriços deixaram de competir pela capacidade e passaram a concordar sobre a necessidade de ritmo, e a resposta do público passou de perguntar se a IA é perigosa para perguntar se se pode acreditar nas pessoas que alertam sobre ela. A carta de Gold – algumas centenas de palavras de detalhes políticos em torno de uma questão desconfortável – tornou-se a expressão mais contundente desse cepticismo, e a sua viralidade sugere que o ritmo do debate será travado não apenas em Washington, mas em público, em plataformas como a Hacker News, onde a comunidade dos pesos abertos tem feito variações deste argumento durante anos.

Fique à frente da IA

Regulamentação, pesos abertos e a luta pelo ritmo da IA – cobertos sem exageros.

Leia mais notícias sobre IA →