O pedido alterado de IPO da Anthropic ganhou as manchetes na segunda-feira por suas finanças – cerca de US$ 17 bilhões em receitas do terceiro trimestre contra US$ 895,4 bilhões em compromissos de computação. Mas enterrada nos factores de risco do S-1A revisto está uma divulgação que pode revelar-se mais importante: a empresa diz que pode estar prestes a ultrapassar o seu próprio limiar de auto-aperfeiçoamento recursivo, o ponto em que os sistemas de IA se tornam capazes de acelerar o seu próprio desenvolvimento.
O TechCrunch informou que o pedido parece alertar que a Anthropic está prestes a criar um modelo capaz de autoaperfeiçoamento recursivo, comumente conhecido como RSI – o estágio em que a IA se torna tão boa em melhorar a IA que os ganhos de capacidade começam a aumentar dramaticamente. Para mais contexto sobre esta história, confira nossa tendências de IA.
O que o arquivamento realmente diz
A Antthropic já utiliza IA para acelerar sua própria pesquisa e desenvolvimento. No documento alterado, a empresa adverte que esta prática funciona nos dois sentidos: "Usar a IA para ajudar a construir uma IA mais capaz também pode representar um risco de segurança considerável, especialmente se acelerar drasticamente o ritmo do progresso. Esta é uma das áreas cobertas pela nossa Política de Escalabilidade Responsável, que estabelece os nossos planos para monitorizar e mitigar os riscos à medida que nos aproximamos do que foi denominado 'auto-aperfeiçoamento recursivo'".
A nova linguagem dos fatores de risco vai além do que a Anthropic declarou anteriormente em seus registros públicos. A empresa revela que, no passado, não conseguiu reconhecer grandes saltos de capacidade à medida que aconteciam: “no passado não identificámos, e poderemos não identificar no futuro, uma aceleração significativa na nossa taxa de desenvolvimento até depois de ela ter ocorrido”.
Depois vem o comunicado chamando a atenção do setor. De acordo com o documento: “nossas estimativas internas e nossas expectativas em relação aos modelos futuros, em vez de nossos modelos atuais, indicam que podemos atender iminentemente à definição de nossa Política de Escalabilidade Responsável de ‘progresso dramaticamente acelerado atribuível à IA’”.
A Antthropic acrescenta que “não designou nenhum dos nossos modelos atuais como excedendo este limite” e continua a avaliar os dados subjacentes. Em outras palavras: nenhum modelo Claude atual se qualifica, mas as projeções internas da empresa sugerem que sua próxima geração poderá.
Mantendo os humanos informados
Junto com o alerta, a Anthropic se compromete a manter as pessoas no controle do desenvolvimento do modelo. “Não prevemos ser capazes de usar Claude com segurança para projetar e construir de forma totalmente autônoma gerações sucessivas de modelos de fronteira sem supervisão ou compreensão humana significativa, se e quando isso se tornar tecnicamente possível”, afirma o documento. “Assim, estamos considerando atualizações em nossa Política de Escalabilidade Responsável para manter os humanos no controle do desenvolvimento do modelo de fronteira na Anthropic.”
A escala do papel da IA na própria pesquisa da Anthropic está crescendo rapidamente. O Business Insider informou que a IA agora lidera cerca de um quarto do trabalho interno de P&D da Anthropic, acima de 1% em março – um gráfico que os especialistas do setor consideram um dos mais importantes em IA.
Uma mudança de discurso: do chavão ao balanço patrimonial
Quando o termo RSI se tornou popular no início deste ano, muitos na indústria rejeitaram-no como uma palavra da moda – ou, na melhor das hipóteses, um objectivo demasiado mal definido para ser alcançado, comprovado ou regulamentado. Esse ceticismo é mais difícil de sustentar agora que o conceito aparece, com uma definição interna precisa, num documento que uma empresa é legalmente obrigada a apresentar à SEC antes de vender ações ao público.
A Antrópica também não está sozinha ao tratar o autoaperfeiçoamento como uma suposição de planejamento de curto prazo. O cofundador do Google, Sergey Brin, descreveu a indústria como uma corrida em direção a uma "esteira RSI", na qual os modelos ajudam a construir seus sucessores, e o ex-cofundador da OpenAI, John Schulman, disse que espera um autoaperfeiçoamento recursivo dentro de aproximadamente três a quatro anos. O que distingue a divulgação da Anthropic é a sua formalidade: um limite definido, um processo de medição interno e uma declaração pública de quando a empresa espera ultrapassá-lo.
Por que o RSI é o Tripwire que ambos os campos assistem
RSI carrega significados diferentes dependendo de quem o descreve. Para os investigadores de segurança da IA, representa o ponto sem retorno – o cenário em que os sistemas de IA melhoram mais rapidamente do que os humanos conseguem compreender, validar ou intervir, escapando potencialmente ao controlo humano. Para os optimistas da IA, o prémio é a mesma dinâmica: sistemas que se melhorem de forma fiável resultariam numa produtividade extraordinária e em descobertas científicas.
O enquadramento da Antrópico reconhece ambas as possibilidades. A divulgação consta de um documento cujo público principal são os investidores, e os cépticos observam que um S-1 funciona tanto como divulgação como como marketing – uma afirmação de que a empresa está perto de construir uma IA auto-aperfeiçoada poderia facilmente ser lida como um argumento para a sua avaliação.
Há, no entanto, uma âncora concreta para a afirmação. As capacidades de Claude em codificação, matemática e segurança cibernética avançaram acentuadamente até 2026, e a própria Política de Escalabilidade Responsável da Anthropic define o padrão de “progresso dramaticamente acelerado atribuível à IA” que a empresa agora diz que poderá cumprir iminentemente.
Um teste para governança de IA
A divulgação surge no meio de debates políticos intensificados sobre a supervisão da IA de fronteira, desde o quadro da Casa Branca para a revisão de modelos de fronteira até discussões internacionais sobre governação computacional. Se um laboratório líder de IA designar formalmente um modelo que atenda ao seu próprio limite de progresso acelerado, isso desencadearia obrigações sob a Política de Escalabilidade Responsável da Anthropic – e seria o primeiro teste do mundo real para saber se tais estruturas da indústria podem retardar ou moldar a corrida de capacidades na prática.
Por enquanto, a Anthropic diz que nenhum modelo ultrapassou os limites. O documento sugere que a empresa espera que esse limite seja ultrapassado em breve – e pede aos investidores que entendam, com antecedência, o que planeja fazer a respeito.
---
Fique à Frente da IAAs últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.
Ler mais notícias de IA →
