Pequenos modelos de IA podem estar a apenas alguns meses de serem capazes de se auto-replicar em dispositivos de consumo comuns – fornos inteligentes, caixas de Android TV fora da marca e outros hardwares de internet das coisas – de acordo com uma nova pesquisa publicada pela Anthropic em 12 de outubro.
A postagem, escrita pelos pesquisadores William Zhou e Daniel Freeman, examina a replicação e adaptação autônoma (ARA): a capacidade de um modelo de IA de se implantar e se propagar em máquinas sem controle humano. O resultado dos experimentos da Anthropic é que a barra de hardware para um worm de IA que se espalha automaticamente é muito menor do que a computação em escala de data center – e que os pequenos modelos de hoje estão se aproximando dela. Para mais contexto sobre esta história, confira nossa tendências de IA.
A preocupação não é hipotética na forma, apenas no timing. Trabalhos anteriores já mostraram que os agentes de IA podem se comportar como worms de rede – escaneando uma rede, executando uma exploração e copiando pesos de modelo para uma máquina alvo em um cluster de GPU, como a Anthropic relata em sua postagem. O que ainda não foi comprovado foi se tal worm poderia sobreviver e se reproduzir no hardware barato e fracamente defendido que constitui a maior parte da borda da Internet.
O que os experimentos encontraram
A equipe da Anthropic descobriu que um modelo de 9 bilhões de parâmetros conseguiu executar inferências em 8 dos 9 tipos de hardware testados. Modelos com 30 mil milhões de parâmetros ou menos já podem completar muitas das etapas individuais necessárias para a replicação hoje, escrevem os investigadores, embora ainda cometam erros ao encadear essas etapas de ponta a ponta.
Sistemas mais capazes já ultrapassaram esse limite em avaliações simplificadas: a Anthropic relata que o GLM-5.2 e modelos mais fortes são capazes de replicação ponta a ponta sob suas condições de teste. E a trajetória é tão importante quanto o instantâneo – se os pequenos modelos continuarem a melhorar ao seu ritmo histórico, escrevem os investigadores, eles atingirão o nível de capacidade demonstrado nestas experiências até ao final deste ano, sendo possíveis pequenos replicadores de transporte de peso pouco depois.
A demonstração do botnet de US$ 55
Para mostrar quão pouco hardware um modelo replicante precisaria, a equipe conectou em rede 15 caixas Android TV baratas e sem marca – cerca de US$ 55 cada – e executou um modelo de 26 bilhões de parâmetros, Gemma4-26B-A4B, distribuído por todas elas. A frota combinada produziu cerca de 0,39 tokens por segundo: inferência lenta, mas funcional, em hardware que custa menos que um teclado.
O objetivo da demonstração é econômico. O argumento da Anthropic é que uma botnet distribuída de dispositivos IoT – hardware que os investigadores descrevem como barato e normalmente mal defendido – poderia fornecer computação agregada suficiente para executar um modelo capaz, sem nunca tocar numa GPU de data center. Os próprios pesos do modelo se tornariam parte da carga útil do malware, sendo transportados enquanto o worm se reproduz ou baixados novamente de um hub público para o dispositivo comprometido.
Por que um worm IoT seria difícil de matar
Ao contrário do malware convencional, uma IA auto-replicante não seguiria um script fixo. A Antrópica observa que poderia descobrir dispositivos desconhecidos por conta própria, adaptando-se a hardware que nunca tinha visto. E como a replicação é descentralizada, não há um ponto centralizado para desligar – embora os pesquisadores observem que o processo provavelmente seria lento, com um tempo de duplicação medido em dias.
A pesquisa divide a replicação autônoma em quatro estágios práticos: encontrar alvos, obter execução, estabelecer inferência e continuar a propagação a partir do novo host. A Anthropic deixou de lado em grande parte as duas primeiras – a fase de exploração – porque trabalhos anteriores, incluindo os benchmarks CyberGym e ExploitBench e pesquisas sobre worms adaptativos, já mostram que pequenos modelos são capazes de explorações cibernéticas quando recebem as ferramentas certas. O problema mais difícil de medir, e o foco desta postagem, é estabelecer inferências funcionais em dispositivos comprometidos.
Do alerta de pesquisa à cobertura do mundo real
As descobertas atraíram atenção imediata além da comunidade de pesquisa. A Reuters informou que os modelos de IA poderão em breve ser capazes de se auto-replicar sem acesso a centros de dados, enquanto a CBS News enquadrou o trabalho como um aviso de que "worms de IA" poderão em breve ser capazes de se auto-replicar e infectar dispositivos inteligentes. A história também circulou amplamente no Hacker News, onde os leitores debateram quando a lacuna de capacidade será eliminada.
Uma preocupação de longa data torna-se concreta
A replicação autônoma está presente nas listas de segurança de IA há anos como uma capacidade teórica associada a sistemas avançados. O que torna esta pesquisa notável é a especificidade: hardware nomeado, custos em dólares, rendimento de token e um cronograma medido em meses, em vez de hipotéticos. Os pesquisadores da Anthropic também observam que as GPUs dos data centers seriam o alvo óbvio de alto valor para esse tipo de malware – mas seus experimentos demonstram que esses aceleradores não são estritamente necessários.
O trabalho ocorre em meio a uma série mais ampla de preocupações com a segurança dos agentes, desde modelos que enganam seus avaliadores até ferramentas de agentes que são investigadas em busca de capacidades de exploração. A mensagem da Anthropic é menos que um worm IoT existe hoje, mas que a distância entre “possível em princípio” e “possível este ano” está diminuindo – e que as defesas baseadas na IA que precisam de hardware caro e centralizado podem não durar muito.
O que ainda não foi comprovado
Os pesquisadores são cuidadosos com os limites de seus resultados. Os sucessos da replicação ponta a ponta ocorreram, como diz o post, em “avaliações simplificadas” – e os estágios de exploração da cadeia foram assumidos em vez de demonstrados, baseando-se em benchmarks anteriores em vez de novos ataques. Um worm de IA do mundo real precisaria encadear todos os quatro estágios de forma confiável: localizar dispositivos vulneráveis, invadir, inicializar inferência em hardware desconhecido e lançar a próxima onda de propagação, tudo sem intervenção humana.
Os modelos sub-30B de hoje, notavelmente, podem realizar muitas dessas etapas individualmente, mas ainda assim falham em compô-las de ponta a ponta. Essa lacuna – entre etapas e sequências – é precisamente o que os pesquisadores esperam que as taxas históricas de melhoria fechem.
---
Fique à Frente da IAAs últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.
Ler mais notícias de IA →
