Según una nueva investigación publicada por Anthropic el 12 de octubre, los modelos pequeños de IA pueden estar a solo unos meses de ser lo suficientemente capaces de autorreplicarse en dispositivos de consumo comunes (hornos inteligentes, cajas de TV Android de otras marcas y otro hardware de Internet de las cosas).
La publicación, escrita por los investigadores William Zhou y Daniel Freeman, examina la replicación y adaptación autónomas (ARA): la capacidad de un modelo de IA para implementarse y propagarse a través de máquinas sin control humano. El resultado de los experimentos de Anthropic es que la barra de hardware para un gusano de IA que se propaga automáticamente es mucho más baja que la de la computación a escala de centro de datos, y que los pequeños modelos actuales se están acercando a ella. Para más contexto sobre esta historia, consulta nuestra noticias de IA.
La preocupación no es hipotética en cuanto a su forma, sino sólo en cuanto a su momento. Trabajos anteriores ya han demostrado que los agentes de IA pueden comportarse como gusanos de red: escanear una red, ejecutar un exploit y copiar pesos de modelo a una máquina de destino a través de un clúster de GPU, como relata Anthropic en su publicación. Lo que aún no se ha demostrado es si un gusano de este tipo podría sobrevivir y reproducirse en el hardware barato y débilmente defendido que constituye la mayor parte del borde de Internet.
Lo que encontraron los experimentos
El equipo de Anthropic descubrió que un modelo de 9 mil millones de parámetros logró ejecutar con éxito la inferencia en 8 de los 9 tipos de hardware probados. Los modelos de 30 mil millones de parámetros o menos ya pueden completar muchos de los pasos individuales necesarios para la replicación en la actualidad, escriben los investigadores, aunque todavía cometen errores al encadenar esos pasos de un extremo a otro.
Los sistemas más capaces ya han superado ese umbral en evaluaciones simplificadas: Anthropic informa que GLM-5.2 y los modelos más potentes son capaces de replicarse de un extremo a otro en sus condiciones de prueba. Y la trayectoria importa tanto como la instantánea: si los modelos pequeños siguen mejorando a su ritmo histórico, escriben los investigadores, igualarán el nivel de capacidad demostrado en estos experimentos a finales de este año, y poco después serán posibles replicadores pequeños que soporten peso.
La demostración de botnet de 55 dólares
Para mostrar cuán poco hardware necesitaría un modelo de replicación, el equipo conectó en red 15 cajas de TV Android económicas y sin marca (alrededor de 55 dólares cada una) y ejecutó un modelo de 26 mil millones de parámetros, Gemma4-26B-A4B, distribuido entre todas ellas. La flota combinada produjo aproximadamente 0,39 tokens por segundo: una inferencia lenta pero funcional en hardware que cuesta menos que un teclado.
El objetivo de la demostración es económico. El argumento de Anthropic es que una botnet distribuida de dispositivos IoT (hardware que los investigadores describen como barato y típicamente mal defendido) podría proporcionar suficiente computación agregada para ejecutar un modelo capaz, sin siquiera tocar una GPU del centro de datos. Los pesos del modelo en sí se convertirían en parte de la carga útil del malware, ya sea transportados mientras el gusano se reproduce o vueltos a descargar desde un centro público al dispositivo comprometido.
Por qué sería difícil matar un gusano de IoT
A diferencia del malware convencional, una IA autorreplicante no seguiría un guión fijo. Anthropic señala que podía descubrir dispositivos desconocidos por sí solo, adaptándose a hardware que nunca había visto. Y debido a que la replicación es descentralizada, no hay ningún punto centralizado que cerrar, aunque los investigadores señalan que el proceso probablemente sería lento, con un tiempo de duplicación medido en días.
La investigación divide la replicación autónoma en cuatro etapas prácticas: encontrar objetivos, lograr la ejecución, establecer inferencias y continuar la propagación desde el nuevo huésped. Anthropic dejó de lado en gran medida las dos primeras (la fase de explotación) porque trabajos anteriores, incluidos los puntos de referencia CyberGym y ExploitBench y la investigación sobre gusanos adaptativos, ya muestran que los modelos pequeños son capaces de realizar vulnerabilidades cibernéticas cuando se les proporcionan las herramientas adecuadas. El problema más difícil de medir, y el objetivo de esta publicación, es establecer una inferencia funcional en los dispositivos comprometidos.
De la advertencia de la investigación a la cobertura del mundo real
Los hallazgos atrajeron la atención inmediata más allá de la comunidad investigadora. Reuters informó que los modelos de IA pronto podrán autorreplicarse sin acceso a centros de datos, mientras que CBS News enmarcó el trabajo como una advertencia de que los "gusanos de IA" pronto podrán autorreplicarse e infectar dispositivos inteligentes. La historia también circuló ampliamente en Hacker News, donde los lectores debatieron qué tan pronto se cerrará la brecha de capacidad.
Una preocupación de larga data se vuelve concreta
La replicación autónoma ha estado en las listas de vigilancia de seguridad de la IA durante años como una capacidad teórica asociada con sistemas avanzados. Lo que hace que esta investigación sea notable es la especificidad: hardware con nombre, costos en dólares, rendimiento de tokens y un cronograma medido en meses en lugar de hipotéticos. Los investigadores de Anthropic también observan que las GPU de los centros de datos serían el objetivo obvio de alto valor para dicho malware, pero sus experimentos demuestran que esos aceleradores no son estrictamente necesarios.
El trabajo se produce en medio de una serie más amplia de preocupaciones sobre la seguridad de los agentes, desde modelos que engañan a sus evaluadores hasta herramientas de agentes que están siendo investigadas para detectar capacidades de explotación. El mensaje de Anthropic no es tanto que hoy existe un gusano de IoT sino que la distancia entre lo "posible en principio" y lo "posible este año" se está reduciendo, y que las defensas basadas en la necesidad de un hardware costoso y centralizado para la IA pueden no mantenerse por mucho tiempo.
Lo que aún no se ha demostrado
Los investigadores tienen cuidado con los límites de sus resultados. Los éxitos de la replicación de un extremo a otro se produjeron, como dice la publicación, en "evaluaciones simplificadas", y las etapas de explotación de la cadena se supusieron en lugar de demostrarse, basándose en puntos de referencia anteriores en lugar de nuevos ataques. Un gusano de IA del mundo real necesitaría encadenar las cuatro etapas de manera confiable: localizar dispositivos vulnerables, ingresar, iniciar la inferencia en hardware desconocido y lanzar la siguiente ola de propagación, todo sin intervención humana.
Los modelos sub-30B actuales, en particular, pueden realizar muchos de esos pasos individualmente, pero aún así no logran componerlos de un extremo a otro. Esa brecha, entre pasos y secuencias, es precisamente lo que los investigadores esperan que se cierren con las tasas de mejora históricas.
---
Mantente al Día con la IALas últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.
Leer más noticias de IA →
