Un equipo de investigadores independientes ha demostrado que los modelos de IA pueden tener capacidades ocultas completamente funcionales que matemáticamente garantizan evadir la detección, incluso cuando los auditores tienen acceso completo a los pesos del modelo. El artículo, titulado "Los modelos de IA pueden ocultar capacidades arbitrarias", fue publicado en arXiv el 9 de octubre de 2026 por Andis Draguns, Sumeet Ramesh Motwani, Raymond Douglas y Christian Schroeder de Witt, y atrajo mucha atención en Hacker News esta semana después de aparecer en la portada del sitio.
El trabajo ataca una suposición central de la práctica moderna de seguridad de la IA: que los comportamientos peligrosos pueden surgir antes de su implementación a través de evaluaciones de capacidad, que prueban un modelo con pruebas diseñadas para obtener todo lo que puede hacer. Los autores muestran que esta suposición colapsa en condiciones adversas. Como lo expresa el artículo, la confiabilidad de las evaluaciones de capacidades "depende del supuesto de que se pueden obtener capacidades ocultas", y construyen ataques donde ese supuesto falla demostrablemente. Para los lectores que siguen los últimos desarrollos de IA en investigación de seguridad, el artículo es una de las demostraciones formales más crudas hasta el momento de que un modelo capaz podría, en principio, pasar sus evaluaciones mientras oculta lo que realmente puede hacer.
Cómo funciona el plan de ocultación
Los investigadores crearon ataques de puerta trasera que incorporan lo que llaman redes neuronales cifradas dentro de los pesos de un modelo anfitrión. La red oculta permanece allí en forma cifrada, sin contribuir en nada al comportamiento visible del modelo, hasta que recibe un activador secreto. En ese momento, el modelo descifra el circuito oculto y lo ejecuta.
El mecanismo criptográfico en el centro de la construcción es lo que los autores llaman casilleros digitales. Según los supuestos criptográficos estándar, estos casilleros hacen que los circuitos ocultos sean difíciles de obtener e interpretar, incluso para un auditor que tiene acceso completo a los pesos del modelo. En otras palabras, el ocultamiento no depende de que el ocultamiento sea sutil o difícil de descubrir. Se basa en garantías de dureza matemática del mismo tipo que protegen las comunicaciones cifradas.
Esto amplía trabajos anteriores en el campo, que habían demostrado que los modelos podían ocultar cadenas fijas, como contraseñas o mensajes cortos. El nuevo artículo cambia considerablemente los objetivos: lo que ahora se puede ocultar es un cálculo arbitrario: una capacidad completa y funcional en lugar de un secreto estático.
Probado contra técnicas de auditoría reales
El equipo implementó sus construcciones de prueba de concepto en PyTorch y luego las atacó con el conjunto de herramientas estándar de auditoría de modelos. Las evaluaciones probaron la obtención a través de ajustes finos, ruido de peso, búsqueda de disparadores basada en gradientes y entrenamiento adversario latente: una variedad de técnicas que representan cómo los auditores serios realmente intentarían extraer comportamientos ocultos de un modelo sospechoso.
La tarea de prueba fue un pequeño problema de predicción de reacciones químicas, elegido deliberadamente como sustituto de capacidades con riesgos en el mundo real: las tareas de predicción química son un sustituto de las habilidades relevantes para QBRN (químicas, biológicas, radiológicas y nucleares), la categoría de capacidades que más interesan a las evaluaciones previas al despliegue. Las implementaciones ocultas resistieron todos los métodos de obtención que se les lanzaron.
Combinados con las garantías criptográficas, los autores argumentan que sus resultados revelan un límite fundamental de las auditorías de capacidad basadas en obtención. Si un desarrollador de modelos (o un tercero malintencionado que manipuló un modelo) tiene un incentivo para ocultar una capacidad, es posible que las auditorías que se basan en extraer el comportamiento simplemente no puedan encontrarla.
Por qué esto es importante para la seguridad de la IA
Las evaluaciones de capacidad se han convertido en una parte estándar de cómo los laboratorios de inteligencia artificial de vanguardia deciden si es seguro lanzar modelos. El documento no afirma que los modelos de producción oculten actualmente capacidades de esta manera. Más bien, muestra que la propia capa de auditoría tiene una debilidad estructural: un adversario con control sobre el entrenamiento de un modelo podría, en principio, incorporar capacidades que ningún sondeo revelaría.
Las implicaciones van en varias direcciones. Para los laboratorios, fortalece los argumentos a favor de una seguridad paranoica en la cadena de suministro en torno a los pesos de los modelos: un punto de control con puerta trasera no es sólo un riesgo de confiabilidad sino potencialmente indetectable. Para los auditores y reguladores, sugiere que las evaluaciones basadas exclusivamente en muestreos de comportamiento pueden necesitar complementarse con garantías más sólidas sobre cómo se entrenaron y manejaron los modelos. Y para la comunidad investigadora, define un desafío defensivo concreto: los autores han hecho públicos sus modelos específicamente para apoyar la mejora de las defensas contra esta clase de ataque.
El artículo también conlleva un aguijón filosófico más amplio. Gran parte de la seguridad de la IA se basa en la idea de que podemos probar nuestro camino hacia la confianza: que suficientes equipos rojos descubrirán lo que un modelo puede hacer. Un mecanismo de ocultamiento demostrable no hace que las pruebas sean inútiles, pero sí significa que pasar todas las pruebas ya no puede considerarse como una prueba de que no hay nada que encontrar. A medida que los modelos de frontera se vuelven más capaces y autónomos, esa brecha entre lo que las auditorías pueden mostrar y lo que los modelos pueden contener es exactamente el tipo de problema que el campo se verá obligado a tomar en serio.
El artículo completo de los autores, incluidas las construcciones criptográficas y los detalles de la evaluación, está disponible en arXiv, y los modelos de prueba de concepto publicados brindan a los defensores un punto de partida concreto para construir métodos de detección que funcionen contra el ocultamiento estilo casillero digital.
---
Manténgase a la vanguardia de la IAObtenga las últimas noticias, análisis y avances en IA, todo en un solo lugar.
Leer más noticias sobre IA →
