Cuando hablas con un amigo en persona, puedes verlo, oírlo y estrecharle la mano. Cuando hablas con un modelo de IA, casi no tienes ninguna de esas garantías. La nueva investigación de Anthropic apunta exactamente a esa brecha: la compañía ha publicado avances en pruebas criptográficas de inferencia, incluido un sistema llamado FlashProve que puede probar (matemáticamente, no contractualmente) que una respuesta realmente vino del modelo que dice ser.
El problema que aborda FlashProve es silenciosamente estructural. Un usuario que consulta un modelo hoy no puede comprobar que las respuestas provienen del modelo específico que un desarrollador afirma que está respondiendo, a diferencia de uno sustituido en secreto por un servicio de enrutamiento por razones de costo, o incluso por un atacante que ha manipulado el flujo de tokens. Juzgar únicamente por los resultados no es confiable, incluso si las respuestas parecen excelentes. En una industria donde la misma ventana de chat puede dirigirse silenciosamente a un modelo más barato bajo carga, eso no es una preocupación hipotética: es el modelo de confianza predeterminado. Para obtener más cobertura de trabajos como este, consulte nuestras noticias de investigación de IA.
Por qué es difícil realizar una inferencia demostrable
El objetivo de la inferencia demostrable es permitir que un usuario con recursos computacionales limitados (y sin acceso a los pesos privados de un modelo) verifique que ese modelo realmente produjo una respuesta determinada. El enfoque obvio, volver a ejecutar el modelo usted mismo, no es un comienzo: las ponderaciones de los modelos de frontera se mantienen privadas, y comparar una respuesta con ellas requeriría un cálculo mucho más allá de lo que un usuario típico, o incluso un evaluador bien financiado, puede permitirse.
El enfoque de Anthropic se basa en zkSNARK, una familia de pruebas de conocimiento cero con fuertes propiedades de ocultación y eficiencia que las hacen excepcionalmente adecuadas para la tarea. Un proveedor se compromete con un modelo una vez y luego genera una prueba compacta para cada respuesta de que la respuesta fue calculada por el modelo comprometido, mientras que las pruebas mismas ocultan los pesos del modelo. Ocultar la arquitectura no es un objetivo del sistema; ocultar los pesos sí lo es.
Los números
Las cifras de eficiencia en la publicación son el núcleo técnico de la historia, porque la generación de pruebas para modelos grandes históricamente ha sido demasiado lenta para importar. Para Llama 4 Maverick, un modelo de combinación de expertos de 400 mil millones de parámetros, una única GPU NVIDIA H100 genera pruebas a alrededor de 110 tokens por segundo, con un tamaño de prueba de aproximadamente 19 MB por solicitud de 1024 tokens, utilizando pesos cuantificados de 4 bits y aritmética de enteros en precarga.
Esa velocidad tiene un costo: la generación de pruebas requiere aproximadamente entre 70 y 95 veces el tiempo de GPU que implica simplemente ejecutar el modelo en vLLM, una biblioteca de inferencia de código abierto ampliamente utilizada. Caro, en otras palabras, pero por primera vez en el mismo orden de magnitud que lo que se está probando y, según Anthropic, sustancialmente más rápido que los sistemas de código abierto anteriores, que se retrasan en órdenes de magnitud.
Claude lo construyó y Lean audita los reclamos
Hay un segundo piso plegado dentro del primero. Según la publicación, el propio Claude produjo las mejoras en zkSNARK para la inferencia, encontrando formas novedosas de aplicar herramientas de última generación de la literatura sobre criptografía y seguridad, confiando al mismo tiempo en principios de diseño bien establecidos para sistemas de prueba criptográfica.
Anthropic es sincero sobre el riesgo que conlleva ese flujo de trabajo: Claude es bueno en optimización, pero a menudo toma decisiones que son difíciles de evaluar, especialmente en sistemas grandes y complejos. La contramedida es la verificación formal. La compañía proporciona declaraciones auditables de alto nivel en Lean, un lenguaje de verificación formal, para las garantías de seguridad reclamadas: matemáticas verificadas por máquina que se interponen entre las optimizaciones inteligentes de una IA y los usuarios que tienen que confiar en ellas.
La pila completa se publica bajo la licencia Apache 2.0: la publicación del blog, un informe técnico que explica los detalles del sistema, una descripción del protocolo, un código ejecutable que incluye un probador y dos verificadores (un verificador rápido en C++ y un verificador demostrablemente correcto en Lean) además de las pruebas Lean en sí y un visualizador interactivo para ayudar en la auditoría.
Del cumplimiento a los tratados de ritmo de la IA
Los bocetos antrópicos utilizan casos que van desde lo rutinario hasta lo geopolítico. Los evaluadores independientes que prueban los modelos de IA antes y después de su lanzamiento necesitan saber que el modelo que están evaluando es el modelo al que se sirve. Los clientes que acceden a un modelo a través de un servicio de enrutamiento de terceros quieren tener la seguridad de que los tokens provienen del modelo por el que pagaron. Y en el escenario de seguridad, un ciberatacante que modifica el flujo de tokens mientras se hace pasar por un modelo determinado se vuelve detectable de una manera que la inspección de salida por sí sola nunca podría lograr.
La aplicación más ambiciosa mencionada en la publicación es la verificación del cumplimiento de los requisitos de ritmo de la IA: la clase emergente de acuerdos, voluntarios y gubernamentales, que intentan controlar la velocidad con la que avanzan las capacidades fronterizas. Hoy esos compromisos se basan en la confianza y el papeleo. Las pruebas criptográficas de inferencia ofrecen algo más cercano a la inspección: una forma de demostrar, en lugar de afirmar, qué modelo cumple con una carga de trabajo determinada.
Los investigadores son explícitos en que se trata de un progreso intermedio, no de una agenda de investigación completa, y están publicando con el objetivo declarado de que otros tomen el trabajo y lo mejoren. Ese marco es en sí mismo una señal: la inferencia demostrable ha pasado del experimento mental de un seminario de criptografía a un problema de ingeniería que un laboratorio de vanguardia ahora está abiertamente compitiendo por hacer que sea lo suficientemente barato para implementarlo.
---
Manténgase a la vanguardia de la IAObtenga las últimas noticias, análisis y avances en IA, todo en un solo lugar.
Leer más noticias sobre IA →
