Anthropic ha lanzado OSS Scanner, un servicio de suscripción gratuito que utiliza los modelos de IA más potentes de la empresa, incluido Claude Mythos, para escanear periódicamente proyectos de código abierto elegibles en busca de vulnerabilidades de seguridad y entregar informes de errores totalmente generados por modelos directamente a los mantenedores.
El servicio, anunciado el miércoles en una publicación de blog de la compañía, es producto de un cambio silencioso en el trabajo de seguridad de Anthropic: recientemente sus modelos han estado encontrando vulnerabilidades más rápido de lo que el propio equipo de seguridad de Anthropic puede verificarlas. Para los desarrolladores que siguen las herramientas que remodelan la seguridad del software, el lanzamiento es un momento importante para nuestra cobertura de los desarrollos de IA en la infraestructura de código abierto.
Del Proyecto Glasswing a un Servicio Público
OSS Scanner se basa en la experiencia de Anthropic utilizando Claude para buscar vulnerabilidades durante el Proyecto Glasswing, el esfuerzo interno de descubrimiento de vulnerabilidades de la compañía. Las cifras de ese trabajo explican por qué Anthropic está abriendo el oleoducto al público.
Durante los últimos seis meses, Anthropic dice que sus últimos modelos han revelado más de 29.000 vulnerabilidades candidatas en algunos de los proyectos de software más importantes del mundo, pero la compañía sólo ha podido revisar y clasificar manualmente alrededor de 6.000 de ellas. La capacidad de validación humana, no la capacidad de modelar, se ha convertido en el cuello de botella.
El lado de la demanda cuenta una historia similar. Anthropic informa que los mantenedores que reciben sus primeros informes piden cada vez más todo lo que tiene la empresa: ya se han enviado casi 5.000 informes directamente a los mantenedores que solicitaron envíos masivos de hallazgos no verificados, incluidos parches.
El contexto de la capacidad es crudo. En CyberGym, un punto de referencia académico para la búsqueda de vulnerabilidades, los grandes modelos de lenguaje han pasado de encontrar menos del 20 por ciento de las vulnerabilidades a principios del año pasado a más del 85 por ciento este año, según Anthropic, un salto que ha transformado los informes de errores de IA de ruido en hallazgos procesables.
Cómo se mantuvieron los números en las pruebas
Antes del lanzamiento, Anthropic validó el proceso con docenas de proyectos de código abierto, generando cientos de informes de errores, incluidas vulnerabilidades que, según la compañía, podrían encadenarse a exploits de ejecución remota de código no autenticados.
La prueba más reveladora implicó un escrutinio externo. Anthropic pidió a los expertos en pruebas de penetración que revisan sus hallazgos de divulgación coordinada de vulnerabilidades (CVD) que examinaran 97 hallazgos críticos y de alta gravedad del escáner, extraídos de 48 proyectos. De ellos, 85 (88 por ciento) cumplieron con el estándar del proceso de CVD de Anthropic. De los 12 restantes, 11 eran problemas conocidos reales pero duplicados u otros hallazgos del mismo escaneo. Sólo uno fue un rotundo falso positivo.
Cada informe, dice la compañía, contiene un reproductor autónomo y una explicación de la vulnerabilidad, incluida una bisección para determinar cuándo se introdujo la falla.
La compensación: velocidad sobre certeza
La decisión de diseño central de OSS Scanner es también su mayor riesgo: los informes se generan completamente mediante modelos, sin revisión ni clasificación humana. Anthropic es explícito en que esto permite un escaneo más rápido y frecuente, pero también que algunos informes serán incorrectos o no válidos.
La empresa plantea esta compensación como una respuesta a la demanda de los mantenedores. Dado que los exploits ahora se pueden desarrollar en minutos, los proyectos prefieren cada vez más recibir cada hallazgo no verificado de inmediato (con los parches propuestos adjuntos) en lugar de esperar la investigación humana. Inspirado en OSS-Fuzz de Google, que ha escaneado software de código abierto con fuzzers durante años, OSS Scanner aplica la misma lógica al análisis de código impulsado por IA.
Los proyectos que prefieren el manejo tradicional no se quedan fuera: Anthropic dice que continuará divulgando manualmente informes de vulnerabilidad verificados por humanos a través de su proceso CVD existente, especialmente para proyectos sin los recursos para clasificar los informes por sí mismos. Hay disponible una vía rápida opcional para aquellos que quieran obtener resultados sin procesar tan pronto como se generen.
¿Quién puede inscribirse y qué más anunció Anthropic?
Los mantenedores principales de proyectos elegibles pueden inscribirse enviando una solicitud de extracción a un repositorio de GitHub siguiendo una plantilla de proyecto estándar. La elegibilidad refleja los criterios de OSS-Fuzz: los proyectos deben tener un impacto crítico en la infraestructura y la seguridad del usuario, y las admisiones se deciden caso por caso.
El escáner llega junto con un conjunto más amplio de iniciativas de seguridad de Anthropic. El Programa de Verificación Cibernética de la compañía pone a disposición de los profesionales de seguridad calificados capacidades cibernéticas avanzadas y clasificadores de bloqueo reducido, un programa que Anthropic amplió a principios de esta semana con tres niveles de acceso a Claude para los equipos de seguridad. Un esfuerzo separado de Claude para OSS proporciona suscripciones gratuitas a Claude Max 20x para ayudar a los mantenedores a remediar vulnerabilidades y mejorar sus proyectos. SiliconANGLE también informó sobre un nuevo programa Anthropic centrado en proteger la infraestructura crítica, enmarcando los anuncios de la semana como un impulso coordinado hacia la ciberseguridad defensiva.
Qué significa para la seguridad de código abierto
Si OSS Scanner funciona como se anuncia, marca un cambio estructural en la seguridad del código abierto: la IA encuentra los errores y los humanos pasan de la caza a la verificación. Ese cambio supone una carga real para los encargados del mantenimiento, quienes deben clasificar los informes generados por máquinas (algunos de ellos incorrectos) mientras deciden si confiar en los parches automatizados.
La tasa de validación del 88 por ciento sugiere que la relación señal-ruido ahora es lo suficientemente buena como para que valga la pena el tiempo de un mantenedor, al menos para proyectos de infraestructura críticos. Si el ecosistema en general está de acuerdo se reflejará en las cifras de inscripción y en el número de proyectos inscritos que silenciosamente optan por retirarse después de su primera avalancha de informes.
---
Manténgase a la vanguardia de la IAObtenga las últimas noticias, análisis y avances en IA, todo en un solo lugar.
Leer más noticias sobre IA →
