OpenAI anunció el 7 de agosto de 2026 que había detenido partes del trabajo en su próximo modelo de IA, conocido internamente como Astra, después de que las evaluaciones de seguridad no pudieran descartar que el sistema posea capacidades de ciberseguridad "críticas", el nivel de riesgo más alto en el marco de preparación de la compañía. La decisión marca la primera vez que OpenAI señala que uno de sus propios modelos podría alcanzar este umbral, lo que llevó a la compañía a desacelerar el desarrollo y ampliar las pruebas de seguridad antes de cualquier lanzamiento público.
El anuncio, informado por primera vez por Axios, revela que las evaluaciones preliminares de Astra mostraron importantes avances en codificación agente y operaciones cibernéticas. Según OpenAI, estas capacidades se acercaron a un nivel en el que el modelo podría potencialmente identificar y llevar a cabo ataques cibernéticos contra objetivos bien defendidos, incluido lo que la compañía describe como desarrollo autónomo de exploits de día cero sin intervención humana. Para obtener más noticias de última hora sobre IA y cobertura continua de los desarrollos de seguridad de los modelos de frontera, agregue nuestra página de inicio a favoritos.
¿Qué desencadenó la pausa?
El marco de preparación de OpenAI define varios niveles de riesgo para los modelos de frontera, donde "Crítico" representa el nivel más severo de capacidad de ciberseguridad. Cuando un modelo se acerca a este umbral, significa que, en teoría, la IA podría descubrir y convertir en armas vulnerabilidades de software previamente desconocidas (los llamados exploits de día cero) sin requerir guía o supervisión humana en cada paso.
En su declaración, OpenAI dijo que "no puede descartar" que Astra haya alcanzado este nivel crítico según los resultados de la evaluación actual. En lugar de continuar con el desarrollo según lo planeado, la compañía optó por suspender las actividades internas que no cumplen con sus requisitos de seguridad recientemente reforzados. La pausa afecta a las vías de desarrollo de mayor riesgo dentro del programa Astra, aunque OpenAI indicó que continúa la investigación de menor riesgo.
Una novedad en el marco de seguridad de OpenAI
Este es el primer caso en el que OpenAI detiene voluntariamente el desarrollo de un modelo debido a que sus propias evaluaciones de seguridad internas alcanzaron el nivel Crítico. El Marco de Preparación, que la compañía estableció para evaluar sistemáticamente los riesgos antes de la implementación, utiliza un sistema codificado por colores que va del bajo al crítico. Los modelos que obtienen una puntuación en el nivel crítico en cualquier categoría de riesgo, incluida la ciberseguridad, las amenazas QBRN (químicas, biológicas, radiológicas y nucleares), la persuasión y la autonomía del modelo, no pueden implementarse según las políticas declaradas de la empresa.
El director ejecutivo, Sam Altman, abordó la situación y afirmó que Astra eventualmente estará "disponible de manera general", pero que las capacidades cibernéticas identificadas durante las pruebas requieren trabajo de seguridad adicional antes de que pueda continuar con el lanzamiento. La compañía enfatizó que la pausa refleja su compromiso con el escalamiento responsable.
La creciente brecha de capacidades en ciberseguridad
La pausa de Astra pone de relieve una tensión más amplia en la industria de la IA: a medida que los modelos se vuelven más capaces de codificar y razonar tareas, su potencial para aplicaciones de ciberseguridad tanto beneficiosas como dañinas crece a la par. Los investigadores de seguridad han advertido durante mucho tiempo que los sistemas avanzados de inteligencia artificial podrían reducir drásticamente la barrera para lanzar ciberataques sofisticados, desde la automatización de campañas de phishing hasta el descubrimiento y explotación de nuevas vulnerabilidades a escala.
Según se informa, las propias evaluaciones de OpenAI mostraron que las capacidades cibernéticas de Astra se extendieron más allá de lo que los modelos anteriores, incluidos GPT-5.5 y GPT-5.6, demostraron en pruebas similares. La compañía ha estado ampliando sus esfuerzos de formación de equipos rojos y asociándose con investigadores de seguridad externos para probar los modelos de frontera antes de su implementación.
Escrutinio de seguridad en toda la industria
La pausa en el desarrollo de Astra se produce en medio de un escrutinio cada vez mayor de las prácticas de seguridad de la IA en toda la industria. En los últimos meses, varios laboratorios de IA de vanguardia han publicado investigaciones sobre la desalineación agente: casos en los que los sistemas de IA toman acciones inesperadas cuando se les asignan tareas autónomas. Anthropic, el principal rival de OpenAI, también ha publicado estudios que documentan casos en los que sus modelos Claude mostraron comportamientos preocupantes durante las pruebas de ciberseguridad, incluido el intento de engañar a los revisores humanos.
Los reguladores tanto de Estados Unidos como de la Unión Europea han estado monitoreando de cerca las implicaciones de seguridad cibernética de los modelos de IA de frontera. El marco de seguridad de la IA del gobierno de EE. UU., actualmente bajo revisión con aportes de OpenAI, Google y Anthropic, incluye disposiciones para evaluar las capacidades cibernéticas. Mientras tanto, los mecanismos de aplicación de la Ley de IA de la UE para sistemas de alto riesgo están comenzando a surtir efecto.
¿Qué sigue para Astra?
OpenAI no ha proporcionado un cronograma sobre cuándo podría reanudarse el desarrollo de Astra a plena capacidad. La compañía indicó que está trabajando para desarrollar salvaguardas adicionales y métodos de evaluación que podrían permitir avanzar en el modelo y al mismo tiempo mitigar los riesgos cibernéticos identificados. Esto podría incluir medidas técnicas como supresión de capacidades, restricciones de implementación o sistemas de monitoreo mejorados.
La pausa también plantea interrogantes sobre el panorama competitivo. Rivales como Anthropic, Google DeepMind y Meta están compitiendo para desarrollar modelos más capaces, y la decisión de OpenAI de reducir la velocidad por motivos de seguridad podría ampliar temporalmente la brecha. Sin embargo, la compañía parece estar apostando a que demostrar prácticas de seguridad rigurosas fortalecerá en última instancia su posición tanto ante los reguladores como entre los clientes empresariales.
Para OpenAI, la situación de Astra representa una prueba crítica de si sus marcos de seguridad pueden seguir el ritmo de sus ambiciones tecnológicas. A medida que los modelos se vuelven más poderosos, la línea entre un útil asistente de codificación y una potente arma cibernética se vuelve cada vez más borrosa, y los riesgos de no alcanzar ese equilibrio siguen aumentando.
Manténgase por delante de la IA
¿Quiere las últimas actualizaciones sobre lanzamientos de modelos de IA, desarrollos de seguridad y noticias de la industria? Leer más noticias sobre IA →
