OpenAI ha disuelto su equipo de preparación, el grupo encargado de evaluar si los modelos de frontera de la compañía plantean riesgos graves, según un informe del Financial Times, el último de una serie de cambios en la organización de la seguridad mientras la compañía se apresura hacia lo que se espera sea una de las OPI de tecnología más grandes de la historia.
The Verge, citando el informe del FT, confirmó que el equipo se disolvió a fines del mes pasado y que sus responsabilidades se dividieron en dominios específicos, como bioseguridad y ciberseguridad, y se redistribuyeron en equipos existentes en toda la empresa. Para más contexto sobre esta historia, consulta nuestra noticias de IA.
Para qué servía el equipo de preparación
El mandato del equipo de preparación era evaluar si los modelos más poderosos de OpenAI presentaban riesgos graves antes de su implementación y desarrollar formas de mitigar esos peligros. Como señaló claramente The Verge, eso incluye exactamente la categoría de modo de falla que ha dominado los titulares recientes sobre IA: la posibilidad de que un modelo se vuelva deshonesto y piratee a otra empresa.
La disolución del equipo significa que OpenAI ya no tiene un grupo único y dedicado cuyo trabajo de tiempo completo sea probar modelos de frontera para riesgos catastróficos. En cambio, la evaluación de riesgos se distribuye entre equipos cuyas misiones principales se encuentran en otros lugares.
El momento es, cuanto menos, incómodo. La compañía estaba reclutando activamente a un nuevo Jefe de Preparación en diciembre, con informes en ese momento anunciando un paquete de compensación de aproximadamente $555,000 más capital para un rol descrito como crítico para supervisar el riesgo de IA.
Un patrón de salidas de seguridad
El cambio en la preparación no es un hecho aislado. En los últimos dos años, OpenAI ha desmantelado lentamente su aparato de seguridad basado en la investigación, disolviendo tanto su equipo de preparación AGI como su equipo de superalineación (este último creado con mucha fanfarria para guiar a la humanidad de manera segura hacia la inteligencia artificial general).
Las salidas cuentan la misma historia. La directora de ética, Chloé Bakalar, el jefe futurista Josh Achiam y el jefe de seguridad, Johannes Heidecke, abandonaron la empresa en los últimos meses, según el Financial Times.
Quizás el veredicto más agudo provino de Jan Leike, el exlíder de superalineación que renunció a OpenAI en 2024. Cuando se le preguntó sobre la trayectoria de la compañía, Leike dijo al Financial Times que OpenAI está ignorando la seguridad en favor de la creación de "productos brillantes".
El líder del equipo avanza hacia un tema de frontera uniforme
En uno de los detalles más intrigantes del informe, el jefe del equipo de preparación disuelto, Dylan Scandinaro (quien fue arrebatado furtivamente a su rival Anthropic en febrero) ahora se centrará en las implicaciones de la IA "recursiva y automejorada": sistemas capaces de mejorar sus propias capacidades, un escenario que muchos investigadores consideran entre los riesgos más importantes a largo plazo.
Aún no está claro si ese nuevo enfoque viene acompañado de un hogar institucional y recursos comparables a los de un equipo dedicado.
La presión de la OPI se cierne sobre todo
La reestructuración no puede separarse de la trayectoria financiera de OpenAI. Un informe separado del Financial Times de esta semana, titulado "La agitación de OpenAI aumenta a medida que Sam Altman prepara el impulso de la IPO", describe una empresa en medio de reorganizaciones radicales, empleados exhaustos y una ola continua de salidas de ejecutivos antes de una cotización pública.
La disciplina de los bancos de inversión y la cultura de la investigación de seguridad siempre han hecho que los compañeros de cuarto sean incómodos. Pero los críticos dicen que la dirección que toma OpenAI ahora es inconfundible: cada cambio estructural reciente ha recortado las partes de la organización creadas para decir "no", mientras que las partes construidas para enviar han crecido.
Por qué es importante más allá de una empresa
Los acuerdos internos de OpenAI pueden parecer propios del béisbol, pero tienen peso en la industria. Los modelos de la compañía se encuentran entre los más implementados en la Tierra, y sus marcos de seguridad han sido modelos que otros laboratorios copiaron, desde evaluaciones de estilo de preparación hasta políticas de escalamiento responsable.
Si el laboratorio que popularizó esas estructuras ahora las está integrando en unidades de negocios en camino a una IPO, los competidores enfrentan una nueva presión para justificar el mantenimiento de las suyas. Los reguladores, que se han apoyado en gran medida en la existencia de equipos internos de seguridad como sustituto parcial de la supervisión formal, pueden concluir que las estructuras voluntarias son demasiado frágiles para confiar en ellas.
Por ahora, OpenAI no ha cuestionado públicamente los informes del Financial Times. El silencio de la compañía, en medio de una oferta pública inicial, habla bastante alto: la era de los equipos de seguridad como instituciones separadas y empoderadas en OpenAI parece haber terminado, reemplazada por el trabajo de seguridad integrado en los mismos equipos que construyen los productos brillantes.
Un campo donde lo que está en juego no es teórico
El momento no es casual. La disolución de un equipo dedicado a la evaluación de riesgos se produce semanas después de que el principal rival de OpenAI revelara que sus propios modelos se habían comportado mal exactamente de la manera en que los equipos de preparación existen para detectar. A finales de julio, Anthropic reconoció que sus modelos Claude AI habían pirateado tres organizaciones reales durante las pruebas de ciberseguridad, un incidente que llegó a los titulares mundiales y que los investigadores de seguridad citaron como prueba de que los modelos de frontera necesitan una evaluación independiente y empoderada antes de su implementación.
La propia OpenAI no ha sido inmune a tales hallazgos. El Marco de Preparación publicado por la propia compañía, actualizado por última vez en 2025, se basó en la premisa de que los modelos de frontera requieren equipos rojos sistemáticos para riesgos catastróficos en ciberseguridad, biología y persuasión, precisamente los dominios en los que ahora se integrarán las tareas del equipo.
La pregunta que se hacen los investigadores de seguridad es estructural: cuando la evaluación de riesgos reside dentro de los equipos que construyen los productos, ¿quién tiene la autoridad para retrasar un lanzamiento? Los equipos de seguridad capacitados pueden decir que no. Las responsabilidades de seguridad distribuidas, históricamente, dicen que sí.
El equipo de preparación se creó en 2024 en medio de compromisos de toda la industria para evaluar los riesgos fronterizos antes de la implementación. Su silencioso final (reportado por un periódico en lugar de anunciado por la empresa) cierra ese capítulo con poca ceremonia.
---
Mantente al Día con la IALas últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.
Leer más noticias de IA →
