OpenAI publicó el jueves su relato más detallado hasta el momento sobre cómo detecta e interrumpe la "destilación adversa" (el uso no autorizado de los resultados de un modelo fronterizo para entrenar un sistema competidor) y, según múltiples informes, ha comenzado a exigir que los portales y revendedores de terceros obtengan su aprobación antes de ofrecer acceso directo a sus modelos.

Las medidas, descritas en una publicación de blog de OpenAI titulada "Combatir la destilación adversarial" y en la cobertura de Semafor y eWeek, marcan un endurecimiento significativo de cómo la compañía controla quién puede redistribuir las capacidades de sus modelos, un cambio con consecuencias reales para los desarrolladores, nuevas empresas y empresas que acceden a los sistemas OpenAI a través de intermediarios.

Por qué OpenAI trata la destilación como un problema de seguridad

La destilación es una técnica estándar de aprendizaje automático en la que un modelo aprende de los resultados de otro. En sí mismo, señala OpenAI, no es ilícito ni inusual. La preocupación de la compañía es lo que llama destilación adversarial: un actor que utiliza los resultados de un modelo de frontera sin autorización para entrenar otro modelo con capacidades similares y luego lo implementa sin salvaguardas comparables.

En su publicación de blog, OpenAI sostiene que el riesgo es más claro en dominios de doble uso como la ciberseguridad y la biología. Un modelo que ayude a los defensores a encontrar vulnerabilidades de software podría, una vez que sus habilidades se transfieran a un sistema con barreras de seguridad más débiles, ayudar a un atacante a explotarlas. "Un adversario podría destilar las capacidades cibernéticas de un modelo y utilizar el modelo resultante para ayudar a llevar a cabo ataques cibernéticos en los que el modelo original se habría negado a ayudar", escribió la compañía.

Proteger la cadena de pensamiento

En el centro de la defensa de OpenAI está lo que llama razonamiento protegido: los pasos intermedios (la cadena de pensamiento) que un modelo genera internamente mientras trabaja hacia una respuesta. Esos rastros, explica la compañía, pueden contener información que la respuesta final omite, lo que los hace especialmente valiosos como datos de entrenamiento para el modelo de otro laboratorio.

OpenAI dice que ha fortalecido sus defensas contra la extracción de rastros de razonamiento en GPT-6.2 Astra y GPT-6.2 Sol. En una evaluación adaptativa interna que utilizó el equipo rojo automatizado, la compañía informó que la tasa promedio de éxito de los ataques para recuperar el razonamiento protegido cayó del 54,0 % contra GPT-6 Astra con sus protecciones originales al 0,2 % contra GPT-6.2 Astra con las protecciones actualizadas.

Lo que encontró su estudio cibernético interno

La compañía también compartió los resultados de un estudio interno sobre cómo se transfieren las capacidades cibernéticas durante la destilación. Los modelos de estudiantes se afinaron en trayectorias producidas por modelos de docentes que trabajan en tareas de codificación y ciberseguridad defensiva. Los estudiantes entrenados en rastros de razonamiento exacto generalmente superaron a los estudiantes entrenados solo en resúmenes de razonamiento, tanto después de un ajuste fino supervisado como, con los mayores presupuestos de inferencia probados, después de una ronda adicional de aprendizaje reforzado, según los puntos de referencia que OpenAI muestra junto a la publicación.

La implicación es aleccionadora para cualquiera que espere que la transferencia de capacidades pueda contenerse mediante la publicación de resultados desinfectados: incluso las interacciones permitidas bajo las políticas de uso pueden, en conjunto, enseñar a un estudiante habilidades modelo que se generalizan más allá de las tareas que el maestro realizó originalmente.

Las puertas de enlace y los revendedores ahora necesitan aprobación

Las medidas técnicas llegan junto con un cambio de política. A partir del jueves, OpenAI requerirá que los enrutadores y puertas de enlace de modelos de IA que brinden a terceros acceso directo a sus modelos obtengan aprobación previa, informó eWeek. El requisito se basa en un anuncio que la compañía hizo en octubre que establece cómo se deben aplicar las protecciones de seguridad cuando los clientes acceden a sus modelos directamente o a través de socios de alojamiento y revendedores.

Según el resumen de ese marco de eWeek, se espera que los servicios participantes mantengan estándares comparables para que los usuarios no puedan simplemente cambiar de proveedor para evadir las restricciones. Las medidas abarcan tres etapas: evaluaciones de riesgos y pruebas contra intentos de elusión de salvaguardias antes del despliegue; monitoreo durante el uso, y se espera que los socios investiguen actividades sospechosas; y medidas de aplicación de la ley después de que se produzcan violaciones. Semafor caracterizó el cambio como que OpenAI refuerza su control sobre un ecosistema de revendedores que ha crecido rápidamente en torno a su API.

Qué significa para los desarrolladores

Para los desarrolladores, el efecto práctico es una nueva cuestión de cumplimiento que se debe agregar a la debida diligencia de los proveedores: si un intermediario que ofrece modelos OpenAI está realmente autorizado para hacerlo. Las empresas que dirigen el tráfico a través de agregadores deben confirmar el estado de aprobación de su proveedor y cómo maneja las credenciales y los datos, aconsejó eWeek.

Para la industria en general, el anuncio es una señal de que los proveedores de modelos ven cada vez más el control de las capacidades derivadas (no sólo los modelos en sí) como el perímetro que importa. Las disputas sobre la destilación han estallado en todo el campo en los últimos años, y OpenAI ahora está enmarcando su respuesta no como una disputa de licencia sino como un requisito de seguridad, alineando las defensas de la destilación con los controles que aplica a los riesgos biológicos y de ciberseguridad.

El camino por delante

OpenAI dice que continuará estudiando cuánta capacidad se transfiere entre diferentes modelos de estudiantes y recetas de destilación, e invita a otros laboratorios a aprovechar su trabajo de detección y aplicación. Si los rivales adoptan regímenes comparables de aprobación de puertas de enlace (y si los usuarios aceptan la fricción adicional) ayudará a determinar cómo se construye la próxima generación de sistemas de IA y quién tiene permiso para construirlos.

Manténgase a la vanguardia

¿Quiere lo último sobre modelos, seguridad y políticas de IA en el momento? Siga las últimas noticias sobre IA en AI Buzz Wire.

Leer más noticias sobre IA →