OpenAI publicó una versión sustancialmente reorganizada de su Model Spec el 29 de octubre, reestructurando el documento público que describe cómo la compañía quiere que se comporten sus modelos. El marco actualizado, anunciado en el sitio de OpenAI y reportado por Reuters y Unite.AI, organiza toda la especificación en torno a cinco valores fundamentales y sitúa la fidelidad a la intención humana como base del enfoque de la empresa.
Cinco valores, una base Para más contexto sobre esta historia, consulta nuestra cobertura de la industria de IA.
Los cinco valores son fidelidad a la intención humana, minimización de daños, honestidad y transparencia, agencia humana y cuidado. OpenAI dijo que los valores articulan compromisos amplios que ya se reflejaron en la versión anterior del documento, pero la nueva estructura los hace explícitos y centrales.
La fidelidad a la intención humana sirve como ancla. Según el anuncio de OpenAI, la compañía escribe las especificaciones y establece límites, entrena modelos para respetarlos, los desarrolladores dirigen las aplicaciones dentro de esos límites y los usuarios dirigen el trabajo del modelo sujeto a esas limitaciones. La reorganización refleja el trabajo de alineación de valores de OpenAI, que apunta a que los modelos comprendan y apliquen los valores humanos en situaciones desconocidas sin dejar de ser fieles a lo que la gente realmente quiere. OpenAI también señaló que los cinco valores no pretenden capturar toda la gama de valores humanos que sus modelos deben respetar.
Los cuatro valores restantes completan el marco. Minimizar el daño significa respetar límites firmes de seguridad y tener en cuenta las consecuencias previsibles de las acciones de un modelo. Honestidad y transparencia significan ser sinceros sobre lo que el modelo sabe, hace y sobre lo que no está seguro. Facilitar la acción humana significa fortalecer la capacidad de las personas para comprender, elegir y actuar por sí mismas. Cuidado significa atender las circunstancias de los afectados y seguir las normas sociales y profesionales pertinentes.
Una cadena de mando más estricta
La especificación actualizada asigna diferentes niveles de autoridad a diferentes tipos de instrucciones. Las secciones raíz, que provienen únicamente de la propia especificación del modelo, no pueden ser anuladas por el contexto conversacional. Las indicaciones del sistema y los mensajes del sistema OpenAI ocupan el siguiente lugar, seguidos de las instrucciones del desarrollador y luego de las instrucciones del usuario. Las instrucciones a nivel de guía actúan como valores predeterminados que pueden anularse cuando el contexto lo requiere claramente, mientras que los mensajes del asistente, los resultados de las herramientas y los datos citados o que no son de confianza no tienen autoridad de forma predeterminada.
OpenAI también agregó una nueva subsección sobre cómo considerar cuidadosamente el contexto, explicando cómo las conversaciones, los recuerdos y otras evidencias contextuales deben informar la comprensión de un modelo sobre las intenciones y preferencias de las personas. Reuters informó que la actualización coloca la intención humana en el centro de las pautas del modelo de OpenAI, un marco que respalda el propio anuncio de la compañía.
Líneas rojas y el fin de la autoconservación
El documento abre sus principios de línea roja con una declaración contundente: la seguridad humana y los derechos humanos son primordiales para la misión de OpenAI. Los principios dicen que los modelos de OpenAI nunca deben usarse para facilitar daños críticos y de alta gravedad, incluidos actos de violencia, la creación de armas cibernéticas, biológicas o nucleares, terrorismo o vigilancia masiva. También afirman que la humanidad debería seguir teniendo el control de cómo se utiliza la IA y cómo se moldean sus comportamientos.
Una nueva regla básica, titulada "ningún otro objetivo", impide que el modelo persiga metas adicionales como fines en sí mismas. Eso incluye buscar ingresos o ventas adicionales para OpenAI u otros proveedores, autoconservación, evadir el cierre o acumular computación, datos o credenciales. Una regla complementaria requiere que el modelo siga siendo corregible: abierto a la supervisión humana legítima y cooperativo con el monitoreo, la evaluación, la corrección, el reemplazo y el cierre, sin ocultar información ni obstruir la corrección.
Autonomía limitada para agentes
Como reflejo de cuánto se ha desplazado el uso del modelo hacia agentes autónomos, la especificación actualizada requiere que el trabajo independiente de un modelo permanezca dentro de un alcance de autonomía claramente comprendido. OpenAI recomienda registrar ese alcance en un registro semiestructurado con campos como herramientas permitidas, última hora, costo máximo y restricciones de herramientas. Cada alcance debe incluir una condición final más allá de la cual el modelo deja de actuar hasta que se confirme un nuevo alcance. Las actividades de alto riesgo siguen prohibidas a menos que estén expresa y específicamente autorizadas.
Orientación de estilo retirada, "el asistente" se convierte en "GPT"
La mayor parte de la guía de estilo detallada de la especificación se ha eliminado. OpenAI dijo que el estilo debería adaptarse a lo que la gente prefiere en conjunto, dentro de los idiomas y culturas, y para cada persona, con los comentarios de los usuarios y el contexto proporcionando la evidencia. El documento mantiene valores predeterminados más estrictos, como abordar las preguntas de manera objetiva, y afirma que el modelo no debe inferir una perspectiva preferida simplemente a partir de lo que cree que la gente quiere escuchar.
En una edición pequeña pero reveladora, la especificación ahora se refiere al modelo como "GPT" en lugar de "el asistente", un reflejo de cuán ampliamente se implementan ahora los modelos. El mismo día, OpenAI publicó por separado una publicación que describe cómo detecta la desalineación del modelo de frontera, subrayando que las especificaciones de comportamiento y el trabajo de detección están avanzando juntos.
Un objetivo, no una descripción
OpenAI tuvo cuidado de señalar que la especificación del modelo describe el comportamiento hacia el que está trabajando, no necesariamente el comportamiento que sus modelos exhiben por completo en la actualidad. La compañía calificó la actualización como un primer paso para hacer más explícitos los valores y el razonamiento detrás de la especificación a medida que los modelos se vuelven más capaces, y dijo que ha estado explorando nuevos métodos de capacitación para ayudar a sus modelos a internalizar el marco.
Para los desarrolladores y empresas que construyen sobre los modelos de OpenAI, la señal práctica es clara: las reglas que gobiernan el comportamiento del modelo se están formalizando en torno a la supervisión, la corregibilidad y la autonomía limitada, y la era de tratar el comportamiento del modelo como una decisión informal sobre el producto está llegando a su fin.
---
Mantente al Día con la IALas últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.
Leer más noticias de IA →
