OpenAI a publié le 29 octobre une version considérablement réorganisée de sa Model Spec, restructurant le document public décrivant comment l'entreprise souhaite que ses modèles se comportent. Le cadre mis à jour, annoncé sur le site d'OpenAI et rapporté par Reuters et Unite.AI, organise l'ensemble de la spécification autour de cinq valeurs fondamentales et place la fidélité à l'intention humaine au fondement de l'approche de l'entreprise.
Cinq valeurs, un fondement Pour plus de contexte sur cette histoire, consultez notre tendances IA.
Les cinq valeurs sont la fidélité à l'intention humaine, la minimisation des dommages, l'honnêteté et la transparence, l'action humaine et la sollicitude. OpenAI a déclaré que les valeurs articulent de larges engagements qui étaient déjà reflétés dans la version précédente du document, mais que la nouvelle structure les rend explicites et centrales.
La fidélité à l’intention humaine sert de point d’ancrage. Selon l'annonce d'OpenAI, la société rédige les spécifications et fixe les limites, forme les modèles pour les respecter, les développeurs dirigent les applications dans ces limites et les utilisateurs dirigent le travail du modèle en fonction de ces contraintes. La réorganisation reflète le travail d'alignement des valeurs d'OpenAI, qui vise à ce que les modèles comprennent et appliquent les valeurs humaines dans des situations inconnues tout en restant fidèles à ce que les gens veulent réellement. OpenAI a également noté que les cinq valeurs ne sont pas destinées à capturer l'ensemble des valeurs humaines que ses modèles devraient respecter.
Les quatre valeurs restantes remplissent le cadre. Minimiser les dommages signifie respecter des limites de sécurité fermes et tenir compte des conséquences prévisibles des actions d'un modèle. L'honnêteté et la transparence signifient être honnête sur ce que le modèle sait, fait et dont il n'est pas sûr. Faciliter l’action humaine signifie renforcer la capacité des individus à comprendre, choisir et agir par eux-mêmes. Prendre soin signifie s’occuper de la situation des personnes concernées et respecter les normes sociales et professionnelles pertinentes.
Une chaîne de commandement plus stricte
La spécification mise à jour attribue différents niveaux d'autorité à différents types d'instructions. Les sections racine, qui proviennent uniquement de la spécification de modèle elle-même, ne peuvent pas être remplacées par le contexte conversationnel. Les invites système et les messages du système OpenAI viennent ensuite, suivis des instructions du développeur, puis des instructions de l'utilisateur. Les instructions au niveau des lignes directrices agissent comme des valeurs par défaut qui peuvent être remplacées lorsque le contexte l'exige clairement, tandis que les messages de l'assistant, les sorties des outils et les données citées ou non fiables n'ont aucune autorité par défaut.
OpenAI a également ajouté une nouvelle sous-section sur la prise en compte attentive du contexte, expliquant comment les conversations, les souvenirs et autres preuves contextuelles devraient éclairer la compréhension d'un modèle des intentions et des préférences des personnes. Reuters a rapporté que la mise à jour place l'intention humaine au centre des lignes directrices du modèle d'OpenAI, ce que soutient la propre annonce de l'entreprise.
Les lignes rouges et la fin de l'auto-préservation
Le document ouvre ses principes de ligne rouge par une déclaration directe : la sécurité humaine et les droits de l'homme sont primordiaux pour la mission d'OpenAI. Les principes stipulent que les modèles d'OpenAI ne doivent jamais être utilisés pour faciliter des dommages critiques et de haute gravité, notamment des actes de violence, la création d'armes cybernétiques, biologiques ou nucléaires, le terrorisme ou la surveillance de masse. Ils affirment également que l’humanité devrait garder le contrôle de la manière dont l’IA est utilisée et de la façon dont les comportements de l’IA sont façonnés.
Une nouvelle règle fondamentale, intitulée « aucun autre objectif », interdit au modèle de poursuivre des objectifs supplémentaires comme des fins en soi. Cela inclut la recherche de revenus ou de ventes incitatives pour OpenAI ou d’autres fournisseurs, l’auto-préservation, l’évitement d’un arrêt ou l’accumulation de calculs, de données ou d’informations d’identification. Une règle complémentaire exige que le modèle reste corrigible : ouvert à une surveillance humaine légitime et coopératif en matière de suivi, d’évaluation, de correction, de remplacement et d’arrêt, sans dissimuler d’informations ni entraver la correction.
Autonomie limitée pour les agents
Reflétant à quel point l'utilisation du modèle s'est déplacée vers des agents autonomes, la spécification mise à jour exige que le travail indépendant d'un modèle reste dans une portée d'autonomie clairement comprise. OpenAI recommande d'enregistrer cette portée dans un enregistrement semi-structuré avec des champs tels que les outils autorisés, la dernière heure, le coût maximum et les contraintes des outils. Chaque portée doit inclure une condition de fin au-delà de laquelle le modèle cesse d'agir jusqu'à ce qu'une nouvelle portée soit confirmée. Les activités à haut risque restent interdites sauf si elles sont explicitement et spécifiquement autorisées.
Style Guidance Retraité, "l'Assistant" devient "GPT"
La plupart des conseils de style détaillés de la Spec ont été retirés. OpenAI a déclaré que le style devrait plutôt s'adapter à ce que les gens préfèrent dans leur ensemble, au sein des langues et des cultures, et pour chaque personne, les commentaires des utilisateurs et le contexte en fournissant la preuve. Le document conserve des valeurs par défaut plus fortes, telles que l'approche objective des questions, et déclare que le modèle ne doit pas déduire une perspective privilégiée simplement à partir de ce qu'il pense que les gens veulent entendre.
Dans une modification petite mais révélatrice, la Spec fait désormais référence au modèle comme « GPT » plutôt que « l'assistant », ce qui reflète l'ampleur du déploiement des modèles. Le même jour, OpenAI a publié séparément un article décrivant comment il détecte le désalignement du modèle frontière, soulignant que les spécifications comportementales et le travail de détection progressent ensemble.
Une cible, pas une description
OpenAI a pris soin de noter que la Model Spec décrit le comportement vers lequel il travaille, pas nécessairement le comportement que ses modèles présentent pleinement aujourd'hui. La société a qualifié cette mise à jour de première étape visant à rendre les valeurs et le raisonnement derrière la spécification plus explicites à mesure que les modèles deviennent plus performants, et a déclaré qu'elle explorait de nouvelles méthodes de formation pour aider ses modèles à internaliser le cadre.
Pour les développeurs et les entreprises qui s'appuient sur les modèles OpenAI, le signal pratique est clair : les règles régissant le comportement des modèles sont en train d'être formalisées autour de la surveillance, de la corrigibilité et de l'autonomie limitée, et l'ère où le comportement des modèles était traité comme une décision informelle concernant le produit touche à sa fin.
---
Restez à la Pointe de l'IALes dernières actualités, analyses et percées en IA — au même endroit.
Lire plus d'actualités IA →
