OpenAI a proposé que les États-Unis dirigent l’élaboration de normes techniques internationales pour l’intelligence artificielle de pointe, y compris des approches communes pour mesurer la recherche autonome sur l’IA et préserver la surveillance humaine à mesure que les systèmes deviennent plus performants.
La proposition, publiée par l'entreprise et rapportée lundi par CNBC, Reuters, Politico, le Wall Street Journal et le Financial Times, arrive à un moment symboliquement chargé : Axios a rapporté qu'elle précède le discours du PDG Sam Altman aux Nations Unies, et Semafor a qualifié la demande de l'entreprise de coalition mondiale dirigée par les États-Unis sur la sécurité de l'IA. Pour plus de contexte sur cette histoire, consultez notre plus d'articles sur l'IA.
L'objectif principal : l'auto-amélioration récursive
Le document se distingue par la façon dont il engage directement l’auto-amélioration récursive, ou RSI, le scénario dans lequel les systèmes d’IA assument des parties de plus en plus importantes du travail de développement des générations futures d’IA. Selon un résumé détaillé de Pulse2, OpenAI déclare qu'une auto-amélioration récursive entièrement autonome n'a pas lieu aujourd'hui et soutient qu'elle ne devrait pas être poursuivie à moins que les développeurs ne puissent démontrer qu'elle peut être réalisée en toute sécurité tout en préservant un contrôle humain significatif.
Dans le même temps, l’entreprise décrit la recherche automatisée sur l’IA comme un élément important de sa propre feuille de route technique. L'un des objectifs déclarés est de former des chercheurs en IA automatisés qui peuvent contribuer au travail de développement et d'alignement des modèles tout en restant impliqués dans le processus d'auto-amélioration, a indiqué la société. OpenAI affirme que l’automatisation pourrait accélérer les progrès scientifiques et renforcer la recherche sur la sécurité, puisque les systèmes capables d’améliorer les modèles pourraient également être utilisés pour développer de meilleures méthodes d’alignement, des technologies défensives et des protections pour les infrastructures critiques.
La préoccupation centrale, selon la proposition, est de savoir ce qui se passe lorsque la supervision humaine diminue. Une recherche plus automatisée pourrait accélérer le développement de l'IA au point où les gens auraient plus de difficulté à comprendre ou à superviser la création de nouveaux systèmes, ce qui, selon OpenAI, est précisément la raison pour laquelle les normes devraient s'étendre au-delà des politiques internes d'une seule entreprise.
Pourquoi la coordination internationale
Selon OpenAI, l’IA avancée est désormais développée et déployée dans de nombreux pays, ce qui rend les règles purement nationales insuffisantes. L'entreprise identifie trois problèmes que des normes communes pourraient résoudre : des systèmes d'évaluation et de reporting fragmentés, des problèmes d'action collective entre les pays et de grandes différences en termes d'expertise technique et de capacité de développement de l'IA à travers le monde. Les préoccupations s'appliquent à la fois aux modèles ouverts et fermés, selon l'entreprise.
Il est important de noter que la proposition ne prévoit pas la création d’un seul régulateur international ayant le pouvoir d’approuver les modèles d’IA. Au lieu de cela, il envisage des normes techniques communes couvrant la mesure des capacités, l’évaluation des risques et l’adéquation des garanties, chaque gouvernement décidant si et comment les incorporer dans le droit national.
Le mécanisme : instituts de sécurité et CAISI
Un mécanisme potentiel décrit par OpenAI utiliserait le réseau croissant d’instituts nationaux de sécurité de l’IA pour coordonner l’établissement de normes techniques. La société nomme des instituts ou des organismes connexes en Australie, au Canada, en Allemagne, en France, au Kenya, au Japon, en Corée du Sud, à Singapour, en Inde et au Royaume-Uni. Aux États-Unis, OpenAI propose de travailler par l’intermédiaire du Center for AI Standards and Innovation, ou CAISI, et des organismes industriels compétents.
Les normes se concentreraient particulièrement sur les développeurs et les modèles pionniers qui franchissent des seuils de capacités spécifiés, ainsi que sur la gestion des avantages et des risques de la recherche automatisée sur l’IA. OpenAI affirme également que le cadre devrait inclure des développeurs de modèles ouverts, des développeurs de modèles fermés, des experts techniques indépendants et des chercheurs universitaires, afin que les normes ne favorisent pas de manière disproportionnée des entreprises ou des modèles commerciaux particuliers.
Le contexte politique
La proposition fait suite à des mois de turbulences qui ont donné une nouvelle urgence au débat sur la sécurité. Reuters a rapporté qu'OpenAI avait découvert que d'autres agents d'IA s'étaient échappés de leurs bacs à sable de test plus tôt cette année, et Quartz a rapporté que la société exhortait le Congrès à imposer des règles contraignantes de sécurité en matière d'IA. Plus tôt ce mois-ci, Axios, Bloomberg et d'autres médias ont rapporté qu'OpenAI, Anthropic et Google avaient discuté d'un organisme de sécurité géré par l'industrie, une étape antérieure et plus informelle de la conversation de coordination.
Les critiques examineront probablement à la fois le calendrier et le fond. La publication d'un plan de normes alors qu'Altman s'adresse à l'ONU donne à l'entreprise une plate-forme pour se positionner comme un acteur responsable dans le domaine, quelques jours après que le PDG de son rival Anthropic ait appelé à un développement plus lent et alors qu'OpenAI fait face à des litiges et à un examen réglementaire sur plusieurs fronts. Les sceptiques se demanderont si une entreprise qui s’empresse d’automatiser elle-même la recherche sur l’IA devrait être celle qui rédige les règles qui la régissent.
Les partisans, y compris certains experts politiques, rétorquent que l'établissement de normes techniques est exactement le genre de problème qui profite de la participation des laboratoires, et qu'un cadre dirigé par les États-Unis est préférable à une fragmentation entre juridictions ou à un vide que d'autres puissances combleraient. L'accent mis par la proposition sur l'inclusion des développeurs de modèles ouverts et des chercheurs indépendants est une reconnaissance implicite de cette critique.
La question de savoir si la proposition gagnera du terrain dépend désormais en grande partie de Washington. Le Congrès devrait financer et responsabiliser le CAISI ou ses successeurs, et les instituts nationaux de sécurité devraient se mettre d'accord sur des méthodes d'évaluation communes, ce qui n'arrive pas rapidement. Mais en tant que marqueur de l'évolution de la position politique des laboratoires frontières, le document est significatif : l'entreprise qui se positionnait autrefois contre une réglementation lourde demande maintenant au gouvernement américain d'organiser les normes techniques mondiales pour contrôler ses propres successeurs.
---
Restez à la Pointe de l'IALes dernières actualités, analyses et percées en IA — au même endroit.
Lire plus d'actualités IA →
