OpenAI discute avec plusieurs évaluateurs indépendants pour aider à augmenter le nombre d'entreprises possédant une expertise en matière de sécurité de l'IA aux frontières et pouvant fournir des évaluations tierces efficaces, a déclaré la société dans un article de blog publié mardi 22 septembre, tel que rapporté par PYMNTS.

Le message présente les priorités et les principes proposés par OpenAI pour une surveillance efficace par des tiers – un cadre qui, selon lui, devrait s'appliquer à tous les laboratoires d'IA de pointe alors qu'ils forment, évaluent et déploient des modèles de plus en plus performants. L’annonce arrive au milieu d’un mois inhabituellement chargé pour la politique de sécurité de l’IA, et elle se lit à la fois comme une concession aux critiques et comme une tentative de façonner les règles avant que les gouvernements ne les écrivent. Pour tous ceux qui suivent les dernières nouvelles sur l'IA (https://aibuzzwire.news), il s'agit de la dernière étape d'une compétition qui dure depuis des semaines entre les laboratoires, leurs critiques et les régulateurs pour savoir qui doit vérifier que les modèles frontières sont sûrs.

Ce que propose OpenAI

"Nous nous engageons à soutenir les évaluateurs indépendants et à établir des normes internationales plus claires et partagées – à la fois par le biais de lois futures et d'initiatives de gouvernance privée – pour des évaluations tierces efficaces", a déclaré OpenAI dans le message, selon PYMNTS.

Le principal problème décrit par OpenAI est une défaillance du marché : il y a tout simplement trop peu d’organisations possédant la profondeur technique nécessaire pour auditer un modèle frontière. Une évaluation significative de la sécurité nécessite l’accès à des systèmes inédits, une expertise dans des domaines allant de la cybersécurité à la biosécurité, et l’indépendance institutionnelle nécessaire pour publier des découvertes indésirables. En recrutant et en soutenant plusieurs évaluateurs plutôt qu’un seul auditeur privilégié, OpenAI affirme vouloir construire un écosystème dans lequel l’évaluation par des tiers fait partie intégrante du déploiement de systèmes frontières – et non un exercice ponctuel de relations publiques.

L'entreprise n'a pas nommé les évaluateurs avec lesquels elle discute, et il reste à voir si les accords qui en résulteront donneront aux évaluateurs l'accès, l'indépendance financière et les droits de publication que les chercheurs en sécurité considèrent comme significatifs.

Une semaine de coup de fouet sur la politique en matière d'IA

La proposition arrive au milieu d’une séquence rapide de développements politiques qui ont défini le débat sur l’IA de septembre :

  • Lundi 21 septembre : OpenAI a appelé les États-Unis à diriger un effort international visant à développer des normes techniques mondiales pour l'IA de pointe, y compris l'auto-amélioration récursive, le point auquel les systèmes d'IA s'améliorent eux-mêmes. L'entreprise a averti que le développement d'une IA entièrement autonome pourrait dépasser la capacité des humains à la comprendre et à la contrôler, et a déclaré que les décisions sur l'opportunité et la manière de procéder devaient être prises maintenant.
  • Vendredi 18 septembre : Le gouverneur de Californie, Gavin Newsom, a signé un décret convoquant des experts nationaux pour renforcer les lois de l'État sur la sécurité de l'IA, visant explicitement à accélérer la mise en œuvre d'une nouvelle surveillance par des tiers des risques de sûreté et de sécurité dans les systèmes d'IA.
  • Samedi 19 septembre : Le président Donald Trump a rejeté les préoccupations de sécurité de l'industrie dans un article de Truth Social, en écrivant : "Nous n'entraverons ni n'étoufferons en aucun cas la croissance de cette incroyable industrie. L'IA est la prochaine révolution industrielle, ou Internet, mais elle sera encore plus grande et aura plus d'impact, peut-être jusqu'à 25 % du PIB de notre pays."

Comme nous l'avons signalé plus tôt cette semaine, la proposition de normes d'OpenAI dirigée par les États-Unis a marqué un changement radical pour une entreprise qui a passé des années à résister à une surveillance contraignante – et les nouveaux principes d'évaluation par des tiers étendent cette position sur le front de la gouvernance privée.

Le problème de l'indépendance

L'adoption par OpenAI de organismes de surveillance externes fait suite à une proposition parallèle de son principal rival. Environ une semaine plus tôt, le PDG d'Anthropic, Dario Amodei, a publié un essai proposant un plan de sécurité de l'IA construit autour d'évaluateurs indépendants intégrés au sein des principales sociétés d'IA, d'une coordination entre les entreprises des pays démocratiques et, éventuellement, d'un accord international incluant la Chine.

Les deux propositions ont immédiatement suscité le scepticisme des experts. CNBC a rapporté qu'une coalition de plus de 100 experts en IA réclame l'indépendance et la transparence de la part d'Anthropic, d'OpenAI et d'autres laboratoires de modèles de fondation menant des évaluations, avertissant que les évaluateurs intégrés - ou payés par - les entreprises qu'ils auditent sont confrontés à des conflits d'intérêts inévitables. Les organismes de surveillance, soutenus par le pionnier de l'IA Geoffrey Hinton, ont fait pression sur les deux entreprises pour obtenir des détails sur leurs plans de sécurité, et les commentateurs ont signalé la porte tournante entre les organismes d'évaluation de la sécurité de l'IA et les laboratoires eux-mêmes : les personnes qui notent les devoirs de sécurité peuvent aussi être ceux qui les ont rédigés.

Cette tension est au cœur du débat que le nouveau message d’OpenAI tente de désamorcer. La réponse de l'entreprise – davantage d'évaluateurs, des normes internationales partagées et une surveillance renforcée par le biais de lois futures et d'initiatives privées – est un cadre, pas encore une garantie. Les critiques souligneront que les laboratoires qui proposent les règles sont les mêmes laboratoires qui y sont soumis, et que la gouvernance auto-définie a historiquement favorisé les entreprises qui les élaborent.

Pourquoi c'est important

Les prochains modèles frontières sont déjà en formation et la fenêtre permettant de concevoir une surveillance avant leur déploiement se ferme. Si le recrutement d'évaluateurs indépendants par OpenAI produit des auditeurs bénéficiant d'un réel accès et d'une réelle indépendance, cela pourrait devenir le modèle de la manière dont l'IA de pointe est gouvernée dans le monde entier – un régime privé que les législateurs de Washington, de Bruxelles et d'ailleurs n'ont jusqu'à présent pas réussi à construire eux-mêmes. S’il produit des cabinets de conseil affiliés aux NDA, cela confirmera la pire lecture des sceptiques.

Quoi qu’il en soit, le fait qu’OpenAI soit en concurrence avec Anthropic pour savoir qui peut proposer le régime de surveillance le plus crédible est en soi nouveau. Il y a un an, les laboratoires étaient unis pour l’essentiel dans leur opposition à la réglementation. Maintenant, ils se précipitent pour le définir.

---

Gardez une longueur d'avance sur l'IA

Recevez les dernières actualités, analyses et avancées en matière d'IA, le tout en un seul endroit.

Lire plus d'actualités sur l'IA →