OpenAI a annoncé lundi la création d'un nouveau groupe consultatif indépendant sur les mathématiques et l'intelligence artificielle, hébergé à l'Institute for Advanced Study (IAS) de Princeton, dans le New Jersey, et a révélé que le même modèle interne derrière son résultat contesté de Navier-Stokes a, selon ses propres calculs, résolu plus de 100 problèmes ouverts supplémentaires dans la plupart des domaines des mathématiques.
Le groupe est destiné à donner aux mathématiciens un canal formel vers la recherche mathématique de l'entreprise à un moment où la communauté des chercheurs est ouvertement frustrée par la manière dont ces résultats sont publiés. "Ce groupe servira de pont vers la communauté mathématique et le grand public, donnant aux mathématiciens une voix sur la façon dont nous allons de l'avant", a déclaré OpenAI dans son annonce, citée par TechCrunch. Pour plus de contexte sur cette histoire, consultez notre couverture de l'industrie de l'IA.
Une réponse au contrecoup Navier-Stokes
La création du groupe consultatif fait suite à la publication soudaine d'une prétendue solution au problème du Prix Navier-Stokes du Millénaire, un résultat qui a stupéfié les mathématiciens à la fois par son ambition et par le rythme de sa publication. En pratique, le nouveau groupe d'OpenAI jouera principalement un rôle consultatif : évaluer l'importance des nouveaux résultats et coordonner leur publication, afin que les prétendues avancées arrivent avec le contexte et l'examen d'experts plutôt que sous forme d'annonces surprises.
L’examen minutieux n’a pas cessé. Scientific American a publié lundi un article demandant « OpenAI a-t-il résolu le mauvais problème de Navier-Stokes ? » – un reflet de l’incertitude qui entoure encore cette affirmation, même parmi les journalistes scientifiques qui la suivent de près.
De nombreux mathématiciens éminents ont plus largement contesté le rythme effréné des récentes affirmations. Plus tôt ce mois-ci, 25 mathématiciens lauréats de la médaille Fields ont signé une lettre ouverte affirmant que les laboratoires d'IA menacent le travail intellectuel des mathématiciens alors qu'ils rivalisent les uns avec les autres pour trouver des solutions à des problèmes célèbres. Le problème n’est pas que les problèmes soient résolus, mais plutôt qu’une culture séculaire de publication minutieuse et vérifiée soit écrasée par les laboratoires qui courent pour faire la une des journaux.
Pouvoir consultatif — Avec des limites strictes
La structure du groupe tente d'équilibrer l'indépendance avec l'intention claire d'OpenAI de garder le contrôle de son programme de recherche. Les membres ne seront pas payés. Ils peuvent offrir des conseils non sollicités, rendre publics leurs points de vue et contrôler leurs propres membres – des dispositions qui confèrent à l’organisme une certaine indépendance par rapport à l’entreprise qui l’a créé.
Mais le groupe n’a aucun pouvoir pour ralentir quoi que ce soit. Comme le dit le message d'OpenAI, "le groupe ne sera pas chargé de nous conseiller sur la manière de rythmer nos progrès internes en mathématiques".
L’Institute for Advanced Study a insisté sur le même point dans sa propre annonce. "Même si nous donnons des conseils, nous n'avons aucun pouvoir de décision dans aucune entreprise d'IA, et la responsabilité des décisions prises par toute entreprise incombera à cette entreprise", a déclaré l'institut dans un communiqué.
Cette division du travail – des conseils sans autorité – est le compromis qui a rendu le partenariat possible. L'IAS obtient une place à la table des mathématiques ; OpenAI garde le volant.
Neuf membres, peu de chevauchement avec les critiques
Neuf mathématiciens éminents ont été nommés membres initiaux du groupe. Notamment, un seul d'entre eux – Camillo De Lellis de l'IAS – a également signé la lettre des médaillés Fields plus tôt ce mois-ci, signe qu'OpenAI n'a pas simplement recruté ses critiques les plus virulents dans la salle.
Que cela soit important dépend de ce que le groupe fait avec sa plateforme. Ses membres peuvent publiquement être en désaccord avec l’entreprise, et le design les y invite. Un organisme consultatif qui n’exprimerait jamais de dissidence réglerait rapidement la question de sa valeur.
Pourquoi c'est important
Cette annonce constitue le dernier point d’éclair dans un débat sur la manière dont les laboratoires d’IA devraient traiter les affirmations scientifiques générées par les machines. Un modèle prétendant résoudre un problème du Prix du Millénaire est une affirmation extraordinaire, et la principale plainte de la communauté mathématique est d'ordre procédural : des résultats de cette ampleur méritent une vérification et une publication mesurée, et non des annonces de presse.
La vérification est le véritable goulot d’étranglement. Une preuve qui prend des jours à produire sur un modèle peut prendre des mois à des experts humains pour la vérifier, et les mathématiques ne disposent pas d'infrastructure d'examen par les pairs conçue pour cette asymétrie. C’est précisément le problème pour lequel le mandat du groupe – évaluer l’importance et coordonner la libération – est censé résoudre, du moins en principe.
La décision d'OpenAI reconnaît ces critiques sans pour autant concéder le contrôle. Le groupe peut conférer une légitimité, coordonner la manière dont les résultats sont présentés et offrir une plate-forme publique aux tiers, mais l’entreprise conserve la pleine autorité sur les objectifs de ses modèles et sur la rapidité avec laquelle ils le font. L’affirmation de plus de 100 problèmes résolus repose désormais sur un organisme qui peut déterminer la manière dont ils sont annoncés, et non leur réalisation.
Que les mathématiciens traitent le groupe consultatif comme un contrôle significatif ou comme une feuille de vigne dépendra de ce qui se passera ensuite : si la prochaine affirmation majeure arrivera avec l'imprimatur du groupe et, plus important encore, avec des preuves que la communauté peut réellement vérifier.
---
Restez à la Pointe de l'IALes dernières actualités, analyses et percées en IA — au même endroit.
Lire plus d'actualités IA →
