Un groupe de 25 médaillés Fields – dont chaque signataire initial est lauréat de la plus haute distinction en mathématiques – a publié une déclaration officielle avertissant que la course à la présentation de l'intelligence artificielle sur des critères mathématiques porte préjudice à la fois à la science mathématique et à la communauté qui la soutient. La déclaration, intitulée « Un grave désalignement de l'IA en mathématiques », a été mise en ligne vendredi et parmi ses premiers signataires se trouve Terence Tao, l'un des mathématiciens les plus influents de sa génération.
La déclaration est publiée sur mathandai.org et, en une journée, elle a rassemblé plus de 1 300 soutiens supplémentaires provenant d'universités et d'instituts de recherche du monde entier, selon la liste publique des signataires du site. Tao a confirmé sa participation dans un article sur son blog personnel, écrivant qu'il était « fier de faire partie de la liste des 25 signataires initiaux – tous médaillés Fields ». Pour quiconque suit les derniers développements de l'IA, l'intervention constitue l'une des critiques les plus pointues jamais formulées au sein de l'élite mathématique sur la façon dont les laboratoires d'IA mesurent – et font connaître – les capacités de leurs modèles. Il a dominé les discussions sur Hacker News vendredi, suscitant des centaines de commentaires.
Ce que dit la Déclaration
Les signataires ne contestent pas que les systèmes d’IA sont devenus remarquablement performants. "Au cours des derniers mois, les capacités mathématiques des LLM se sont considérablement améliorées, au point qu'ils peuvent résoudre des problèmes majeurs en suspens dans de nombreux domaines mathématiques", indique la déclaration. L’objection porte sur ce qui se passera ensuite : les entreprises d’IA utilisant ces solutions comme références concurrentielles, ce qui, selon les auteurs, est « préjudiciable à la science mathématique et à la communauté mathématique ».
L’affirmation fondamentale est claire : « Les objectifs des sociétés d’IA et ceux de la communauté mathématique sont gravement mal alignés. »
La déclaration soutient que la résolution de problèmes célèbres a traditionnellement servi de signe d’une nouvelle vision – le début d’un long processus commun de discussions, de discussions, de simplifications et d’éventuelles rédactions de manuels – plutôt que de fin en soi. "La résolution de problèmes n'est qu'un outil et un proxy pour atteindre l'objectif principal de compréhension et de compréhension conceptuelles", écrivent les auteurs. "Oublier cela dans le monde de l'IA pourrait retourner l'outil contre son objectif principal."
La phrase la plus citée illustre bien l’inquiétude : « la production massive, à un rythme de plus en plus rapide, de déclarations « vrai/faux » pourrait détruire un terrain fertile au lieu de donner vie à de nouvelles idées. »
Attribution, plagiat et annonces précipitées
Les signataires soulèvent également un grief pratique. "Souvent, ces solutions sont annoncées à la hâte, ne laissant pas le temps de les rédiger correctement, d'isoler les nouvelles méthodes et idées et de citer les travaux antérieurs pertinents d'autrui", indique la déclaration. "Comme dans toutes les professions créatives, cela soulève de graves questions d'attribution et de plagiat."
Les auteurs mettent en garde contre un effet de second ordre : sans « des mathématiciens volontaires qui doivent veiller à leur développement et à leur intégration dans le canon mathématique », les idées conçues par l’IA ne seraient jamais pleinement développées et « la chaîne de transmission humaine cruciale entre mathématiciens serait perdue ».
Une démonstration inhabituelle d'urgence
Le processus lui-même était inhabituel. Tao a reconnu sur son blog que la déclaration était le fruit de discussions entre les signataires « au cours de la semaine dernière », et s'est excusé de ne pas avoir mené un processus plus consultatif. "Nous avons décidé que l'urgence de la situation était telle que nous devions publier une déclaration le plus tôt possible", a-t-il écrit.
La déclaration suit le modèle de la précédente déclaration de Leyde et les organisateurs invitent explicitement d'autres signatures. Tao a également attiré l'attention des lecteurs sur la récente couverture de la déclaration par The Economist. Les 25 premiers signataires étaient tous médaillés Fields, un signal délibéré : les chercheurs en mathématiques les plus décorés parlent d'une seule voix. La liste plus large comprend déjà des mathématiciens du MIT, de l’ETH Zurich, de l’Institut Max Planck, de Northwestern, de NYU et de dizaines d’autres institutions.
Un avertissement au-delà des mathématiques
Bien que cette affirmation soit ancrée dans les mathématiques, les auteurs la présentent comme un modèle pour un problème beaucoup plus vaste. "Nous assistons à une menace générale pour le travail intellectuel, avec un décalage entre le résultat de l'utilisation de l'IA et son objectif initial", peut-on lire dans la déclaration.
Cet argument trouvera un écho bien au-delà des départements de mathématiques. Dans de nombreuses professions, notent les auteurs, des années de formation ont traditionnellement servi non seulement à produire des réponses définitives, mais aussi à développer la compréhension et la capacité de formuler de nouvelles questions. À mesure que les systèmes d’IA deviennent capables de produire directement les résultats d’un tel travail, « ces objectifs cessent de s’aligner ». La déclaration décrit les problèmes auxquels sont confrontés les mathématiciens comme « similaires aux problèmes auxquels sont confrontées d'autres professions scientifiques et créatives, et indique les problèmes auxquels l'humanité toute entière pourrait être confrontée ».
Ce n'est pas un rejet de l'IA
Notamment, la déclaration n’est pas un appel à arrêter le développement de l’IA. "L'IA offre le potentiel d'améliorer et d'accélérer une véritable étude et compréhension des mathématiques", écrivent les auteurs, tout en concédant que "les mathématiques en tant que profession devront s'adapter".
L’intervention arrive à un moment chargé. Les affirmations selon lesquelles les systèmes d'IA auraient résolu ou réalisé des progrès majeurs sur des problèmes ouverts célèbres ont fait à plusieurs reprises la une des journaux, et plus tôt cette année, un différend distinct sur une affirmation d'OpenAI liée au problème Navier-Stokes a montré à quel point de telles annonces peuvent devenir controversées. La déclaration des médaillés Fields est en fait la réponse la plus importante de la communauté mathématique à cette dynamique : une demande pour que les laboratoires d'IA cessent de traiter des problèmes ouverts vieux de plusieurs siècles comme des entrées dans le classement.
Il reste à voir si les entreprises d’IA réagiront – en consultant des mathématiciens avant les annonces, en créditant les travaux antérieurs ou en repensant les références. Ce qui est déjà clair, c’est que ceux qui connaissent le mieux ces problèmes ne regardent plus de côté.
