Le groupe AI Frontiers de Microsoft Research – l'unité d'environ 50 personnes derrière le cadre d'orchestration d'agents AutoGen et l'agent d'utilisation informatique Fara – a atteint sa fin, selon un récit sincère publié cette semaine par le chercheur en apprentissage automatique John Langford, qui a organisé le groupe au sein de MSR en 2023. Langford écrit que l'équipe a été absorbée par Microsoft AI début septembre et que, dans la pratique, la réorganisation n'a laissé aucune place à son programme de recherche. Le message a touché une corde sensible : il a dépassé Hacker News avec plus de 300 points en quelques heures, et il offre l'un des récits d'initiés les plus détaillés à ce jour sur la façon dont le passage de l'industrie de la recherche à la mise à l'échelle se déroule au sein d'un grand laboratoire. Nous suivons les conséquences dans notre couverture de l'actualité économique sur l'IA.

Ce que les frontières de l'IA ont construit

Langford retrace l'origine du groupe dans les mois qui ont suivi la sortie de ChatGPT, lorsqu'il a conclu qu'une recherche significative sur l'IA au sein de Microsoft nécessitait plus de structure que le modèle traditionnel de MSR. "Le niveau de soutien et de concentration des autres groupes de recherche était suffisamment important pour que même avec une idée intelligente poursuivie par une seule personne, elle risquait d'arriver tardivement et peu convaincante", écrit-il, expliquant qu'un chercheur solo ne pouvait pas assembler des bases de référence suffisamment solides pour prouver qu'une idée valait la peine d'être poursuivie.

Langford et ses collègues partageant les mêmes idées ont donc organisé AI Frontiers comme une sous-organisation d'environ 50 personnes, délibérément structurée ni de haut en bas ni de bas en haut, mais « quelque part au milieu du désordre ». Les résultats les plus visibles du groupe ont été appliqués : AutoGen, le framework open source largement utilisé de Microsoft pour orchestrer plusieurs agents d'IA, et Fara, un agent informatique. Selon Langford, « une grande partie du travail de l'AIF consistait à trouver comment faire fonctionner les agents ».

La recherche fondamentale du groupe était moins visible. Un contingent new-yorkais a poursuivi ce que Langford décrit comme de nouvelles capacités de base : un objectif "Next Latent" qui permet aux modèles d'extrapoler, un optimiseur appelé Dion3 qui améliore Muon et un "Transformateur de bande passante complète" conçu pour rendre les modèles considérablement plus puissants grâce à la récursion.

Le groupe a également tenté de partager l'infrastructure avec le reste de Microsoft Research, en maintenant un monorepo ouvert à tous les chercheurs de MSR. Ce référentiel comprenait une base de code de pré-formation à grande échelle que Langford a présentée lors de la conférence COLM du mois dernier - un détail qu'il qualifie de mineur, mais qu'il utilise pour souligner les efforts nécessaires à la construction d'un pipeline de formation de modèles fonctionnel, notant que trois autres équipes internes tentaient la même chose sans une base commune.

La réorganisation de septembre

Début septembre, Microsoft a intégré AI Frontiers dans Microsoft AI, la division de produits beaucoup plus grande qui héberge les efforts de l'entreprise en matière d'IA pour les consommateurs et les entreprises. Sur le papier, concède Langford, cette décision était logique : la combinaison de deux organisations d’IA concentre les efforts, et chacune avait des atouts qui manquaient à l’autre.

En pratique, écrit-il, la fusion a échoué sur le plan philosophique. "La philosophie de base est la mise à l'échelle, et non la recherche agressive", déclare Langford à propos de l'ancien leadership d'Inflection de Microsoft AI - une référence à l'équipe qui a rejoint Microsoft depuis la startup Inflection AI, qui façonne désormais l'orientation de la division sous sa direction. Sa définition des résultats économiques qui en résultent est brutale : des modèles plus grands produisent de meilleures prévisions, et "les retours d'échelle sont bien plus prévisibles que les retours de la recherche", de sorte qu'une organisation axée sur la mise à l'échelle se concentre d'abord sur l'acquisition et le raffinement des données plutôt que sur de nouvelles méthodes.

Cette orientation, affirme-t-il, est « assez éloignée » du travail fondamental effectué par AI Frontiers – et au-delà de l’inadéquation philosophique, il dit que l’accueil a été, au mieux, tiède. "Il y avait de nombreuses preuves qu'ils ne voulaient tout simplement pas vraiment de nous", écrit Langford, qualifiant la situation de "difficile à vivre". Il n’épargne pas sa propre vision du compromis, qualifiant l’approche de mise à l’échelle uniquement de mal orientée, bien que l’argument complet s’étende au-delà du point qu’il expose explicitement dans le message.

Recherche vs mise à l'échelle, au-delà de Microsoft

L’essai s’inscrit dans un débat plus large au sein de l’industrie sur la question de savoir si les laboratoires pionniers peuvent soutenir de véritables organisations de recherche tout en respectant les délais de production. Microsoft n'est pas le seul à consolider la recherche sur l'IA sous un leadership axé sur les produits, mais le récit de Langford est inhabituellement précis sur les mécanismes : un petit groupe productif qui n'a reçu ni mandat ni accueil après une réorganisation d'entreprise, avec ses contributions d'infrastructure tranquillement absorbées.

La discussion sur Hacker News, où le message a suscité des centaines de commentaires, s'est largement centrée sur cette tension – si des autopsies comme celle-ci décrivent une maturation inévitable de la recherche sur l'IA en entreprise, ou une erreur stratégique dans laquelle les laboratoires échangent des avantages méthodologiques durables contre des gains d'échelle prévisibles. Les commentateurs ont également souligné l'ironie du fait qu'AutoGen, l'un des projets phares d'AI Frontiers, a contribué à définir la catégorie d'orchestration d'agents qui domine désormais les feuilles de route de l'IA des entreprises.

Pour Microsoft, cet épisode constitue une atteinte à la réputation ayant des implications pratiques. La société a orienté sa stratégie d'IA sur la cadence d'expédition de Microsoft AI, et Langford ne prétend pas que l'organisation fusionnée créera des produits pires. Sa préoccupation est plus restreinte et plus pointue : le pipeline d’idées nouvelles – les personnes, les infrastructures, la tolérance pour les approches non éprouvées – est exactement ce dont une division axée sur la priorité a le moins besoin, jusqu’au jour où elle en aura besoin.

Ni le message de Langford ni la réorganisation qu'il décrit ne changent ce que les utilisateurs voient aujourd'hui, mais ils clarifient la manière dont Microsoft trie désormais ses paris sur l'IA. La recherche qui peut être transformée à grande échelle est à la mode ; les recherches qui pourraient changer la signification de l’échelle sont, au mieux, en probation. Comme Langford le dit dans le titre de l'article, c'est la fin des frontières de l'IA – et un point de données dans le débat sur l'utilité de la recherche sur l'IA en entreprise.

Gardez une longueur d'avance sur l'IA

Le métier de l’IA est en train d’être réécrit en temps réel, et les décisions prises dans des laboratoires comme celui de Microsoft façonnent les outils dont tout le monde hérite. Suivez chaque développement dans notre Couverture de l'actualité sur l'IA.

Lire plus d'actualités sur l'IA →