Inception Labs lance Mercury 2.5, réclamant 1 107 jetons par seconde à partir d'un LLM de diffusion

Inception Labs a publié mardi Mercury 2.5, une nouvelle version de son modèle de langage de diffusion commerciale que la société décrit comme le LLM de diffusion le plus performant du marché et, à sa connaissance, le plus grand modèle de langage de diffusion jamais formé. Selon l'annonce de la société, le modèle offre une intelligence accrue de 40 % par rapport à son prédécesseur, Mercury 2, tout en conservant le même profil de service à faible latence et à faible coût qui a rendu l'architecture de diffusion attrayante pour les charges de travail à volume élevé.

La société, dirigée par le PDG Stefano Ermon, affirme que Mercury 2.5 est comparable aux modèles frontières à coût optimisé, notamment GPT-5.6 Luna (faible), Gemini 3.5 Flash-Lite et Claude Haiku 4.5. Ces comparaisons sont rapportées par les fournisseurs et n’ont pas encore été vérifiées par des références indépendantes, mais elles positionnent un modèle de diffusion – longtemps une curiosité de recherche – comme une alternative de production aux modèles autorégressifs en place. Pour les dernières nouvelles sur les modèles d'IA, suivez la couverture continue des modèles d'AI Buzz Wire. dernières nouvelles sur les modèles d'IA

Vitesse, contexte et prix

Les chiffres des gros titres sont agressifs. Inception Labs indique que Mercury 2.5 génère 1 107 jetons par seconde sur les GPU NVIDIA largement disponibles, avec une fenêtre contextuelle de 260 000 jetons. Le prix est fixé à 0,20 $ par million de jetons d'entrée et 0,75 $ par million de jetons de sortie, avec une promotion de lancement réduisant le modèle de 80 % à 0,04 $ par million d'entrée et 0,15 $ par million de sortie.

Du côté des capacités, le modèle est livré avec un raisonnement réglable – permettant aux développeurs d'échanger la latence contre de la profondeur sur une base par demande – ainsi que des appels d'outils parallèles et une sortie JSON alignée sur le schéma pour une génération structurée. L'entreprise présente cette version comme le premier résultat d'une boucle de formation pilotée par la télémétrie de production : depuis le lancement de Mercury 2, des milliers de développeurs l'ont utilisé, des dizaines d'entreprises l'ont déployé et son utilisation a augmenté de plus d'un ordre de grandeur.

Pourquoi les modèles de diffusion génèrent du texte plus rapidement

Les LLM grand public d'OpenAI, Google et Anthropic sont autorégressifs : ils génèrent du texte un jeton à la fois, chaque jeton étant conditionné à tout ce qui a été généré avant lui. Cette dépendance séquentielle met un plancher dur sous la vitesse de génération. Les modèles de langage de diffusion commencent plutôt par un bloc de bruit et affinent de manière itérative tous les jetons en parallèle, ce qui permet un débit bien plus élevé sur le matériel GPU conventionnel une fois que le modèle est entraîné à converger proprement.

Historiquement, le compromis a été la qualité : les modèles de diffusion ont été à la traîne des modèles autorégressifs en termes de raisonnement et de suivi des instructions. Le principal pari d'Inception Labs - et l'affirmation qui sous-tend Mercury 2.5 - est que cet écart s'est réduit au point où la diffusion gagne sur l'axe que la plupart des clients ressentent réellement : la latence et le coût par rapport au volume de production.

Réclamations de production des premiers clients

L'annonce s'appuie fortement sur les déploiements clients plutôt que sur les tableaux de référence. OpenCall, qui crée des agents téléphoniques IA pour les appels clients en direct, a signalé que le passage à Mercury a porté la latence de réponse médiane de son modèle à environ 170 millisecondes. Oliver Silverstein, co-fondateur et PDG d'OpenCall, a déclaré que le temps de réponse P99 de la société était passé de plusieurs minutes à une seconde, et sa médiane de 0,4 seconde à moins de 0,2 – des chiffres qu'il a décrit comme nettement plus rapides que tout autre fournisseur que la société avait testé, y compris avec le raisonnement activé.

Augment Code, un créateur d'assistants de codage IA, utilise Mercury pour le compactage du contexte, le routage de modèles et la recherche d'outils MCP. Selon Inception Labs, le déplacement des charges de travail de compactage vers Mercury a réduit la latence de cette étape de 82 %, passant d'environ 150 secondes à 27 secondes, et a réduit son coût de 90 % tout en maintenant la qualité. Le cas d'utilisation illustre où l'économie pèse : les agents de codage effectuent de nombreux petits appels de modèles de support autour de chaque génération principale, et la latence et les coûts s'aggravent entre ces appels.

NVIDIA, dont le matériel exécute le modèle, a également pesé. Shruti Koparkar, responsable principal des produits au sein du groupe Accelerated Computing de NVIDIA, a déclaré qu'Inception disposait de modèles de langage avancés basés sur la diffusion sur l'infrastructure NVIDIA AI, et que l'amélioration de la qualité de Mercury 2.5 avec des vitesses soutenues montre à quelle vitesse les nouvelles architectures peuvent devenir des systèmes prêts pour la production.

Aperçus de Mercury Voice et du routeur Mercury

Parallèlement au modèle, Inception Labs a annoncé des avant-premières de deux nouveaux produits. Mercury Voice est un LLM de diffusion optimisé pour les agents vocaux avec les budgets de latence les plus serrés, annonçant un temps d'obtention du premier jeton inférieur à 170 millisecondes. Mercury Router utilise un modèle de diffusion pour comprendre les invites entrantes et les acheminer vers le modèle – ouvert ou fermé – offrant le meilleur mélange de qualité, de vitesse et de coût, positionnant Inception comme une couche au-dessus de ses concurrents ainsi que l'un d'entre eux.

Mercury 2.5 est disponible via la propre API d'Inception ainsi que via Baseten et OpenRouter. Les déploiements d'entreprise ajoutent une capacité dédiée, une mise à l'échelle automatique, des contrôles de conformité et une conservation des données configurable. La société offre 100 millions de jetons gratuits aux développeurs essayant l'API.

La société a également déclaré qu'elle avait déjà commencé à former son prochain modèle – le plus grand à ce jour, dont la sortie est prévue dans les mois à venir – qu'elle décrit comme un bond en avant en termes de capacité qui ne renonce en rien à la vitesse de diffusion ou à l'efficacité symbolique. Si cette affirmation se vérifie, la pression sur les opérateurs historiques autorégressifs se fera d’abord sentir sur les niveaux de matières premières du marché, où le prix et la latence déterminent la plupart des contrats.

Gardez une longueur d'avance sur l'IA

Suivez les derniers développements de l'IA et les dernières nouvelles en matière d'intelligence artificielle alors que de nouvelles architectures de modèles entrent en production.

Lire plus d'actualités sur l'IA →