Inception Labs bringt Mercury 2.5 auf den Markt und beansprucht 1.107 Token pro Sekunde von einem Diffusions-LLM

Inception Labs hat am Dienstag Mercury 2.5 veröffentlicht, eine neue Version seines kommerziellen Diffusionssprachmodells, das das Unternehmen als das leistungsfähigste Diffusions-LLM auf dem Markt und seines Wissens nach als das größte jemals trainierte Diffusionssprachmodell bezeichnet. Der Ankündigung des Unternehmens zufolge bietet das Modell eine 40-prozentige Steigerung der Intelligenz gegenüber seinem Vorgänger Mercury 2 und behält dabei das gleiche Bereitstellungsprofil mit geringer Latenz und niedrigen Kosten bei, das die Diffusionsarchitektur für Workloads mit hohem Volumen attraktiv gemacht hat.

Das von CEO Stefano Ermon geführte Unternehmen behauptet, dass Mercury 2.5 mit kostenoptimierten Grenzmodellen wie GPT-5.6 Luna (Low), Gemini 3.5 Flash-Lite und Claude Haiku 4.5 vergleichbar sei. Diese Vergleiche werden von Anbietern berichtet und noch nicht durch unabhängige Benchmarks verifiziert, sie positionieren jedoch ein Diffusionsmodell – seit langem eine Forschungskuriosität – als Produktionsalternative zu den etablierten autoregressiven Anbietern. Die neuesten Nachrichten zu KI-Modellen finden Sie in der laufenden Modellberichterstattung von AI Buzz Wire. Neueste Neuigkeiten zum KI-Modell

Geschwindigkeit, Kontext und Preis

Die Schlagzeilen sind aggressiv. Laut Inception Labs generiert Mercury 2.5 1.107 Token pro Sekunde auf weit verbreiteten NVIDIA-GPUs mit einem Kontextfenster von 260.000 Token. Der Preis beträgt 0,20 US-Dollar pro Million Input-Tokens und 0,75 US-Dollar pro Million Output-Tokens. Bei einer Einführungsaktion wird das Modell um 80 % auf 0,04 US-Dollar pro Million Inputs und 0,15 US-Dollar pro Million Outputs reduziert.

Was die Fähigkeiten anbelangt, verfügt das Modell über eine anpassbare Argumentation, die es Entwicklern ermöglicht, Latenz pro Anfrage gegen Tiefe zu tauschen, zusammen mit parallelen Toolaufrufen und einer schemaausgerichteten JSON-Ausgabe für eine strukturierte Generierung. Das Unternehmen betrachtet die Veröffentlichung als das erste Ergebnis einer Schulungsschleife, die durch Produktionstelemetrie gesteuert wird: Seit der Einführung von Mercury 2 haben Tausende von Entwicklern damit gebaut, Dutzende von Unternehmen haben es bereitgestellt, und die Nutzung ist um mehr als eine Größenordnung gestiegen.

Warum Diffusionsmodelle Text schneller generieren

Mainstream-LLMs von OpenAI, Google und Anthropic sind autoregressiv: Sie generieren Text jeweils einen Token, wobei jeder Token von allem abhängig ist, was zuvor generiert wurde. Diese sequentielle Abhängigkeit erschwert die Generierungsgeschwindigkeit. Diffusionssprachmodelle beginnen stattdessen mit einem Rauschblock und verfeinern iterativ alle Token parallel, was einen weitaus höheren Durchsatz auf herkömmlicher GPU-Hardware ermöglicht, sobald das Modell auf saubere Konvergenz trainiert ist.

Der Kompromiss bestand in der Vergangenheit in der Qualität: Diffusionsmodelle hinkten den autoregressiven Modellen in Bezug auf Argumentations- und Befehlsfolge-Benchmarks hinterher. Die Kernaussage von Inception Labs – und die Behauptung, die Mercury 2.5 zugrunde liegt – besteht darin, dass sich diese Lücke bis zu einem Punkt verringert hat, an dem die Diffusion auf der Achse gewinnt, die die meisten Kunden tatsächlich spüren: Latenz und Kosten bei Produktionsvolumen.

Produktionsansprüche von frühen Kunden

Die Ankündigung stützt sich stark auf Kundenbereitstellungen und nicht auf Benchmark-Tabellen. OpenCall, das KI-Telefonagenten für Live-Kundenanrufe entwickelt, berichtete, dass sich die durchschnittliche Antwortlatenz des Modells durch den Wechsel zu Mercury auf etwa 170 Millisekunden erhöhte. Oliver Silverstein, Mitbegründer und CEO von OpenCall, sagte, die P99-Reaktionszeit des Unternehmens sei von mehreren Minuten auf eine Sekunde gesunken und ihr Median von 0,4 Sekunden auf unter 0,2 Sekunden – Werte, die er als deutlich schneller bezeichnete als alle anderen Anbieter, die das Unternehmen getestet hatte, auch mit aktivierter Argumentation.

Augment Code, ein Hersteller von KI-Codierungsassistenten, nutzt Mercury für Kontextkomprimierung, Modellrouting und MCP-Tool-Suche. Laut Inception Labs wurde durch die Verlagerung der Komprimierungs-Workloads auf Mercury die Latenz dieses Schritts um 82 % von etwa 150 Sekunden auf 27 Sekunden reduziert und die Kosten um 90 % gesenkt, während die Qualität erhalten blieb. Der Anwendungsfall zeigt, wo die Wirtschaftlichkeit greift: Codierungsagenten führen rund um jede primäre Generation viele kleine unterstützende Modellaufrufe durch, und bei diesen Aufrufen erhöhen sich Latenz und Kosten.

NVIDIA, auf dessen Hardware das Modell läuft, äußerte sich ebenfalls zu Wort. Shruti Koparkar, leitender Produktmanager bei NVIDIAs Accelerated Computing Group, sagte, Inception habe auf der NVIDIA-KI-Infrastruktur diffusionsbasierte Sprachmodelle weiterentwickelt und die Qualitätssteigerung von Mercury 2.5 mit anhaltenden Geschwindigkeiten zeige, wie schnell neue Architekturen zu produktionsbereiten Systemen heranreifen können.

Vorschau auf Mercury Voice und Mercury Router

Neben dem Modell kündigte Inception Labs Vorschauen auf zwei neue Produkte an. Mercury Voice ist ein Diffusions-LLM, das für Sprachagenten mit den engsten Latenzbudgets optimiert ist und eine Zeit bis zum ersten Token von weniger als 170 Millisekunden bietet. Mercury Router verwendet ein Diffusionsmodell, um eingehende Eingabeaufforderungen zu verstehen und sie an das Modell weiterzuleiten – offen oder geschlossen –, das die beste Mischung aus Qualität, Geschwindigkeit und Kosten bietet, und positioniert Inception damit sowohl über seinen Mitbewerbern als auch als einen von ihnen.

Mercury 2.5 ist über die eigene API von Inception sowie über Baseten und OpenRouter verfügbar. Unternehmensbereitstellungen bieten dedizierte Kapazität, automatische Skalierung, Compliance-Kontrollen und konfigurierbare Datenaufbewahrung. Das Unternehmen bietet Entwicklern, die die API testen, 100 Millionen kostenlose Token an.

Das Unternehmen gab außerdem bekannt, dass es bereits mit der Schulung seines nächsten Modells begonnen hat – dem bislang größten, dessen Veröffentlichung in den kommenden Monaten geplant ist –, das es als Leistungssprung beschreibt, der weder die Diffusionsgeschwindigkeit noch die Token-Effizienz einbüßt. Wenn diese Behauptung zutrifft, wird der Druck auf autoregressive etablierte Unternehmen zuerst in den Rohstoffebenen des Marktes zu spüren sein, wo Preis und Latenz über die meisten Verträge entscheiden.

Der KI einen Schritt voraus sein

Verfolgen Sie die neuesten KI-Entwicklungen und aktuelle Nachrichten zu künstlicher Intelligenz, während neue Modellarchitekturen in Produktion gehen.

Weitere KI-Neuigkeiten lesen →