Lunedì Inception Labs ha presentato Mercury 3, descrivendolo come il modello di linguaggio di grandi dimensioni basato sulla diffusione più capace rilasciato fino ad oggi. Secondo l'annuncio dell'azienda, Mercury 3 supera i modelli di frontiera ottimizzati per la velocità, tra cui GPT-6 Luna e Claude Haiku 5.5, in una serie di benchmark, correndo da 4 a 8 volte più velocemente, a più di 1.000 token al secondo.
Il lancio è la risposta più forte finora alla domanda che incombe sui modelli linguistici di diffusione commerciale da quando è emersa la categoria: la diffusione del testo può scalare per competere con le architetture autoregressive su carichi di lavoro complessi, o rimane una curiosità di ricerca ottimizzata solo per la latenza? Inception Labs, fondata da ex ricercatori di Stanford e UC Berkeley, tra cui il CEO Stefano Ermon, afferma che la risposta è ora risolta. L’azienda riferisce che Mercury 3 è più di 40 volte più grande di Mercury 1 e che l’intelligenza misurata attraverso parametri di riferimento standard è circa triplicata tra Mercury 1 (mini) e Mercury 3, prova, sostiene, che le leggi di scala che hanno guidato il progresso nei modelli autoregressivi valgono anche per la diffusione. Per maggiori informazioni su questa storia, consulta la nostra copertura dell'industria IA.
Velocità, contesto e prezzi
Le cifre principali sono aggressive. Inception Labs afferma che Mercury 3 genera 1.068 token al secondo sulle GPU NVIDIA, mantenendo il vantaggio caratteristico dell'approccio di diffusione rispetto alla decodifica autoregressiva token per token. La finestra di contesto è cresciuta fino a 1 milione di token, rispetto ai 260.000 di Mercury 2.5, che la società ha rilasciato a settembre con 1.107 token al secondo di output sostenuto.
Mercury 3 ha un prezzo di 0,20 dollari per milione di token di input e 0,70 dollari per milione di token di output. Al momento del lancio, il modello è scontato del 50%, portando la tariffa effettiva a 0,10 dollari per milione di token di input e 0,35 dollari per milione di token di output, con i token memorizzati nella cache a un prezzo inferiore del 90% rispetto alla tariffa di input. Ciò riduce il prezzo tipico dei modelli ottimizzati per la velocità di frontiera con cui si confronta, sebbene la verifica indipendente delle dichiarazioni di qualità non sia stata ancora pubblicata.
Risultati benchmark e agenti
Oltre ai confronti generali dei benchmark con GPT-6 Luna e Claude Haiku 5.5, Inception Labs ha pubblicato i risultati del suo cablaggio di produzione di agenti web su 50 attività di navigazione Mind2Web live. Mercury 3 ha completato il 50% delle attività, che secondo l'azienda sono significativamente più di quelle gestite da GPT-6.1-Sol, utilizzando lo stesso volume di token e lo stesso numero di passaggi dell'agente del modello di frontiera a una frazione del costo per token.
L'azienda considera i carichi di lavoro degli agenti sensibili alla latenza come il principale argomento commerciale del modello. Poiché gli agenti che utilizzano il browser, gli assistenti vocali e le applicazioni interattive attendono sul modello in ogni passaggio, piccoli ritardi si accumulano rapidamente e l'elevato throughput di un modello di diffusione si traduce direttamente in un completamento più rapido delle attività e in più tentativi entro un budget di tempo fisso.
I primi clienti segnalano l'utilizzo della produzione
Inception Labs afferma che i partner ad accesso anticipato stanno già eseguendo Mercury 3 in produzione per supporto vocale e chat, tutoraggio in tempo reale, ingegneria dei dati e navigazione web.
Shuhao Zhang, cofondatore di TinyFish AI, ha affermato che gli agenti basati su Mercury 3 finiscono prima e hanno il tempo di provare più approcci prima di rispondere, sia che stiano navigando su siti Web, effettuando ricerche tra fonti o analizzando registri e tracciando incidenti.
Michael Tong, co-fondatore e CTO di General Learning, che gestisce RevisionDojo, ha affermato che Mercury 3 ha consentito all'azienda di fornire a ogni studente un feedback immediato senza rinunciare alla qualità del ragionamento, restituendo suggerimenti, risposte contrassegnate e definizioni in circa un secondo, e ha descritto il modello come uno scambio immediato per il suo stack esistente.
Kuan Zou, fondatore della startup di ricerca Octen, ha riferito che nei test API Sense dell'azienda la propria ricerca ha impiegato circa 80 millisecondi mentre la generazione del modello era il collo di bottiglia, e che Mercury 3 ha fornito il miglior equilibrio tra velocità e qualità tra i modelli veloci testati, con un tempo medio di generazione di 0,9 secondi e un tempo medio di risposta end-to-end di 2,2 secondi.
Perché il ridimensionamento della diffusione è importante
I trasformatori autoregressivi, che generano testo un token alla volta in sequenza, hanno portato essenzialmente tutti i modelli di frontiera da GPT a Gemini e Claude. I modelli di diffusione invece perfezionano un’intera risposta in parallelo attraverso il denoising iterativo, una proprietà che rende la generazione veloce e controllabile ma che, fino a poco tempo fa, rallentava gravemente su compiti di ragionamento complessi.
L’affermazione centrale di Mercury 3 è che questo divario di qualità si è colmato su larga scala. Se i numeri dell’azienda reggono sotto una valutazione indipendente, la conseguenza pratica è una seconda famiglia di architettura credibile per l’inferenza commerciale, con implicazioni per l’economia dei carichi di lavoro degli agenti ad alto volume, dove la spesa aggregata dei token è dominata da modelli di livello di velocità.
Per ora le affermazioni rimangono segnalate dal fornitore. Inception Labs non ha fatto riferimento a valutazioni di terze parti di Mercury 3 e i suoi confronti con i benchmark provengono dai suoi stessi cablaggi. I modelli precedenti dell’azienda, tuttavia, sono stati serviti pubblicamente dal 2025, offrendo agli acquirenti un track record da verificare.
Disponibilità
Mercury 3 è immediatamente disponibile tramite l'API di Inception Labs alla tariffa scontata per il lancio, con la società che afferma che i token memorizzati nella cache vengono fatturati al 10% del prezzo di input. Non è stato annunciato alcun rilascio a peso aperto; come i suoi predecessori, Mercury 3 è un modello commerciale, solo API.
Per una copertura continua sui rilasci di nuovi modelli, sulle architetture di diffusione e sul livello di velocità in aumento dell'intelligenza artificiale di frontiera, segui AI Buzz Wire.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
