Inception Labs a introdus luni Mercury 3, descriindu-l ca fiind cel mai capabil model de limbaj mare bazat pe difuzie lansat până în prezent. Conform anunțului companiei, Mercury 3 depășește modelele de frontieră optimizate pentru viteză, inclusiv GPT-6 Luna și Claude Haiku 5.5, într-o gamă largă de benchmark-uri, rulând de 4 până la 8 ori mai rapid, cu peste 1.000 de jetoane pe secundă.

Lansarea este cel mai puternic răspuns de până acum la întrebarea care a planat asupra modelelor comerciale de limbaj de difuzie de la apariția categoriei: se poate scala difuzarea textului pentru a concura cu arhitecturile autoregresive pe sarcini complexe de lucru sau rămâne o curiozitate de cercetare optimizată doar pentru latență? Inception Labs, care a fost fondată de foști cercetători Stanford și UC Berkeley, inclusiv CEO Stefano Ermon, spune că răspunsul este acum stabilit. Compania raportează că Mercury 3 este de peste 40 de ori mai mare decât Mercury 1 și că inteligența măsurată prin benchmark-uri standard s-a triplat între Mercury 1 (mini) și Mercury 3, dovezi, susține, că legile de scalare care au condus progresul în modelele autoregresive sunt valabile și pentru difuzare. For more context on this story, see our ongoing latest AI developments.

Viteză, context și preț

Cifrele din titlu sunt agresive. Inception Labs spune că Mercury 3 generează 1.068 de jetoane pe secundă pe GPU-urile NVIDIA, menținând avantajul semnăturii abordării difuziei față de decodificarea autoregresivă token-by-token. Fereastra de context a crescut la 1 milion de jetoane, în creștere de la 260.000 în Mercury 2.5, pe care compania l-a lansat în septembrie cu 1.107 jetoane pe secundă de producție susținută.

Mercury 3 are un preț de 0,20 USD per milion de jetoane de intrare și 0,70 USD per milion de jetoane de ieșire. La lansare, modelul are o reducere de 50%, aducând rata efectivă la 0,10 USD per milion de jetoane de intrare și 0,35 USD per milion de jetoane de ieșire, cu jetoane stocate în cache la un preț cu 90% sub rata de intrare. Acest lucru scade prețul tipic al modelelor de frontieră optimizate pentru viteză cu care se raportează, deși verificarea independentă a afirmațiilor de calitate nu a fost încă publicată.

Rezultate benchmark și agent

Dincolo de comparațiile generale de referință față de GPT-6 Luna și Claude Haiku 5.5, Inception Labs a publicat rezultatele de la producția sa de agent web pentru 50 de sarcini de navigare Mind2Web live. Mercury 3 a finalizat 50% din sarcini, despre care compania spune că este semnificativ mai mult decât GPT-6.1-Sol gestionat, utilizând în același timp același volum de token și același număr de pași de agent ca modelul de frontieră la o fracțiune din costul pe token.

Compania poziționează sarcinile de lucru ale agenților sensibile la latență ca caz comercial de bază pentru model. Deoarece agenții de utilizare a browserului, asistenții vocali și aplicațiile interactive așteaptă modelul la fiecare pas, micile întârzieri se agravează rapid, iar randamentul mare al unui model de difuzare se traduce direct în finalizarea mai rapidă a sarcinilor și mai multe încercări într-un buget de timp fix.

Primii clienți raportează utilizarea producției

Inception Labs spune că partenerii cu acces timpuriu rulează deja Mercury 3 în producție pentru asistență vocală și prin chat, instruire în timp real, inginerie de date și navigare web.

Shuhao Zhang, cofondatorul TinyFish AI, a declarat că agenții bazați pe Mercury 3 termină mai devreme și au timp să încerce mai multe abordări înainte de a răspunde, fie că navighează pe site-uri web, fac cercetări din diferite surse sau analizează jurnalele și urmăresc incidente.

Michael Tong, co-fondator și CTO al General Learning, care operează RevisionDojo, a declarat că Mercury 3 a permis companiei să ofere fiecărui student feedback instantaneu fără a renunța la calitatea raționamentului, returnând indicii, răspunsuri marcate și definiții în aproximativ o secundă și a descris modelul ca un schimb de date pentru stiva existentă.

Kuan Zou, fondatorul startup-ului de căutare Octen, a raportat că, în testele Sense API ale companiei, propria sa căutare a durat aproximativ 80 de milisecunde, în timp ce generarea modelului a fost obstacolul, și că Mercury 3 a oferit cel mai bun echilibru între viteză și calitate dintre modelele rapide testate, cu un timp de generare mediu de 0,9 secunde și un timp mediu de răspuns end-to-end de 2,2 secunde.

De ce contează scalarea difuziei

Transformatoarele autoregresive, care generează text câte un jeton în secvență, au purtat în esență fiecare model de frontieră de la GPT la Gemini și Claude. Modelele de difuzie rafinează, în schimb, un întreg răspuns în paralel prin dezgomotul iterativ, o proprietate care face generarea rapidă și controlabilă, dar care, până de curând, a rămas foarte în urmă cu sarcinile complexe de raționament.

Afirmația centrală a lui Mercury 3 este că acest decalaj de calitate s-a redus la scară. Dacă cifrele companiei se mențin la evaluarea independentă, consecința practică este o a doua familie de arhitecturi credibilă pentru inferența comercială, cu implicații pentru economia volumului de lucru al agenților de mare volum, în care cheltuielile agregate cu token-uri sunt dominate de modelele de nivel de viteză.

Pretențiile rămân raportate de furnizor pentru moment. Inception Labs nu a indicat evaluările terțelor părți ale Mercury 3, iar comparațiile sale de referință provin din propriile hamuri. Cu toate acestea, modelele anterioare ale companiei au fost difuzate public din 2025, oferind cumpărătorilor un istoric cu care să le verifice.

Disponibilitate

Mercury 3 este disponibil imediat prin intermediul API-ului Inception Labs la tariful redus de lansare, compania declarând că tokenurile stocate în cache sunt facturate la 10% din prețul de intrare. Nu a fost anunțată nicio lansare cu greutăți deschise; ca și predecesorii săi, Mercury 3 este un model comercial, exclusiv API.

Pentru o acoperire continuă a lansărilor de modele noi, a arhitecturilor de difuzare și a nivelului de viteză extins al AI de frontieră, urmați AI Buzz Wire.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →