Inception Labs przedstawiło w poniedziałek Mercury 3, opisując go jako najbardziej wydajny model wielkojęzykowy oparty na dyfuzji, jaki kiedykolwiek pojawił się na rynku. Zgodnie z zapowiedzią firmy Mercury 3 przewyższa zoptymalizowane pod kątem szybkości modele frontierowe, w tym GPT-6 Luna i Claude Haiku 5.5, w szeregu testów porównawczych, działając od 4 do 8 razy szybciej, z szybkością ponad 1000 tokenów na sekundę.

Premiera stanowi jak dotąd najlepszą odpowiedź na pytanie, które wisiało nad komercyjnymi modelami języków rozpowszechnianych od czasu pojawienia się tej kategorii: czy skala rozpowszechniania tekstu może konkurować z architekturami autoregresyjnymi w przypadku złożonych obciążeń, czy też pozostaje ciekawostką badawczą zoptymalizowaną jedynie pod kątem opóźnień? Inception Labs, założone przez byłych badaczy ze Stanford i Uniwersytetu Kalifornijskiego w Berkeley, w tym dyrektora generalnego Stefano Ermona, twierdzi, że odpowiedź jest już ustalona. Firma podaje, że Merkury 3 jest ponad 40 razy większy niż Merkury 1, a zmierzona inteligencja w standardowych testach porównawczych jest w przybliżeniu trzykrotnie większa między Merkurym 1 (mini) a Merkurym 3, co jej zdaniem stanowi dowód, że prawa skalowania, które napędzały postęp w modelach autoregresyjnych, obowiązują również w przypadku dyfuzji. Więcej kontekstu na ten temat znajdziesz w naszych najnowsze osiągnięcia AI.

Szybkość, kontekst i cena

Główne dane są agresywne. Inception Labs twierdzi, że Mercury 3 generuje 1068 tokenów na sekundę na procesorach graficznych NVIDIA, zachowując charakterystyczną przewagę podejścia dyfuzyjnego w porównaniu z dekodowaniem autoregresyjnym „token po tokenie”. Okno kontekstowe rozrosło się do 1 miliona tokenów, w porównaniu z 260 000 w wersji Mercury 2.5, którą firma wypuściła we wrześniu, przy stałej wydajności 1107 tokenów na sekundę.

Cena Mercury 3 wynosi 0,20 dolara za milion tokenów wejściowych i 0,70 dolara za milion tokenów wyjściowych. W momencie premiery model jest 50% tańszy, co podnosi efektywną stawkę do 0,10 USD za milion tokenów wejściowych i 0,35 USD za milion tokenów wyjściowych, przy cenie tokenów w pamięci podręcznej o 90% niższej od stawki wejściowej. Podważa to typowe ceny pionierskich modeli zoptymalizowanych pod kątem prędkości, z którymi się porównuje, chociaż niezależna weryfikacja twierdzeń dotyczących jakości nie została jeszcze opublikowana.

Wyniki testów porównawczych i agentów

Oprócz ogólnych porównań porównawczych z GPT-6 Luna i Claude Haiku 5.5, Inception Labs opublikowało wyniki z produkcyjnej wiązki agenta internetowego dotyczące 50 bieżących zadań nawigacji Mind2Web. Mercury 3 wykonał 50 procent zadań, co według firmy stanowi znacznie więcej niż zarządzał GPT-6.1-Sol, korzystając z tej samej objętości tokenów i tej samej liczby kroków agenta co model frontierowy, za ułamek kosztu za token.

Firma uważa, że ​​obciążenia agentów wrażliwych na opóźnienia są głównym uzasadnieniem komercyjnym tego modelu. Ponieważ agenci korzystający z przeglądarki, asystenci głosowi i aplikacje interaktywne czekają na model na każdym kroku, niewielkie opóźnienia szybko się nasilają, a wysoka przepustowość modelu dyfuzyjnego przekłada się bezpośrednio na szybszą realizację zadań i większą liczbę prób w ramach ustalonego budżetu czasowego.

Pierwsi klienci zgłaszają użycie produkcyjne

Inception Labs twierdzi, że partnerzy wczesnego dostępu korzystają już z Mercury 3 w wersji produkcyjnej, aby zapewnić obsługę głosu i czatu, nauczanie w czasie rzeczywistym, inżynierię danych i nawigację w Internecie.

Shuhao Zhang, współzałożyciel TinyFish AI, powiedział, że agenci zbudowani na Mercury 3 kończą pracę wcześniej i mają czas na wypróbowanie innych podejść, zanim udzielą odpowiedzi, niezależnie od tego, czy przeglądają strony internetowe, przeszukują źródła, czy analizują dzienniki i śledzą incydenty.

Michael Tong, współzałożyciel i dyrektor techniczny firmy General Learning, która zarządza RevisionDojo, powiedział, że Mercury 3 umożliwił firmie natychmiastowe przekazywanie każdemu uczniowi informacji zwrotnej bez utraty jakości rozumowania, wyświetlanie wskazówek, zaznaczonych odpowiedzi i definicji w ciągu około sekundy, a także opisał model jako możliwość zamiany istniejącego stosu.

Kuan Zou, założyciel start-upu wyszukiwawczego Octen, poinformował, że w testach API Sense jego własne wyszukiwanie trwało około 80 milisekund, podczas gdy wąskim gardłem było generowanie modelu, oraz że Mercury 3 zapewnił najlepszą równowagę szybkości i jakości spośród testowanych szybkich modeli, ze średnim czasem generowania wynoszącym 0,9 sekundy i średnim czasem reakcji od początku do końca wynoszącym 2,2 sekundy.

Dlaczego skalowanie dyfuzji ma znaczenie

Transformatory autoregresyjne, które generują tekst po jednym tokenie na raz, przeniosły zasadniczo każdy model graniczny od GPT po Gemini i Claude. Zamiast tego modele dyfuzji udoskonalają całą odpowiedź równolegle poprzez iteracyjne odszumianie – właściwość, która sprawia, że ​​generowanie jest szybkie i kontrolowane, ale która do niedawna słabo radziła sobie ze złożonymi zadaniami rozumowania.

Głównym twierdzeniem Mercury 3 jest to, że ta luka w jakości została zlikwidowana na dużą skalę. Jeśli wyniki firmy sprawdzą się w niezależnej ocenie, praktyczną konsekwencją będzie wiarygodna druga rodzina architektur do celów komercyjnych, co będzie miało konsekwencje dla ekonomiki dużych obciążeń agentów, gdzie zagregowane wydatki na tokeny są zdominowane przez modele oparte na szybkości.

Roszczenia pozostają na razie zgłaszane przez dostawców. Inception Labs nie wspomniało o zewnętrznych ocenach Mercury 3, a porównania porównawcze pochodzą z własnych uprzęży. Wcześniejsze modele firmy są jednak dostępne publicznie od 2025 r., co daje kupującym możliwość sprawdzenia ich historii.

Dostępność

Mercury 3 jest dostępny natychmiast za pośrednictwem interfejsu API Inception Labs po obniżonej cenie początkowej, przy czym firma twierdzi, że opłata za tokeny w pamięci podręcznej wynosi 10 procent ceny wejściowej. Nie ogłoszono żadnego wydania w wadze otwartej; Podobnie jak jego poprzednicy, Mercury 3 jest modelem komercyjnym obsługującym wyłącznie API.

Aby uzyskać dalsze informacje na temat nowych modeli, architektur rozpowszechniania i rosnącego poziomu prędkości pionierskiej sztucznej inteligencji, śledź AI Buzz Wire.

---

Bądź na Bieżąco z AI

Najnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.

Czytaj więcej wiadomości AI →