В понедельник Inception Labs представила Mercury 3, назвав его наиболее функциональной моделью большого языка на основе диффузии, выпущенной на сегодняшний день. Согласно заявлению компании, Mercury 3 превосходит пограничные модели с оптимизированной скоростью, включая GPT-6 Luna и Claude Haiku 5.5, в ряде тестов, работая в 4–8 раз быстрее, со скоростью более 1000 токенов в секунду.

Запуск является самым убедительным ответом на вопрос, который навис над коммерческими языковыми моделями распространения с момента появления этой категории: может ли распространение текста масштабироваться, чтобы конкурировать с авторегрессионными архитектурами при сложных рабочих нагрузках, или оно остается исследовательской диковинкой, оптимизированной только для задержки? Inception Labs, основанная бывшими исследователями из Стэнфорда и Калифорнийского университета в Беркли, включая генерального директора Стефано Эрмона, утверждает, что ответ теперь решен. Компания сообщает, что Mercury 3 более чем в 40 раз больше, чем Mercury 1, и что измеренный интеллект по стандартным тестам примерно утроился между Mercury 1 (мини) и Mercury 3, что свидетельствует, по ее мнению, о том, что законы масштабирования, которые способствовали прогрессу в моделях авторегрессии, справедливы и для распространения. Подробнее об этой истории — в нашем больше статей об ИИ.

Скорость, контекст и цены

Цифры в заголовках агрессивны. Inception Labs сообщает, что Mercury 3 генерирует 1068 токенов в секунду на графических процессорах NVIDIA, сохраняя характерное преимущество диффузионного подхода по сравнению с авторегрессионным декодированием по токенам. Контекстное окно выросло до 1 миллиона токенов по сравнению с 260 000 в Mercury 2.5, который компания выпустила в сентябре с устойчивой производительностью 1107 токенов в секунду.

Стоимость Mercury 3 составляет 0,20 доллара США за миллион входных токенов и 0,70 доллара США за миллион выходных токенов. При запуске модель имеет скидку 50 процентов, в результате чего эффективная ставка составляет 0,10 доллара США за миллион входных токенов и 0,35 доллара США за миллион выходных токенов, при этом цена кэшированных токенов на 90 процентов ниже входной ставки. Это снижает типичную цену на передовые модели с оптимизированной скоростью, с которыми он сравнивает, хотя независимая проверка заявлений о качестве еще не опубликована.

Результаты тестов и агентов

Помимо общего сравнения тестов с GPT-6 Luna и Claude Haiku 5.5, Inception Labs опубликовала результаты использования своего производственного веб-агента по 50 интерактивным навигационным задачам Mind2Web. Mercury 3 выполнил 50 процентов задач, что, по словам компании, значительно больше, чем удалось выполнить GPT-6.1-Sol, используя при этом тот же объем токенов и такое же количество шагов агента, что и пограничная модель, за небольшую часть стоимости токена.

Компания позиционирует рабочие нагрузки агентов, чувствительных к задержкам, в качестве основного коммерческого обоснования этой модели. Поскольку агенты, использующие браузер, голосовые помощники и интерактивные приложения ожидают модели на каждом этапе, небольшие задержки быстро накапливаются, а высокая пропускная способность диффузной модели напрямую приводит к более быстрому выполнению задач и большему количеству попыток в пределах фиксированного бюджета времени.

Первые клиенты сообщают о производственном использовании

Inception Labs сообщает, что партнеры с ранним доступом уже используют Mercury 3 в производстве для голосовой поддержки и чата, обучения в реальном времени, обработки данных и веб-навигации.

Шухао Чжан, соучредитель TinyFish AI, сказал, что агенты, созданные на Mercury 3, заканчивают работу раньше и имеют время опробовать больше подходов, прежде чем ответить, независимо от того, перемещаются ли они по веб-сайтам, исследуют источники или анализируют журналы и отслеживают инциденты.

Майкл Тонг, соучредитель и технический директор компании General Learning, которая управляет RevisionDojo, сказал, что Mercury 3 позволил компании дать каждому студенту мгновенную обратную связь, не отказываясь от качества рассуждений, возвращая подсказки, помеченные ответы и определения примерно за секунду, и описал модель как замену существующего набора.

Куан Цзоу, основатель поискового стартапа Octen, сообщил, что в тестах Sense API собственный поиск занимал около 80 миллисекунд, в то время как генерация модели была узким местом, и что Mercury 3 обеспечил лучший баланс скорости и качества среди протестированных быстрых моделей: среднее время генерации 0,9 секунды и среднее время сквозного ответа 2,2 секунды.

Почему важно масштабирование диффузии

Авторегрессионные преобразователи, которые последовательно генерируют текст по одному токену, перенесли практически все пограничные модели от GPT до Gemini и Claude. Вместо этого модели диффузии параллельно уточняют весь ответ посредством итеративного шумоподавления — свойства, которое делает генерацию быстрым и контролируемым, но которое до недавнего времени сильно отставало при выполнении сложных логических задач.

Основное утверждение Mercury 3 заключается в том, что этот разрыв в качестве в масштабах сократился. Если показатели компании подтвердятся независимой оценкой, практическим последствием станет появление заслуживающего доверия второго семейства архитектур для коммерческих выводов, что будет иметь последствия для экономики больших объемов рабочих нагрузок агентов, где в совокупных расходах токенов преобладают модели скоростного уровня.

На данный момент претензии по-прежнему сообщаются поставщиками. Inception Labs не указала на сторонние оценки Mercury 3, а сравнения с эталонными показателями взяты из ее собственных источников. Однако более ранние модели компании обслуживаются публично с 2025 года, что дает покупателям возможность свериться с репутацией.

Доступность

Mercury 3 доступен сразу через API Inception Labs по цене со скидкой при запуске, при этом компания заявляет, что за кэшированные токены взимается плата в размере 10 процентов от входной цены. О выпуске в открытом весе объявлено не было; Как и его предшественники, Mercury 3 является коммерческой моделью, работающей только через API.

Чтобы постоянно освещать выпуски новых моделей, диффузные архитектуры и расширяющийся уровень скорости передового искусственного интеллекта, следите за AI Buzz Wire.

---

Будьте в курсе ИИ

Последние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.

Читать больше новостей об ИИ →