Inception Labs は月曜日に Mercury 3 を発表し、これをこれまでにリリースされた中で最も有能な拡散ベースの大規模言語モデルであると説明しました。同社の発表によると、Mercury 3は、GPT-6 LunaやClaude Haiku 5.5など、速度が最適化されたフロンティアモデルをさまざまなベンチマークで上回り、毎秒1,000トークン以上と4~8倍高速に動作するという。
この発表は、このカテゴリが登場して以来、商用普及言語モデルにかかってきた疑問に対するこれまでで最も強力な答えです。テキスト拡散は、複雑なワークロードで自己回帰アーキテクチャと競合できるように拡張できるのでしょうか、それともレイテンシのみに最適化された研究の好奇心のままなのでしょうか? CEOのステファノ・エルモン氏を含む元スタンフォード大学とカリフォルニア大学バークレー校の研究者らによって設立されたインセプション・ラボは、その答えが現在決まっていると述べている。同社は、Mercury 3 は Mercury 1 の 40 倍以上であり、標準ベンチマーク全体で測定された知能は Mercury 1 (mini) と Mercury 3 の間でおよそ 3 倍になったと報告しており、これは自己回帰モデルの進歩を推進したスケーリング則が拡散にも当てはまる証拠であると主張しています。 この件の詳細は、AIの最新動向をご覧ください。
速度、コンテキスト、価格
見出しの数字は積極的です。 Inception Labs によれば、Mercury 3 は NVIDIA GPU 上で 1 秒あたり 1,068 個のトークンを生成し、トークンごとの自己回帰デコードに対する拡散アプローチの特徴的な利点を維持しています。コンテキスト ウィンドウは、同社が 9 月にリリースした Mercury 2.5 の 260,000 トークンから 100 万トークンに増加し、1 秒あたり 1,107 トークンの持続的な出力を実現しました。
Mercury 3 の価格は、入力トークン 100 万あたり 0.20 ドル、出力トークン 100 万あたり 0.70 ドルです。発売時点ではこのモデルは 50% オフで、実効レートは入力トークン 100 万あたり 0.10 ドル、出力トークン 100 万あたり 0.35 ドルとなり、キャッシュされたトークンの価格は入力レートより 90 パーセント低くなります。これは、ベンチマークの対象となるフロンティア速度に最適化されたモデルの一般的な価格を下回るが、品質に関する主張の独立した検証はまだ公表されていない。
ベンチマークとエージェントの結果
GPT-6 Luna および Claude Haiku 5.5 との一般的なベンチマーク比較を超えて、Inception Labs は、50 のライブ Mind2Web ナビゲーション タスクに関する運用 Web エージェント ハーネスの結果を公開しました。 Mercury 3 はタスクの 50% を完了しました。これは GPT-6.1-Sol が管理するタスクよりも大幅に多いと同社は述べていますが、フロンティア モデルと同じトークン量と同じエージェント ステップ数を使用し、トークンあたりのコストは数分の 1 でした。
同社は、遅延の影響を受けやすいエージェントのワークロードを、このモデルの中核的な商用ケースとして位置付けています。ブラウザーを使用するエージェント、音声アシスタント、および対話型アプリケーションは各ステップでモデルを待機するため、小さな遅延はすぐに増大し、拡散モデルの高いスループットは、タスクの完了の高速化と固定時間予算内での試行回数の増加に直接つながります。
初期の顧客が本番環境での使用を報告
Inception Labs によると、早期アクセス パートナーはすでに、音声およびチャット サポート、リアルタイム個別指導、データ エンジニアリング、Web ナビゲーションのために Mercury 3 を実稼働環境で実行しています。
TinyFish AI の共同創設者 Shuhao Zhang 氏は、Mercury 3 に基づいて構築されたエージェントはより早く終了し、Web サイトの移動、ソース全体の調査、ログの分析やインシデントの追跡など、応答する前により多くのアプローチを試す時間が取れると述べました。
RevisionDojoを運営するGeneral Learning社の共同創設者兼最高技術責任者(CTO)のMichael Tong氏は、Mercury 3により同社は推論の質を犠牲にすることなく、すべての学生に即座にフィードバックを提供し、ヒント、マークされた回答、定義を約1秒で返すことができ、このモデルは既存のスタックのドロップインスワップであると説明した。
検索スタートアップ Octen の創設者 Kuan Zou 氏は、同社の Sense API テストでは、モデル生成がボトルネックであったにもかかわらず、独自の検索に約 80 ミリ秒かかったと報告し、Mercury 3 はテストされた高速モデルの中で速度と品質の最適なバランスを実現し、生成時間の中央値が 0.9 秒、エンドツーエンドの応答時間の中央値が 2.2 秒だったと報告しました。
拡散スケーリングが重要な理由
自己回帰トランスフォーマーは、一度に 1 トークンずつテキストを順番に生成し、GPT からジェミニおよびクロードまでの基本的にすべてのフロンティア モデルを継承してきました。代わりに、拡散モデルは、反復ノイズ除去を通じて応答全体を並行して改善します。この特性により、生成が高速かつ制御可能になりますが、最近まで複雑な推論タスクでは大幅に遅れていました。
マーキュリー 3 の主な主張は、この品質格差が大規模に縮まったということです。独立した評価の下で企業の数字が維持される場合、実際的な結果は、商業推論のための信頼できる第 2 のアーキテクチャ ファミリとなり、トークンの総支出がスピード層モデルによって支配される大量のエージェント ワークロードの経済性に影響を与えることになります。
今のところ、この主張はベンダーから報告されたままです。 Inception Labs は Mercury 3 のサードパーティ評価を指摘しておらず、ベンチマーク比較は自社のハーネスに基づいています。ただし、同社の初期モデルは2025年から一般公開されており、購入者に確認できる実績を与えている。
可用性
Mercury 3 は、Inception Labs の API を通じて発売時割引料金ですぐに利用可能であり、同社は、キャッシュされたトークンには入力価格の 10% が請求されると述べています。無差別級のリリースは発表されなかった。前世代と同様に、Mercury 3 は商用の API のみのモデルです。
新しいモデルのリリース、普及アーキテクチャ、フロンティア AI の速度層の拡大についての継続的な報道については、AI Buzz Wire をフォローしてください。
---
AIの最新情報をお届けAIの最新ニュース、分析、ブレイクスルーを一箇所で。
AIニュースをもっと読む →