Microsoft AI は、800 億のアクティブ パラメーターと 2 兆 8,000 億の合計パラメーターを備えた新しい専門家混合基盤モデルである MAI-Base-2 での事前トレーニングを完了したと、同部門が 10 月 15 日に技術的な「ラボ ノート」投稿で発表しました。同社によれば、このモデルは、保持された評価でテストしたすべてのオープンウェイト モデルよりも優れており、最も強力なオープン ベース モデルである DeepSeek-V4-Pro-Base よりも、事前トレーニングの FLOP 効率が 4 ~ 12 倍高いとのことです。

この発表は、ムスタファ・スレイマンCEOのMicrosoft AI組織の下で構築されたMicrosoftの社内モデルプログラムが、OpenAIパートナーシップのみに依存するのではなく、最前線で競争するつもりであることを示す、これまでで最も明確な兆候である。 MAI-Base-2 は現在事後訓練を受けており、間もなくさらなる結果が約束されています。新しいモデルのリリースに関する継続的な報道については、AI モデル ニュース をフォローしてください。

実行の規模

Microsoftは、2026年8月と9月に38日間にわたって16,000台のNVIDIA GB200 GPUでMAI-Base-2をトレーニングしたと発表した。この実行では、平均21%のモデルFLOP使用率(BF16におけるGB200の理論的最大値2.5PFLOPSに対して正規化、再実体化とオプティマイザーFLOPを除く)、89%のグッドプットを達成した。これは、トレーニングが中断することなく進行した時間の割合である。これらの数字は、規律ある大規模な実行を表しています。この規模では、GPU フリートが中断されたり、十分に活用されていないのが一般的であり、すべての成果が数週間のトレーニング時間の節約につながります。

このモデルは、6 月にリリースされた Microsoft の推論モデルである MAI-Thinking-1 の基礎となった前任の MAI-Base-1 よりも大規模で、よりスパースで、より多くのデータでトレーニングされています。 Microsoftは、MAI-Base-2のトレーニングレシピによって節約された効率を、より大規模なモデルのトレーニングに意図的に再投資したと述べている。

Microsoft による比較方法

同社は、ホールドアウト テキストのバイトあたりのビット数(トークナイザーに依存しない指標)と、Microsoft 独自のコードベースから抽出されたホールドアウト コード評価を使用して、2026 年 10 月より前に利用可能なフロンティア チェックポイントに対して MAI-Base-2 を評価しました。 STEM、数学、および Q&A の評価は、トレーニング セットの汚染リスクを軽減するために外部ベンダーに委託され、すべての評価セットはトレーニング データに対して除染されました。

比較セットには、オープンウェイトを備えた最も有能なベースモデルであり、1 兆パラメータを超える唯一リリースされたベース事前トレーニング チェックポイントであると Microsoft が説明する DeepSeek-V4-Pro-Base に加え、Kimi K3、Qwen3.8-2.4T-A95B、および MiMo-V2.6-Pro-RL が含まれていました。 Microsoft は、これら 3 つの場合、トレーニング後のチェックポイントのみが利用可能であり、トレーニング後のチェックポイントがトレーニング前の評価に影響を与える可能性があることに注意してください。保留された評価全体で、Microsoft は、MAI-Base-2 がテストされた他のモデルよりも低いバイトあたりのビット数を達成したと報告しています。

解読された効率に関する主張

4 ~ 12 倍の効率という数字は、直接的なベンチマークの勝利ではなく、コンピューティングのマッチング分析によるものです。保留された評価ごとに、Microsoft はトレーニング FLOP に対してバイトあたりのビット数のスケーリング則を当てはめ、DeepSeek-V4-Pro-Base のスコアと一致するために独自のレシピがどれだけの計算量を必要とするかを推定しました。この範囲は 4 つの評価間の差異を反映しています。主張を平たく言えば、Microsoft は、自社のレシピがトレーニング コンピューティング単位あたり、最も強力なオープンに利用可能な基本モデルよりも数倍多くの能力を抽出し、その余剰を規模拡大に費やしたと言っています。

フルスタックの所有

この投稿では、生のパフォーマンスを超えて、戦略的根拠を説明しています。 Microsoft は、自社のモデル パイプラインをエンドツーエンドで所有することで、トレーニング トークンよりも強力なデータの出自を得ることができ、事前トレーニングは他のモデルから抽出されないオーガニック データに依存していると述べています。その来歴により、フロンティア インテリジェンスの信頼できる情報源として Foundry を通じて企業にモデルの重み付けをライセンス供与できる一方、モデルとインフラストラクチャを共同チューニングすることで Microsoft 自社製品のコストをまず削減できる、と同社は主張しています。

技術セクションでは、実行の成功には 3 つの取り組みがあったとしています。1 つは、ソース スケーリングと呼ばれる手法を介して繰り返しトレーニング データを考慮する「スケーリング ラダー」を含むスケーリング サイエンスです。これは、ラング全体でパラメータに対する固有のデータの比率を一定に保ちます。モデルとインフラストラクチャの共同設計。これには、活性化勾配クリッピングとともに改善された MoE および Muon オプティマイザーの実装が含まれます。そしてビジョンデータの統合によりデータパイプラインを拡張しました。 Microsoft は、オーバーフィッティングを引き起こすことなく 2.8 兆のパラメータ サイズに確実にスケーリングするにはソース スケーリングが鍵だったと述べています。

市場にとっての意味

もしこの主張が独立した精査のもとで有効であれば、MAI-Base-2はMicrosoftをOpenAI、Anthropic、Googleと並ぶ4番目の主要な西側フロンティアモデルビルダーとして位置づけ、消費者向けチャットボットのマインドシェアではなく、データの出所とエンタープライズライセンスに基づいて差別化された売り込みを行っている。まず重要な市場は、Azure のエンタープライズ顧客ベースであり、Foundry の顧客は、Microsoft がそのトレーニング系統を完全に管理しているフロンティア クラスのモデルにアクセスできるようになります。

独立した検証は未解決のままです。 Microsoft の評価は自己報告であり、比較モデルのトレーニング後の警告は重要であり、保留されたテキストのバイトあたりのビット数は、企業が実際に使用するチャット、コーディング、およびエージェントのベンチマークに直接変換されません。 MAI-Base-2 のトレーニング後の派生版 (MAI-Thinking-1 の後継版) が本当のテストとなります。しかし、この発表の根底にあるメッセージは明白です。つまり、自社のシリコン フリートでフロンティア モデルをトレーニングするという Microsoft の賭けは、もはや野心的なものではありません。基本モデルは完成しており、トレーニング後のパイプラインはすでに実行されています。

---

AI の先を行く

最新の AI ニュース、分析、画期的な情報をすべて 1 か所で入手できます。

AI ニュースをもっと読む→