Edge0 は、2026 年 11 月 12 日に、より小型の Edge0-120B、統合推論フレームワーク、展開ツールとともに、Edge0-145B をオープンソース化しました。同社は、Edge0-145Bを1450億パラメータの初のオープンソースオンデバイスAIモデルと説明し、フロンティアクラウドモデルに匹敵するコーディング、推論、エージェント機能を消費者向けハードウェアにもたらすと述べている。

このリリースは、Hacker News で 219 ポイントに上昇したのと同じ日に上陸し、サーバーなしで 100B を超えるパラメーター モデルが実行されるという見通しが、ローカル推論に従う開発者から大きな注目を集めました。 この件の詳細は、AIの最新動向をご覧ください。

ラップトップの主張の背後にある数字

同社の発表によると、Edge0-145B は MacBook Pro などの互換性のある個人用ラップトップ上で動作し、次のような結果が報告されています。

  • 29GB ピーク メモリ、専用サーバーなしでハイエンドの消費者向けマシンに適合するのに十分な低さ
  • 1 秒あたり 1,100+ トークンの事前入力。生成が開始される前に、モデルが数十ページのコードにまたがるプロンプトを処理できるようにします。
  • 1 秒あたり 80 以上のトークンをデコード。これは人間が読み取るよりも速いと同社は述べています。
  • 通常約 120W の電力、報告されたセットアップでスロットルなしで動作を維持
  • 128K ～ 256K コンテキスト、長い入力でも生成速度は本質的に変わりません

これらの数値は、独立したテストではなく、Edge0 が独自に公開したベンチマークから得たものであり、同社は重み、推論フレームワーク、展開ツールなどのフルスタックをリリースしているため、開発者は独自のハードウェアで測定を再現できます。

オンデバイス モデルが小規模なままである理由

この発表には、歴史的にラップトップに大型モデルが存在しなかった理由に関する有益なコンテキストが含まれています。 2026 年 9 月以前は、メモリ制限により、ほとんどのオンデバイス モデルは 100 億パラメータ未満に保たれていました。 Apple Intelligence のオンデバイス基盤モデルには約 30 億のパラメータがありましたが、Google の Gemini Nano は 1.8B バージョンと 3.25B バージョンで出荷されました。

この制約は物理的なものです。モデルの重みは生成ステップごとにメモリから読み取られ、オペレーティング システムや他のアプリケーションと帯域幅を競合する必要があります。積極的に圧縮された 35B モデルでも約 20GB のメモリが必要になる可能性があり、これは携帯電話が割り当てられるメモリをはるかに超えています。

Edge0 の以前のリリースは、同社のアプローチがどこに向かっているのかを示していました。 Edge0-35B 電話モデルは、ピーク メモリが 2.5 GB 未満であり、iPhone 18 Pro Max で 1 秒あたり 37 以上のトークンを提供すると報告しました。 Edge0-145B はそのモデルの約 4 倍のパラメータを備えていますが、そのラップトップ構成では 28 GB のメモリで約 2 倍のデコード速度が報告されています。同社は、これらの測定値がさまざまなモデルやハードウェアに適用されることに注意して注意しています。

仕事を終えるアシスタント

Edge0 は、素の速度を超えて、モデルをチャットボットではなくエージェントとして位置付けています。この発表では、3D シーン、ゲーム、ハードウェア プログラム、PCB 設計などのプロジェクトのコードを計画、作成、実行し、エラーをデバッグし、結果を視覚的に確認するシステムについて説明しています。

同社は、コーディング、推論、指示に従った結果が特定のフロンティア クラウド モデルと競合すると報告していますが、公開されている比較はまだ独自に検証されていません。ベンダーが報告する他のベンチマークと同様に、開発者はフロンティアレベルの同等性について結論を出す前にサードパーティの評価を確認する必要があります。

プライバシーとコストの議論

この提案は、クラウド ワークフローに対する 3 つの利点に基づいています。ローカル推論ではトークンごとの API 料金は発生せず、機密データはデバイス上に残ることができ、コア機能はオフラインで動作し続けます。規制されたデータを扱う企業や、帯域幅に制約のある環境の開発者にとって、これらの特性は、ホスト型フロンティア モデルの本来の機能を上回る可能性があります。

もちろん、ハードウェアと電気は無料ではありません。 Edge0 はこれを直接認めており、その電力数値は持続的な最大 120 W の消費電力を反映していると指摘しています。これは、要求の厳しいワークロードを実行する高性能ラップトップに匹敵し、これはバッテリー寿命と熱に大きな影響を与えます。

ローカル AI エコシステムにとっての意味

この発表に伴う分析では、電話、ラップトップ、AI PC を対象とした 14 のラボからの少なくとも 1B パラメータの 67 のオープン モデルが追跡されており、その軌跡は急勾配です。報告された数値が独立したレビューの下で維持される場合、Edge0-145B は、コンシューマ ハードウェアがホストできるもの、つまり、これまで人々がすでに所有しているマシンでデータ センター GPU が利用可能になることを要求していたモデル クラスに大きな変化をもたらすことになるでしょう。

競合他社も同じ方向に向かって進んでいます。 Meta はコンシューマ GPU で実行するように構築された Muse Glimmer オープン エージェント モデルを出荷しており、Apple の Foundation Models フレームワークにより、オンデバイス推論に対する開発者の関心が新たに高まっています。違いはスケールです。現在のオープンウェイト エコシステムには、ラップトップ クラスのメモリ予算を対象とした 145B パラメータに近いものはありません。

このリリースは、集中化に関する議論が激化する中で行われた。エージェント的な支払いフローを追加するプライバシー重視のブラウザからローカルファーストの推論フレームワークに至るまで、業界の無差別陣営は 2026 年を費やして、有能な AI がハイパースケーラーのデータセンターに存在する必要はないと主張してきました。 Edge0-145B は、この議論においてこれまでで最も攻撃的なデータポイントです。

開発者は、モデルの重みをダウンロードしたり、推論フレームワークを探索したり、同社のサイトを通じて Edge0 アプリを試したりすることができます。ベンチマークがコミュニティの精査に耐えられるかどうかは未解決の問題ですが、完全なスタックが複製用にリリースされているため、その精査にはそれほど時間はかからないはずです。

---

AIの最新情報をお届け

AIの最新ニュース、分析、ブレイクスルーを一箇所で。

AIニュースをもっと読む →