友達と直接話すときは、友達の姿を見たり、話を聞いたり、握手をしたりすることができます。 AI モデルと対話する場合、これらの保証はほとんどありません。 Anthropic の新しい研究は、まさにそのギャップに狙いを定めている。同社は、応答が実際に主張するモデルから来たものであることを、契約上ではなく数学的に証明できる FlashProve と呼ばれるシステムを含む、暗号による推論証明に関する進歩を公開している。

FlashProve が対処する問題は、密かに構造的なものです。現在、モデルをクエリするユーザーは、その応答が、コスト上の理由からルーティング サービスや、さらにはトークン ストリームを改ざんした攻撃者によって秘密裏に置き換えられたものではなく、開発者が応答していると主張する特定のモデルからのものであることを確認できません。たとえ答えが優れているように見えても、出力だけから判断することは信頼できません。負荷がかかっているときに同じチャット ウィンドウが静かに安価なモデルにルーティングできる業界では、これは仮定の懸念ではなく、デフォルトの信頼モデルです。このような研究の詳細については、AI 研究ニュース をご覧ください。

証明可能な推論が難しい理由

証明可能な推論の目的は、計算リソースが限られており、モデルのプライベート重みにアクセスできないユーザーが、特定の応答がそのモデルによって本当に生成されたものであることを検証できるようにすることです。自分でモデルを再実行するという明白なアプローチは、スターターではありません。フロンティア モデルの重みは非公開に保たれており、それらに対する応答をチェックするには、一般的なユーザーや、十分な資金を持った評価者が許容できる量をはるかに超える計算が必要になります。

Anthropic のアプローチは、強力な隠蔽性と効率性を備えたゼロ知識証明ファミリーである zkSNARK に基づいており、タスクに独自に適合します。プロバイダーはモデルに一度コミットし、応答ごとに、答えがコミットされたモデルによって計算されたことを示すコンパクトな証明を生成しますが、証明自体はモデルの重みを隠します。アーキテクチャを隠すことはシステムの目標ではありません。重みを隠すことです。

数字

歴史的に大規模なモデルのプルーフ生成は桁違いに遅すぎて問題にならなかったので、投稿内の効率の数値はこの記事の技術的な核心です。 4,000 億パラメータの専門家混合モデルである Llama 4 Maverick の場合、単一の NVIDIA H100 GPU が 4 ビットの量子化重みとプリフィルでの整数演算を使用して、1,024 トークンのリクエストあたり約 19 MB の証明サイズで、毎秒約 110 トークンの証明を生成します。

この速度にはコストがかかります。証明の生成には、広く使用されているオープンソース推論ライブラリである vLLM でモデル自体を単純に実行する場合の GPU 時間の約 70 ～ 95 倍かかります。言い換えれば、高価ですが、証明されているものと初めて同じ桁で、Anthropic 氏によれば、桁違いに遅れていた以前のオープンソース システムよりも大幅に高速です。

クロードがそれを構築し、クレームを無駄なく監査します

最初の物語の中に、2番目の物語が折り込まれています。投稿によると、Claude 自身が推論用の zkSNARK の改良を作成し、暗号証明システムの確立された設計原則に依存しながら、暗号とセキュリティの文献から最先端のツールを適用する新しい方法を見つけました。

Anthropic 氏は、そのワークフローに伴うリスクについて率直に語ります。Claude 氏は最適化が得意ですが、特に大規模で複雑なシステムでは、評価が難しい決定を下すことがよくあります。対策は正式な検証です。同社は、主張されるセキュリティ保証、つまり AI の賢い最適化とそれを信頼する必要があるユーザーの間にある機械チェックされた数学について、形式的な検証言語である Lean でトップレベルの監査可能なステートメントを提供しています。

フルスタックは、Apache 2.0 ライセンスの下でリリースされています。ブログ投稿、システムの詳細を説明する技術レポート、プロトコルの説明、証明者と 2 つの検証者 (C++ の高速検証者とリーンの証明可能な検証者) を含む実行可能コードに加え、リーンの証明そのものと、監査を支援する対話型ビジュアライザが含まれます。

コンプライアンスから AI ペーシング条約まで

人類スケッチでは、日常的なものから地政学的なものまで、さまざまなケースが使用されます。リリースの前後に AI モデルをテストする独立した評価者は、評価しているモデルが提供されているモデルであることを知る必要があります。サードパーティのルーティング サービスを通じてモデルにアクセスするクライアントは、トークンが支払ったモデルから取得されたものであるという保証を求めています。また、セキュリティ シナリオでは、特定のモデルになりすましてトークン ストリームを変更するサイバー攻撃者が、出力検査だけでは決して達成できない方法で検出可能になります。

この投稿で挙げられた最も野心的なアプリケーションは、AI ペーシング要件への準拠の検証です。AI ペーシング要件は、フロンティア機能の進歩の速度を管理しようとする、任意および政府による新たな種類の協定です。今日、そのような約束は信頼と事務処理に基づいています。暗号による推論証明は、検査に近いもの、つまりどのモデルが特定のワークロードに対応しているかを主張するのではなく実証する方法を提供します。

研究者らは、これが完成した研究課題ではなく中間的な進歩であることを明言しており、他の人がこの研究を引き継いで改善するという明言された目標を持って出版している。そのフレーミング自体がシグナルです。証明可能な推論は、暗号セミナーの思考実験から、導入に十分なコストを安くしようとフロンティアラボが公然と競争しているエンジニアリングの問題に移行しました。

---

AI の先を行く

最新の AI ニュース、分析、画期的な情報をすべて 1 か所で入手できます。

AI ニュースをもっと読む→