Cloudflareは火曜日、Clairicのプレビューを発表した。これは、大規模な言語モデルを定義するトークンごとの生成を行わずに、非構造化データから構造化値を抽出するように設計された新しいクラスの「System One」モデルの最初のものであると同社が説明する抽出モデルである。このモデルは現在、Cloudflare の Workers AI プラットフォームで @cf/cloudflare/clairic としてプレビュー版として利用可能であり、同社はモデルの重みを近い将来に公開する予定であると述べています。

この発表により、Cloudflareは、現在AIインフラストラクチャ市場を再形成している最も興味深い議論の1つ、つまりLLMに割り当てられたすべてのタスクが実際にLLMを必要とするかどうかという議論の中に真っ向から位置づけられることになる。 この件の詳細は、人工知能の最新情報をご覧ください。

Clairic が行うことと意図的に行わないこと

Clairic は、乱雑で構造化されていない入力を読み取り、型指定された値を返すという、範囲は狭いものの非常に一般的なジョブ向けに構築されています。 Cloudflareの発表によると、このモデルは非構造化入力から値を抽出、計算、推定、予測することができ、80%の範囲の数値、名前、日付、時刻、リストなどの型指定された値、および完全な確率分布をそれぞれ校正された信頼度で返します。

テキストの生成は行いません。 Clairic へのクエリは、開発者が宣言した型の値、または単純に入力に答えが存在しない確率を推定する p_null スコアと組み合わせた null 結果を返します。すべての回答には信頼度スコアが付属しているため、下流のシステムはそれを信頼するか、人間によるレビューのためにフラグを立てるかを決定できます。

Cloudflareはトレードオフについて明確にしています。 Clairic はトークンを生成しないため、LLM のように不正な JSON を生成したり、生成途中で数字を読み間違えたり、答えを幻覚したりすることはありません。それでも間違いを犯す可能性はありますが、同社はその点については注意していますが、その失敗は自由形式ではなく型付けされており、測定可能です。

「System One」ラベルの説明

この用語は、AI スタートアップの TypeSafe に由来しています。TypeSafe は約 1 か月前に独自の System One モデルを発表し、すぐに開発者コミュニティで最も話題になった製品の 1 つになりました。この枠組みは、心理学者ダニエル・カーネマンの著書「思考、速い、そして遅い」から借用しています。システム 1 の思考は速く、自動的で、正確ですが、システム 2 の思考はゆっくりと意図的に行われます。 TypeSafe はその区別を AI モデルにマッピングし、多くの運用ワークロードには自由な推論ではなく、高速で適切に型指定された回答が必要であると主張しました。

TypeSafe の Jev は、特定のドメイン専用に構築された意思決定モデルであり、確率を入力として受け取り、考えられる答えの固定リストに対する確率を返しました。これまでは、それがカテゴリ全体であり、すべての System One モデルは意思決定モデルでした。

クレリックはその概念を拡張します。意思決定モデルが事前定義されたオプションの中から選択する場合、抽出モデルは値、つまり入力から直接抽出された数値、入力から計算された数値、または入力を超えた予測で応答します。 Cloudflareによると、この2つのモデルファミリーは従来のLLMと合わせて3層スタックを形成しているという。抽出モデルは生の入力を型付き値に変換し、意思決定モデルは値を決定に変換し、LLMは決定を単語に変換する。

抽出が再考の機が熟している理由

Cloudflareの主張は、今日のLLMトラフィックのどれだけが会話にも見えない作業に費やされているかに基づいている。同社は、文書から請求書の合計、納期、または部品番号を抽出する抽出を、「おそらく今日 LLM に課せられる最も一般的な仕事」と呼んでいます。

Cloudflareが語る問題は、LLMが別の目的のために構築された機械を使ってそのジョブを処理していることだという。出力は有効な JSON ではない可能性があります。トークンが生成されるときに、数字が誤って読み取られる可能性があります。返されたテキストの抜粋は、ソース文書内のその場所まで追跡することはできません。チームは、スキーマ検証、再試行ロジック、レイヤーの解析、スポット チェックなどの防御パイプラインにモデルをラップすることで対応します。また、LLM は推論と出力トークンに対して料金を請求するため、すべてのドキュメントのすべてのフィールドには、タスクの難易度ではなく冗長度に応じて生成コストがかかります。

System One 抽出モデルは、その経済性を逆転させます。 Cloudflareによると、Clairicは単一のフォワードパスで入力を処理し、入力トークンに対してのみ課金し、通常は1秒以内に応答するが、同じフィールドを介して動作する推論LLMには数秒かかる場合があるという。大量のドキュメントを処理する場合、その差は急速に拡大します。

リクエストが実際にどのように機能するか

開発者は、入力されたフィールドのマップとともに状態 (読み取るテキストと最大 4 つのオプションの画像) を Clairic に送信します。各フィールドには、名前、タイプ、およびオプションの平易な言語の指示が含まれます。このモデルは、単一の並列パスで計算された、フィールドごとに 1 つの入力された回答を返します。フィールド リストが 1 つのパスの入力の横に収まらない場合、サーバーは作業を並列パスに分割し、それぞれが完全な入力を参照してから、回答をマージします。

推定タスクの場合、回答は分布として提供されます。つまり、10 パーセンタイルから 90 パーセンタイルにわたる 80% 間隔の中央値であり、リクエストに応じて 99 パーセンタイルすべてが利用可能です。これにより、このモデルは、予想される修理費用、納期、翌日の交通量などの予測形式の質問に使用できるようになり、単一点推定ではモデルの確実性が誇張されてしまう場合があります。

インフラストラクチャ市場へのシグナル

クレリック自身が成功するかどうかは、ほとんど重要ではない。この発表は、インフラストラクチャ プロバイダーの間で、タスクに合わせて適切なサイズのモデルに向けて急速に進んでいるもう 1 つのデータ ポイントです。つまり、狭義の構造化された作業向けの小型、高速、安価なモデルであり、フロンティア LLM は真に自由な推論用に確保されています。 Cloudflare 自身のポジショニング (抽出、決定、言語モデルは連携して機能する必要がある) は、実稼働 AI スタックがどのように組み立てられるかを考えるための青写真となります。

同社は約束された無差別級のリリース日を発表していない。現在のところ、Clairic は Workers AI でプレビューで利用可能であり、開発者は自身の抽出ワークロードに対してそれをテストし、LLM 請求額が実際にどれだけ必要だったのかを知ることができます。

_この記事は、Clairic 抽出モデル プレビューに関する Cloudflare の公式発表に基づいています。_

---

AIの最新情報をお届け

AIの最新ニュース、分析、ブレイクスルーを一箇所で。

AIニュースをもっと読む →