今週、新しい種類の AI モデルがデビューしました。このモデルは、トランスフォーマー アーキテクチャに基づいて構築されたモデルとしては珍しいことを行います。テキストの単語を決して生成しません。 TechCrunchによると、創業2年の新興企業TypeSafe AIがリリースしたJevは、代わりに校正された確率（同社が型付けされた校正済みの決定と呼ぶもの）を出力し、分類、ルーティング、自動化作業のための大規模な言語モデルに代わる安価で高速な代替手段としての地位を確立しているという。

同社は OpenAI 研究者である Diogo Almeida によって設立されました。彼は ChatGPT の構築に貢献し、現世代の AI アシスタントを形成したと広く認められているトレーニング手法であるヒューマン フィードバックからの強化学習 (RLHF) の発明に貢献しました。新しいモデルに対する需要が非常に大きかったため、TypeSafe は発売後に一部の API ユーザーにサービスを提供する能力を一時的に失いました。 この件の詳細は、AIニュースをご覧ください。

ChatGPT のパイオニアが言語を放棄した理由

アルメイダの非テキスト モデルへの道は、OpenAI への失望から始まりました。アルメイダ氏はTechCrunchに対し、「瓶の中に稲妻が入っているのに、役に立たない」と語り、ChatGPTの機能にもかかわらず、この技術は真の自動化には及ばないという不満を述べた。 「それ以来、私はその問題と闘ってきました。結論に達するまでに時間がかかりました。問題は、私たちが人間の言語に最適化していることです...私たちは 4 年間人間の言語に非常に優れていますが、コンピューターは異なる言語を話すため、自動化には役に立ちません。」

2 年前、アルメイダは OpenAI を離れ、TypeSafe AI を設立し、その命題を追求しました。その結果が、同社が大規模な言語モデルではないと主張するトランスフォーマーベースのモデルである Jev です。 LLM が自由形式のテキストを生成する場合、Jev はユーザーが事前に定義した一連の出力全体にわたる確率を返します。同社によれば、モデルは与えられたオプションでしか応答できないため、幻覚は構造的に不可能な設計になっています。

効率の向上はピッチの中核部分です。 TechCrunchによると、Jevからの出力トークンは無料で、入力トークンは100万ではなく10億単位で計測されるという。同社はJevを推論ではなく直観に重点を置いた「System Oneモデル」と説明し、アルメイダが調整された決定からの強化学習と呼ぶ技術を使用して合成データのみでトレーニングされたと述べている。

TypeSafe は Jev のアーキテクチャを秘密にしてきましたが、外部の観察者はシステムがオープンウェイト LLM の上に構築されているのではないかと疑っています。 「[当社]の半分は基本的に、統計的によく理解されている合成データのこのサブフィールド全体を所有する研究所であり、それが今では私の人生の喜びです」とアルメイダ氏はTechCrunchに語った。

初期の開発者の成果: より速く、より安価に

早期導入者は、テストで顕著な成果が得られたと報告しました。 VercelのソフトウェアエンジニアであるPranit Sharma氏はTechCrunchに対し、彼の会社は安全性を確保するためにコマンドをレビューする分類器を実行するためにOpenAIのChatGPT Luna 5.6を使用していたと語った。そのワークロードを Jev に切り替えた後、Vercel は 5 ～ 18 倍速く、より高い精度で結果を確認しました。

Bryo AI の CTO である Nikhil Mudholkar 氏は、Jev と Google の Gemini でビジネス メールを分類するという別の比較を実行しました。彼のテストでは、Gemini の方がわずかに正確でしたが、コストは 10 ～ 20 倍高かったです。 Mudholkar にとって、Jev の最も貴重な財産は不確実性への対処でした。 「実際の確率を返す唯一の方法であり、ワークフローの自動化に最適です」と同氏はTechCrunchに語った。

エージェントは請求書なしでエージェントを監視

TypeSafe は、分類タスクで LLM を置き換えるだけでなく、Jev が LLM を監視できると主張しています。 AI エージェントを使用して他のエージェントを監視すると、すぐにコストが高くなりますが、Jev の速度とコスト プロファイルにより、LLM エージェントの追跡を追跡し、リアルタイムで脱獄を防ぐことが現実的になる、とアルメイダ氏は主張します。

Earendil の CTO であり、オープンソース モデル ハーネス Pi の開発者である Armin Ronacher 氏は TechCrunch に対し、このアプローチでは不確実性に対する責任が開発者に移されると語った。 「幻覚の問題をユーザーに少しだけ委ねることになる」とロナッチャー氏は語った。 「ユーザーはこう言わなければなりません。もしこれが 50% の確率でしか返されないのなら、おそらくこれはコイン投げでしょう。そして私はそれを無視します。しかし、確かに 95% であれば、それを使って何かできるでしょう。」

Ronacher 氏はまた、モデル ルーティングを有望なユースケースとしてフラグを立てました。これは、特定のワークロードに特定のより高価なモデルが必要かどうかを予測することです。 LLM を使用してその並べ替えを行うとコストがかかりますが、Jev の低遅延と価格により、リアルタイム ルーティングが実現可能になります。

経済学から借りた名前

このモデルは、ジェボンズのパラドックス、つまり商品が安くなると消費が増加する傾向があるという観察を提唱した 19 世紀の経済学者、ウィリアム・スタンレー・ジェボンズにちなんで名付けられました。アルメイダ氏の賭けは、意思決定グレードのインテリジェンスのコストが低下することで、主力のチャットボットだけでなく、あらゆる場所にそのインテリジェンスが導入されるようになるということです。

「私たちは、賢いソフトウェアが、あらゆる場所に、新たに出現して分散する形で存在するだろうと考えています...人々が今構築しようとしている巨大アプリのような、皆さんが知っているよりもずっと初期のインターネットに似ています」とアルメイダ氏はTechCrunchに語った。

競合他社が追随するかどうかは未解決の問題のままだ。 「多くの点で、これをもっと早くに見ておくべきだったが、おそらくLLMは非常に安価で補助金を受けているため、多くの場合、まだ創造性を発揮する必要はない」とRonacher氏はTechCrunchに語った。 TypeSafe は、新しいモダリティで Jev の追加バージョンを計画しています。

TypeSafe がフロンティア ラボに該当するかどうかについて、アルメイダは鋭い答えを示しました。「フロンティア ラボの主な製品は恐怖か誇大広告です。私たちの主な製品はインテリジェンスであってほしいと思っています...[しかし、私たちは]無限の富に賭けたり、宗教を賭けたり、データセンターに神を構築したり、今日のものであるような意味でのラボではありません。」

---

AIの最新情報をお届け

AIの最新ニュース、分析、ブレイクスルーを一箇所で。

AIニュースをもっと読む →