テキストを生成しないAIモデルJevとは何か　LLMと制御ソフトの溝を埋める新構造

何が発表されたのか

ChatGPTの初期研究およびRLHF（人間のフィードバックによる機械学習）論文の共著者であるDiego Almeida氏が設立したTypeSafe AIは、テキスト生成を行わず判断処理に特化したAIモデル「Jev」を一般公開しました。

Jevは、フロンティアLLMが持つ柔軟な推論力と、従来のソフトウェアが求める確定的な意思決定との間にある溝を埋めるために開発されたモデルです。研究段階の概念実証にとどまらず、APIおよびエコシステム全体での利用を見据えたサービスとして提示されています。

既存の生成AIのように1トークンずつ文字列を出力する「自己回帰（Autoregressive）生成」を完全に排除し、入力データと選択肢をまとめて1回の順伝播（Forward Pass）で処理する「System One Model」という新たな分類を提唱しています。

発表された機能・アップデートの全容

1. テキストを生成しない「System One Model」の概念

心理学における「二重過程理論」では、速く直感的な思考を「システム1（System 1）」、遅く論理的で労力を要する思考を「システム2（System 2）」と定義します。既存のLLMは思考過程を文字として書き出すためシステム2に相当しますが、Jevはシステム1のように即座に判定を下します。テキストを構成するトークンを順番に予測するのではなく、学習済みの決定関数 $f(x)$ として機能し、ソフトウェアがそのまま利用できる構造化データを直接返します。

2. Jevが提供する3つの決定出力タイプ

Jevは用途に応じて3つの柔軟な出力フォーマットをサポートしています。

• Choice（選択）: 最大255個の定義済み選択肢から最も適切なものをスコアリングし、全体の確率分布を出力します。例えばカスタマーサポートの問い合わせ内容から「請求（billing）」「不正利用（fraud）」「技術支援（technical support）」などの担当部署を即座に割り当てます。
• Score（スコア判定）: 「Terrible」から「Excellent」のような連続的な順序尺度を定義し、期待値を計算して小数値（例: 3.3）で出力します。
• Noul（真偽・確率判定）: 事象の真偽（true/false）だけでなく、その事象が真である確率（例: 不正取引である確率 87%）を直接返します。

3. 自己回帰の排除による高速化と低価格化

従来のLLMでJSONなどのフォーマットを指定して回答を得る場合、モデルは「The customer was charged twice, so...」といった無駄な中間テキストを含めて何十トークンも生成する必要がありました。Jevはこの生成工程を丸ごと削除しました。コンテキストと選択肢を入力すると、一度の計算処理で完了します。結果として端対端（End-to-End）のレイテンシーは70ms〜500msに収まり、同等の判断タスクにおいて既存LLMより約194倍高速化され、トークン単価コストも約445倍削減されました。

4. RLCDによる確率キャリブレーションとAIエージェント統合

Jevは「RLCD（Reinforcement Learning for Calibrated Decisions）」と呼ばれる独自手法で訓練されています。これにより、モデルが出力する確率数値のキャリブレーション（補正）が極めて正確に保たれます。Jevが「信頼度90%」と出力した判断は、統計的に10回中9回正確であることを意味します。AIエージェントの制御レイヤー（Harness）にJevを組み込むことで、「信頼度90%以上なら即座に自動実行」「70%〜90%なら人間へ承認要求」「70%未満なら大型LLMへエスカレーション」といった決定論的な条件分岐コードを安全に記述できます。

5. オープンソースにおける再現モデルの登場

Jevの発表後、同様の「非自己回帰型決定モデル」を再現するオープンソースプロジェクトが相次いで登場しました。

• Laya（Convai Innovations発）: ModernBERT-large（395M）をベースに決定用ヘッドを追加した約421Mパラメータのモデル。特定のベンチマークで高精度を実証しています。
• Von: JevのAPI仕様と完全互換を目指したオープンソース実装。Brier Score Lossを組み合わせた損失関数で学習し、高精度な確率キャリブレーションを実現しています。