TypeSafe AI、最大200倍高速な意思決定特化型AI「Jev」を発表　テキスト生成を廃し選択肢から即答

何が発表されたのか

AIスタートアップであるTypeSafe AIは、テキスト生成プロセスを完全に排除し、選択肢からの「意思決定」に特化した新しいAIモデル「Jev」およびその基盤となる「System One」モデルを発表しました。本発表は、研究段階のプロトタイプにとどまらず、実際の開発エージェントやリアルタイムシステムに組み込んで利用できる実用的なツールとして提供されています。

従来のLLM（大規模言語モデル）は、1トークンずつ順番にテキストを生成する「自己回帰型」のアーキテクチャを採用しているため、推論速度が遅く、リアルタイム処理には不向きでした。これに対し、Jevはあらかじめ提示された複数の選択肢から最適なものを一瞬で選択する仕組みを採用しています。これにより、特定のタスクにおいて従来のLLMと比較して最大200倍の高速化を達成しました。

発表された機能・アップデートの全容

テキストを生成せず「意思決定」に特化した新アーキテクチャ

Jevの最大の特徴は、文字や文章を生成するのではなく、与えられた状況（世界の状態）と選択肢から「次の行動」を決定することに特化している点です。動画内のデモでは、クイズ番組のように「質問」と「4つの選択肢」を入力すると、文字を入力するプロセスを経ずに、一瞬で正解の選択肢のみを出力する様子が描かれています。このアプローチにより、推論にかかる時間を劇的に短縮することに成功しました。

すべての選択肢を同時に評価する「パラレルサンプリング」

従来のLLMは、候補となる回答を1つずつ順番に生成し、それぞれの確率を計算していました。しかし、Jevは「パラレルサンプリング（Parallel Sampling）」と呼ばれる技術を採用しています。これは、提示されたすべての選択肢を一度に並列で評価する仕組みです。この手法により、無駄な計算トークンを消費することなく、最小限のコンピューティングリソースで最適な回答を導き出すことができます。

信頼度と正解率を一致させる新学習手法「RLCD」

Jevは、新しい強化学習手法である「RLCD（Reinforcement Learning for Calibrated Decisions）」を用いて訓練されています。この手法により、AIが出力する「信頼度スコア（Confidence）」と、実際の「正解率」がほぼ正確に一致するようになります。例えば、Jevが「信頼度80%」と判断したタスクは、統計的に100回中約80回正解します。この特性により、システム開発者は「信頼度が低い場合は、より賢く低速なLLM（OpenAIのGPTシリーズなど）に処理を転送する」といった柔軟な制御フローを構築できます。

開発エージェントの判断を高速化する協調動作デモ

動画内では、自律型コーディングエージェントがJevを補助脳として活用するデモが紹介されました。エージェントがコードを修正する際、「どのファイルを開くべきか」「どのエラーを優先して修正すべきか」といった無数の単純な選択を迫られます。これらの判断をすべてLLMで行うと膨大な時間とコストがかかりますが、Jevに意思決定をオフロードすることで、エージェント全体の動作速度が大幅に向上し、トークン消費量を削減できることが実証されました。

ローカルで動作するオープンソース代替モデル「Laya」の台頭

Jevの発表を受け、オープンソースコミュニティでは早くも代替モデルの開発が進んでいます。その一例が、Hugging Faceで公開されている「Laya」です。動画内では、AppleのM3 Maxチップを搭載したMac上でLayaをローカル動作させ、レトロゲームの「スネーク」や「テトリス」をリアルタイムでプレイするデモが披露されました。Layaの推論時間はわずか15.8ミリ秒（72.1トークン/秒相当）を記録しており、クラウドを介さずとも実用的な速度で動作することが示されています。