Googleが「Gemini」モデルの使い分け手法を公開　タスクごとのコスト削減を検証

今回発表されたのは、AIエージェントが使うモデルを、作業の難しさに応じて自動で切り替える仕組みです。開発者がコーディングエージェントを運用する際、1トークンあたりのAPI料金だけでなく、1タスクを完了させるまでの総コストが重要になっています。

発表元はGoogle Developers Blogで、Google Cloud AIのSergio Villani氏が執筆しました。発表の主なポイントは、安い分類器を使って軽い作業と重い作業を振り分けることでコストを下げられるという検証結果です。

具体的には、TypeSafe社のJevという分類器をGeminiのモデル呼び出しの前に置く方法が紹介されています。Jevは1回の処理で「選択肢から1つを選ぶ」「数値を出す」「0から1の確率を返す」といった判断を行います。GoogleはTypeSafe社と提携しておらず、本記事は同社製品を推奨するものではありません。同じ仕組みは、Google DeepMindのオープンウェイトモデルであるDiffusionGemmaなど、他の分類器でも構築できます。

検証は50問のコーディングエージェント課題で行われました。まず、正規表現やトークン数で簡単・難しいを判断する単純なルーターは、見慣れない課題では性能が大きく落ちました。開発用の16問では93.8％の正答率でしたが、未出題の34問では70.6％まで低下しました。一方、Jevは34問すべてで人間の難易度ラベルと一致し、全50問のうち48問、つまり96.0％で難易度を判断しました。

次に、出力トークン数の上限を300に制限しても、簡単な作業の思考コストはほとんど減りませんでした。上限は天井に過ぎず、簡単な回答はそれに達しないためです。むしろ制限により、難しい25問のうち7問で回答が得られなくなるか誤った答えになりました。ルーターを使っても、安い選択肢がモデルの思考を減らさなければ、コストは削減できません。

最も安い構成は、Flash-Liteという思考を行わないモデルにまず処理させます。Jevが難しいと判断したものだけを、Gemini 3.8 Flashの低思考レベルに回す方法でした。このルーターは50問すべてを正解しました。すべてを低思考で処理する場合と比べて、コストと応答時間を抑えられました。ただし、プロンプトが短い場合の1タスクあたりのコスト差は小さいです。対話型エージェントでは、待ち時間の短さがより大きなメリットになります。

また、トークン単価だけではコストの全体像は見えません。文脈キャッシュを使うと同じ大きな文脈を再送する際に75％から90％安くなります。キャッシュは1つのモデルに紐付くため、モデルを切り替えると割引が失われます。短く独立した作業はルーターで振り分け、文脈が多い長いやり取りは1つのモデルで続けるのが現実的な分け方です。

発表では3つの実践的なルールも示されています。まず、ルーターを構築する前にGemini 3.8 Flashの思考レベルを「低」に設定すること。出力トークン数の上限を下げるだけでは、思考量は減りません。thinkingLevelを"LOW"に直接指定する必要があります。次に、Jevは短く独立したタスクに使い、簡単な作業をFlash-Liteに、難しい作業をFlashの低思考に回すこと。1つの要素につき1つの単純なはい・いいえの質問をJevに投げるのがコツです。最後に、文脈が多い長いやり取りは1つのモデルにまとめることです。

日本の開発者への影響と料金

日本向けの提供時期と料金は、まだ発表されていません。Geminiは日本で利用可能です。Jevは TypeSafe社の製品で、Google製ではありません。自社で同様のルーターを構築する場合、APIの従量課金が想定されます。セルフホスティングならGPU時間課金です。

料金の詳しい比較は Geminiは無料でどこまで使える？Google AI Proとの違いと制限 へ