何が発表されたのか
Microsoftの開発者向け統合AIプラットフォーム「Microsoft Foundry」において、複数の大規模言語モデル（LLM）を束ねて単一のAPIエンドポイントから自動的に適切なモデルへと要求をルーティングする「Model Router」の機能拡張が発表されました。クラウド・アドボケイトのBethany Jepchumba氏が登壇し、実際の管理画面を用いたデモンストレーションとともにその仕様を解説しました。
本機能は、すでに一般提供（GA）およびプレビュー段階として提供されているMicrosoft Foundryのインフラ上で動作するものであり、従来の個別モデルデプロイの課題であった運用負荷とコストの増大を解決するためのアップデートです。特定のモデル固定によるオーバーペックや高コスト化を防ぎ、プロンプトごとの複雑さや応答速度の指定に基づいて最適な基盤モデルへ自動的に処理を分散させる運用が可能になります。
発表された機能・アップデートの全容
Model Routerの概要とDiscover画面からのデプロイ手順
Microsoft Foundryの「Discover」タブからモデル検索画面を開き、「model-router」と入力することで一覧にモデルルーターが表示されます。ここから標準的なモデルデプロイと同様の手順で、単一のルーティング用エンドポイントを構築できます。
画面上の詳細カードには、コンテキストウィンドウ長として1048.576kトークン（約100万トークン）、トークン上限32768トークンが明記されています。配信方式としてはGlobal StandardおよびData Zone Standardの両方がサポートされており、企業のデータ処理要件やリージョン制限に応じた柔軟な配置が選択可能です。
高度なカスタム設定と3つのルーティングモード（Balanced / Quality / Cost）
デプロイ実行時には「Default settings」のほかに「Custom settings」が用意されており、用途に応じたカスタマイズが可能です。具体的には「Routing mode」として以下の3つの制御アルゴリズムを選択できます。
- Balanced（デフォルト）: コストと応答精度のバランスを考慮してモデルを選定します。
- Quality: 複雑な処理や高品質な出力が必要な場合、最上位モデルを優先します。
- Cost: 処理コストを最小限に抑えるため、軽量モデルや低単価モデルを優先します。
また、振り分け対象とするモデル群の制限も可能です。画面上では「Route to all supported models」（最大27モデル）を選択できるほか、「Route to a subset of models」をチェックすることで、特定のモデル（例: gpt-4o, gpt-5.4-nano, claude-sonnet-4-5, grok-4, DeepSeek-V3.2など）のみをターゲットに指定できます。さらに「Upgrade model version once new default version becomes available」のチェックボックスを入れることで、モデルの世代交代時に自動的に最新モデルへ追従する運用が可能です。
エージェント連携における自動最適化とデモ実証（Cupcake Agent）
デモでは、店舗の注文受付エージェントである「cupcake-agent（Sparkles Cupcakes）」にModel Routerを適用する様子が示されました。従来のエージェント構築ではモデルを単一（例: gpt-5.4-miniなど）に固定するのが一般的でしたが、エンドポイントを「model-router」に変更するだけで、背後のモデル選定が自動化されます。
ユーザーから「hello, I want to order a cupcake（こんにちは、カップケーキを注文したいです）」という標準的な入力があった際、システム側は「gpt-5.6-luna」を自動的に選択して応答を生成しました。処理時間は約2秒、トークン消費も極めて低く抑えられており、簡単な顧客応対に対して過剰な大規模モデルを呼び出さずに済む様子が実証されました。
複合作業や推論・一般教養問題での動的モデル切り替え実証
続いて、より高度なロジックを要するタスクとして「12個のボールと天秤を用いて3回の計測で重いボールを特定する」という複雑な数学・論理推論パズルが投下されました。Model Routerは要求の文脈と構造を瞬時に判断し、推論特化型モデルである「grok-4.1-fast-reasoning」へと処理を自動で振り分けました。1.6秒という高速なレスポンスでステップごとの解法を出力しています。
さらに「what is the capital city of Nairobi?（ナイロビの首都はどこですか？）」という引っかけ質問や「what is the capital city of Burundi?（ブルンジの首都はどこですか？）」といった一般知識問題に対しては、「gpt-5.5」へルーティングされました。「ナイロビは都市であり国ではない（ケニアの首都）」という文脈補正や、ブルンジの首都がギテガ（Gitega）であり旧首都がブジュンブラ（Bujumbura）であるという地政学的な歴史背景を含めた正確な回答が生成されました。
詳細なモニタリング機能によるコストとトークン消費の可視化
Model Router管理画面の「Monitor」タブでは、ルーティングされた全リクエストの集計データがリアルタイムでグラフ化されます。画面上のダッシュボードには以下の評価指標が表示されています。
- Total requests（総リクエスト数）: 例として12件
- Total token count（総トークン数）: 8.45K（1リクエスト平均704トークン）
- Input tokens（入力トークン数）: 8.07K（1リクエスト平均672トークン）
- Output tokens（出力トークン数）: 385（1リクエスト平均32トークン）
- Estimated total cost（推定コスト）: ドル単位で即座に算出
- Time to first byte (ms) / Time to last byte (ms): レイテンシ推移のグラフ表示
開発者はこれらのログを確認することで、実際にどのモデルが多く選択されているかを把握できます。特定モデルに処理が偏っている場合は、ルーティングモードを調整するか、特定のモデルを直接使用する構成へ移行判断を下すためのデータとして活用できます。
