問い合わせの窓口で、AIにまず決めてほしいのは「どの担当に回すか」のような選択です。Salesforceが公開した「Koa Decisions」は、こうした判断に特化したAIモデルです。決まった選択肢から1つを選ぶ、はい/いいえで答える、点数をつける。そうした判断を、大きなAIを使わずに素早く行うことを目指しています。
顧客が「Where's my package?(荷物はどこ?)」と送ったとします。Salesforceの発表によると、同社のAIエージェントの仕組み「Agentforce」では、HyperClassifierという判断モデルがこの文を配送の担当部分へ回しています。Koa Decisionsは、このHyperClassifierの次の版です。
HyperClassifierの次の版、画像と音声にも対応
Koa Decisionsは、利用者が決めた分類の一覧と依頼文を読み、1回の処理で答えを返します。発表では、その判断にかかる時間を「ミリ秒」単位としています。
Salesforceのデータサイエンスチームは、Googleのオープンウェイトモデル「Gemma」に新しい学習手法を加えて、このモデルを作ったとしています。オープンウェイトとは、AIの中身にあたる重みを公開したモデルのことです。今回の版では、画像と音声にも対応しました。文字・画像・音声をまとめて扱える仕組みを「マルチモーダル」と呼びます。
今後は、業務の流れを自動化する「フロー」、Salesforceの開発の仕組み「Apex」、AIへの指示文の雛形「プロンプトテンプレート」にも広げる計画です。開発者向けのAPI(アプリから呼び出す仕組み)も用意するとしています。Koaシリーズには、NVIDIAと作った推論モデル(考えてから答えるAI)もあります。
約26ミリ秒と1.4秒、速さの差はどこから
Salesforceは、Agentforceの中で依頼を振り分ける処理を計測し、判断モデルが約26ミリ秒、一般的なLLM(文章を生成する大規模言語モデル)が約1.4秒だったとしています。LLMは答えを「トークン」(AIが文字を数える単位。ほぼ1語)ごとに書きます。判断モデルは依頼文を一度に読み、一度の処理で答えを出します。
「アカウントにログインできません」という問い合わせを、エンジニア、アカウント、営業のどこに回すか。判断モデルは数ミリ秒で「accounts」を選び、答えと信頼度(確からしさを示す点数)を返すとしています。
従来、依頼の分類には専用の機械学習モデルを作る必要がありました。目的を決め、データを集めて印を付け、学習させ、精度を確かめる。そのため、導入まで数か月かかる企業も多かったといいます。Koa Decisionsでは、選択肢に項目を1つ加えるだけで判断に使えます。発表例では、「Returns」を追加した直後に、再学習なしで返品の依頼が選ばれました。同社は、項目を足して数時間で本番に入ることもあるとしています。
OpenAIも10月に「Decisions API」を発表しています。サイソクは10月7日、このAPIが「GPT-6 Luna」を使い、応答を100ミリ秒未満で返すと伝えました(OpenAIが「Decisions API」を発表 「GPT-6 Luna」で応答は100ミリ秒未満)。発表は、9月中旬にTypeSafe AIが「Jev」を公開したことにも触れています。編集部の見方では、両社の数字は測定の条件を確かめないと比べられないため、並べて優劣を決めるのは早いと考えます。
Salesforceは同じ時期、AIエージェントの品質と費用を管理する「Agent Fabric」に、評価機能と費用の上限設定を加えたとしています(Salesforceニュース、11/7確認)。API Evals(APIの評価機能)はベータ版が2026年11月、一般提供が2027年1月の予定です。
無料デモの試し方
Trailheadの無料アカウントを作ると、Koa Decisionsのデモを使えます。発表では、次の手順が示されています。
- 「Route a support request」をクリックし、灰色の矢印を押します。
- 公式ヘルプの手順を確認してください(Salesforceニュースの案内)。
- 同じ依頼文と選択肢をLLM型のチャットに入れ、答えの長さと形式を比べます。