JioHotstarのAI検索、約8週間で15言語超に　音声利用は6割超

この記事は企業の事例紹介で、日本の個人利用者の料金や手続きが変わる話ではありません。AIを試作から本番へ移す立場の人、特にサービス開発やDX（業務のデジタル化）の担当者に関係します。

JioStarはインドで動画配信やライブスポーツの配信を運営する企業です。OpenAIの公式ブログによると、同社のサービスは5億人超が使っています。最大で7,250万人がライブスポーツを同時に視聴した実績もあります。

声で探す検索を、約8週間で15言語超に

JioStarはOpenAI API（開発者がアプリからAIを呼び出す仕組み）を使い、JioHotstarに対話型の検索機能を組み込みました。映画や番組、過去のハイライト、試合中の場面、クリケットの統計を、話しかけて探せます。結果は画面に視覚的に表示されます。

最高アーキテクトのVijay Seshadri氏は、これを「voice-visual interface（声と画面を組み合わせた操作）」と呼びます。発想の出発点は、「気分が落ち込んでいる。元気が出るものを見せて」のような頼み方です。従来のおすすめ機能では、この微妙な気持ちを読み取りにくいと同氏は説明しています。

開発は10月から11月にかけて構想が始まり、2月の大きなクリケット大会に間に合わせる必要がありました。期間は約2か月です。対象は娯楽の視聴者とクリケットファンの2種類で、後者には1球ごとの統計を求める専門家もいます。

精度・速さ・コストを同時に釣り合わせる

設計の軸は、精度、応答の速さ、コストの3つのバランスでした。利用者の60%超が文字でなく声を使うため、答えは適切で、速く、大規模でも採算が合う必要があります。

同氏は成功のカギとして「evals, evals, and evals」を挙げました。evalとは、AIの答えの質を測る評価のことです。初めて作る人は、準備したつもりでも重要性を見誤りやすいと述べています。

評価は2層で考えるそうです。1つは本番前の評価の枠組み、もう1つは本番での検証の層です。本番では、利用者の行動や失敗を新しい評価ケースに戻す循環を作ります。

スポーツ統計の評価では、スポーツ雑誌の編集者のような専門家と組みました。プロンプト（AIへの指示文）だけで始めるのではなく、人の専門知識を最初に仕込む必要がある、という考えです。

小さなチームが先にやったこと

体制は、データサイエンティストとエンジニアの小さなチームです。OpenAIのフォワードデプロイドエンジニア（顧客先で一緒に開発する技術者）も加わりました。

最初に決めたのは範囲です。声や文字では何でも聞けてしまうため、まず答えない内容を決め、ガードレールを先に作りました。

評価データは、種になるデータを用意し、モデルで言い回しを増やしました。さらに、答えを考えるモデルと、それを検証するモデルを分けています。検証側は別の目的を持たせた「LLM as judge（AIによる採点役）」です。

ただし、その採点役を誰が試すのかという問題が生まれます。検証役の設計自体が評価の課題だったと同氏は述べています。Codexは評価ケースの生成やシステム更新を速めましたが、判断と検証が不要になったわけではないとのことです。

振り返りと経営層への3つの助言

やり直せるなら、モデルの有効性を本番で監視する仕組みに早く投資すると同氏は話しました。P99の応答時間（遅い側1%を除いた応答の速さ）のような従来の指標だけでは足りないためです。

経営層への助言は3点です。

• 技術でできることと企業の現実には大きな差があり、最新モデルの発表に追いつけなくても珍しくない
• 活動量でなく成果を見る。生成したコードの行数では価値は測れない
• 人の技能と裁量を過小評価しない。一般的な研修だけでは足りず、判断力のある人に道具を渡す

同氏はAIを「massive simplification hammer（業務を大きく単純化する道具）」とも呼び、業務やシステムの簡素化に使わなければ機会の損失になると述べました。

編集部の見方では、今回の事例は機能の派手さより、評価と検証を先に設計した点に特徴があります。

日本から使えるもの

OpenAI APIとChatGPTは日本で使えます（当サイトの確認：11/3）。Codexは無料版を含むChatGPTの各プランに含まれ、無料版には使用量の上限があります。Codex Cloudは、FreeとGoには含まれません（当サイトのCodexガイド、11/9確認）。

JioHotstarの今回の機能が日本で提供されるかは、まだ発表されていません。