Databricks、オープンウェイト活用を提唱　利用モデルは平均4.2から7.1に

Databricksの公式ブログによると、同社のAI基盤「Unity AI Gateway」では、1顧客あたりの平均利用モデル数が増えています。1月以降で4.2から7.1になり、そのうち約4割がオープンウェイトでした。

対象は、Databricksで生成AIを使う企業の開発者や、AI基盤の管理者です。個人の契約や料金が自動で変わる話ではありません。

オープンウェイトとは、AIの中身にあたる「重み」を公開したモデルのことです。自社の管理下にある環境で動かしやすく、提供元の方針変更の影響を受けにくい特徴があります。Unity AI Gatewayは、そうしたモデルと有料の最先端モデルを、1つの管理されたAPI（アプリから呼び出す仕組み）で扱う基盤です。

企業が複数モデルへ向かう7つの背景

ブログを書いたのはDatabricksの現場エンジニアたちです。2年間、単一の提供元に標準化してきた企業が、方針を見直していると述べています。理由として7つの圧力を挙げています。

• AI予算が収益やコスト削減を上回り、費用対効果の改善が必要になっている
• 最上位モデルの順位は2023年5月以降で20回以上入れ替わっている
• 提供元の安全装置が、マルウェア分析のような正当な作業を拒むことがある
• 提供元のデータ保持方針が変わる可能性がある
• 入出力やエラー、エージェントの動作を検索できる記録への需要がある
• モデルを包む仕組み（ハーネス）で性能が変わる
• オープンウェイトが最先端モデルに近い水準に達した

ブログは、安全装置の例としてHugging Faceの事案を挙げています。対応チームが実際の攻撃ログを有料モデルに渡したところ拒否され、オープンウェイトのGLM 5.2で分析したと説明しています。

データ保持では、Anthropicの上位層で30日の最低保持が導入された例を挙げています。「プロンプトも出力も保存しない」という前提で社内ルールを作った企業には、影響が出うるという指摘です。

ハーネスについては、Databricks自身のベンチマーク（性能テスト）で、同じモデルが61.7%、48.1%、何もない状態で38.4%と差が出たそうです。モデルとハーネスは一緒に評価すべきだと述べています。

利用が増えたGLM 5.2と、速度の数字

ブログは、GLM 5.2が7月中旬に使えるようになり、利用が急に増えたと説明しています。提供開始から1カ月で、Unity AI Gateway上のオープンウェイトの利用トークン（AIが文字を数える単位）の約4割を占めました。

顧客数の伸びは安定していたため、既存顧客がオープンウェイトへ処理を移したと同社は見ています。GLM 5.3とKimi K3も、比較候補になると述べています。

速度については、第三者機関のArtificial Analysisの評価を引いています。GLM 5.3（max）の入力処理から生成までの応答時間は、Databricks上で9.1秒でした。

GPU（AI向けの半導体）の確保も背景にあります。Databricksは7月に30億ドルの資金調達を発表しました。約4,750億円に相当します（サイソク編集部の計算、1ドル=158.29円で計算した目安）。CEOのAli Ghodsi氏はCNBCに「We are running out of GPUs everywhere」（どこでもGPUが足りなくなっている）と話しています。

編集部の見方では、順位が頻繁に入れ替わる以上、モデルを設定で替えられる設計が運用上の保険になります。