インドのITサービス大手Infosys（インフォシス）は、NVIDIAのAIスタックを全面的に採用したエンタープライズ向け生成AIソリューションを発表しました。金融業界に特化した「Infosys Topaz BankingSLM」およびIT運用向けの「Infosys Topaz ITOpsSLM」という2つの小規模言語モデル（SLM）を提供します。NVIDIAの「NeMo」プラットフォームや「NIM」マイクロサービスを統合し、安全で高性能な自社専用AIの構築を支援します。
何が発表されたのか
デジタルサービスとコンサルティングのグローバルリーダーであるInfosys（インフォシス）は、NVIDIAの高度なAI技術群を統合したエンタープライズ向け生成AIソリューション群を発表しました。本発表は、Infosysの既存の生成AIブランドである「Infosys Topaz」の拡張に位置づけられます。具体的には、金融機関向けに最適化された「Infosys Topaz BankingSLM」およびIT運用を効率化する「Infosys Topaz ITOpsSLM」という2つの小規模言語モデル（SLM）の提供を開始します。これらは、NVIDIAのAIプラットフォームである「NVIDIA NeMo」や、推論用マイクロサービス「NVIDIA NIM」を活用して構築されており、すでに一般提供（GA）および顧客企業への導入が始まっています。
発表された機能・アップデートの全容
1. 業界特化型小規模言語モデル「Topaz BankingSLM」と「ITOpsSLM」
Infosysは、特定の業界や業務ドメインに特化した小規模言語モデル（SLM）を開発しました。第一弾として、金融業務向けの「BankingSLM」と、ITシステム運用を自動化する「ITOpsSLM」を提供します。一般的な大規模言語モデル（LLM）と比較して、これらのSLMはパラメータ数が小さく設計されています。そのため、企業独自のプライベート環境やオンプレミス環境でも高速かつ低コストで動作させることが可能です。金融機関の厳格なコンプライアンス要件や、IT運用のリアルタイムなトラブルシューティングに対応できる専門知識が事前に学習されています。
2. NVIDIA NeMo Curatorによる高品質データパイプラインの構築
モデルの精度を左右するデータ準備の工程において、Infosysは「NVIDIA NeMo Curator」を採用しました。動画内の資料画面では、膨大な未整理データからノイズを除去し、重複を排除して高品質な学習データを抽出するプロセスが示されています。NeMo Curatorを導入したことで、SLMの構築に必要なデータ加工のライフサイクルが大幅に短縮されました。これにより、企業が持つ独自のドキュメントやログデータを、迅速に学習用データセットへと変換できます。
3. NVIDIA NeMo Guardrailsによるエンタープライズ基準の安全性担保
企業が生成AIを導入する際の最大の障壁となるのが、機密情報の漏洩や不適切な回答（ハルシネーション）です。Infosysは「NVIDIA NeMo Guardrails」をシステムに組み込むことで、この問題を解決しています。デモ画面では、ユーザーが「昨年の社員の養子縁組に関する費用」について質問した際、AIが「申し訳ありませんが、それは機密情報であるため回答できません」と適切に拒絶する様子が映し出されました。このように、社内規定やプライバシーポリシーに反する出力をリアルタイムで遮断する制御が自動で行われます。
4. NVIDIA NeMo RetrieverとEnterprise RAGによる高精度な知識検索
回答の正確性を向上させるため、Infosysは「NVIDIA NeMo Retriever」と「Enterprise RAG（検索拡張生成）」を統合しました。これは、企業の内部データベースから最適な情報を検索し、それを基にAIが回答を生成する技術です。動画内では、GPUを活用した大規模ベクトル検索技術「cuVS」や「GPU-Accelerated Vector Search」のライブラリが紹介されています。これにより、数百万件規模の社内文書からでも、ミリ秒単位で正確な参照先を特定し、事実に基づいた回答を生成することが可能になりました。
5. NVIDIA NIMによるポータブルかつスケーラブルな推論環境の実現
開発したモデルを本番環境にデプロイする基盤として、Infosysは「NVIDIA NIM（NVIDIA Inference Microservices）」を採用しています。デモ画面では、Pythonコードを用いて「Llama-3.1-405b-instruct」モデルなどのAPIを呼び出し、推論を実行する様子が公開されました。NIMを使用することで、コンテナ化された一貫性のある環境が提供されます。これにより、クラウド、オンプレミス、あるいはハイブリッド環境を問わず、迅速かつ容易にモデルをスケールさせることができます。
6. 「Infosys Agentic Foundry」と自律型エージェント開発環境
Infosysは、複数のAIエージェントが協調して複雑なタスクを実行する「Infosys Agentic Foundry」を構築しています。デモ映像では、開発者が「MemoryItemクラスに、IDごとの特定のメモリ項目を更新する関数を追加し、関連するドキュメントを作成してください」と指示を入力する様子が描かれました。これを受けたAIエージェント群が、自動でコードを記述し、ドキュメントを生成し、テストを走らせて統合を完了する一連のワークフローが自律的に実行されました。開発者の作業負担を劇的に軽減する仕組みがすでに稼働しています。
性能・ベンチマーク
動画内では、具体的なベンチマークスコアの数値は提示されていません。ただし、InfosysのBalakrishna D. R.氏は、NVIDIAのAIスタックを採用したことによる定性的な効果を明確に述べています。具体的には、モデルのトレーニング時間と推論時間が大幅に短縮され、システムの統合に必要な開発工数が削減されたことで、「総所有コスト（TCO：Total Cost of Ownership）の削減とパフォーマンスの向上の双方を同時に実現できた」と説明しています。
| 評価項目 |
測定条件・比較対象 |
改善効果（動画内の言及に基づく） |
| トレーニング時間 |
従来の自社構築パイプライン比 |
大幅な時間短縮を達成 |
| 推論パフォーマンス |
NVIDIA NIM未適用時との比較 |
高速化およびコンテナ化による移植性の向上 |
| 統合コスト |
業界特化型モデルの新規開発時 |
NeMoスタックの活用により開発工数を削減 |
| 運用コスト（TCO） |
一般的なLLMのクラウド運用比 |
SLM化とRAGの最適化により大幅に低減 |
競合サービスとの比較
InfosysとNVIDIAが提供するソリューションを、競合となる大手クラウドベンダーやAIプロバイダーのサービスと比較します。以下の比較情報は、一般的な技術仕様に基づき取材班が整理したものです。
| 比較項目 |
Infosys + NVIDIA Topaz |
OpenAI (Enterprise) |
Microsoft Azure AI |
Meta (Llama 3.1) |
| 主な特徴 |
業界特化型SLMとオンプレミス運用 |
汎用超巨大モデルのAPI提供 |
クラウド統合型AIプラットフォーム |
オープンソースモデルの提供 |
| データの安全性 |
NeMo Guardrailsによる厳格なオンプレミス制御 |
クラウド側でのデータ保護契約に依存 |
Azureのセキュリティ基準に準拠 |
ユーザーのインフラ依存 |
| デプロイの柔軟性 |
極めて高い（NVIDIA NIMによるコンテナ運用） |
低い（OpenAIのクラウドAPI限定） |
中（Azureクラウド環境が前提） |
高い（ローカルからクラウドまで対応） |
| 業界特化度 |
金融・IT運用に最適化された事前学習済みSLM |
汎用モデル（プロンプト等で調整が必要） |
汎用モデル（RAG等でカスタマイズ） |
汎用モデル（ファインチューニングが必要） |
| 強み |
自社インフラでセキュアかつ低コストに運用可能 |
圧倒的な汎用推論能力と手軽さ |
既存のOffice 365等のシステムとの親和性 |
オープンソースによる完全なカスタマイズ性 |
| 弱み |
NVIDIA製GPUインフラの初期投資が必要 |
データの外部送信が発生、カスタマイズに限界 |
クラウドの利用料が従量課金で累積しやすい |
構築・運用のための高度な技術力が必要 |
料金・提供プラン
動画内および公式発表において、具体的な価格やAPIの利用料金についての言及はありません。Infosys Topazおよび新発表のSLMは、個別見積もりによるエンタープライズ向けのコンサルティングおよび統合サービスとして提供されます。NVIDIA NIMやNeMoなどのソフトウェアライセンスは、NVIDIAのエンタープライズ向け製品「NVIDIA AI Enterprise」の契約に含まれる形で提供される仕組みとなっています。
日本から使う方法
日本のユーザーが本ソリューションを導入・検討するための手順は以下の通りです。
- Infosys日本法人への問い合わせ：
本ソリューションは個別エンタープライズ契約となるため、Infosysの日本窓口、またはグローバル問い合わせページからコンサルティングを依頼する必要があります。
- NVIDIA AI Enterpriseの契約：
NVIDIA NIMやNeMoなどの機能一式を利用するため、NVIDIAまたは認定代理店を通じて「NVIDIA AI Enterprise」のライセンスを取得します。
- 日本語対応の確認：
「BankingSLM」および「ITOpsSLM」の初期モデルは英語を中心に最適化されています。ただし、NVIDIA NeMoのフレームワーク自体は多言語に対応しているため、日本の顧客データ（日本語のドキュメント）を追加学習させて日本語特化のSLMを構築することが可能です。
- インフラの確保：
オンプレミスまたはクラウド（AWS、Azure、GCPなど）上に、NVIDIAのTensor コア GPU（H100やA100など）を搭載したインスタンスを準備する必要があります。
誰にどう効くのか
経営層・CIO（最高情報責任者）
- インパクト：生成AI導入におけるセキュリティリスクとコストの予測不可能性を排除できます。
- メリット：NeMo Guardrailsによる厳格なガバナンスにより、機密情報の漏洩を防ぎつつ、自社インフラ内で完結する低コストなAI運用（TCO削減）を実現できます。
システム開発・IT運用リーダー
- インパクト：社内システムの運用自動化と、AIエージェントによる開発の高速化が手に入ります。
- メリット：ITOpsSLMを活用することで、システムの障害検知から復旧までの時間を短縮できます。また、Agentic Foundryにより、開発チームのコード生成やドキュメント作成の工数を削減できます。
業務部門（金融・コンプライアンス担当）
- インパクト：厳格な規制下にある金融業務において、安全にAIの支援を受けられます。
- メリット：BankingSLMとEnterprise RAGの組み合わせにより、正確な顧客データや社内規定に基づいた顧客対応、ドキュメントの自動審査などが可能になり、業務の正確性と速度が向上します。
まとめ
InfosysとNVIDIAの提携強化は、エンタープライズ生成AIが「汎用モデルのクラウド利用」から「業界特化型SLMの自社運用」へとシフトしている潮流を象徴しています。NeMoやNIMを活用した安全でポータブルなAI基盤は、特に金融などの規制業界において強力な選択肢となります。次のステップとして、自社の保有データ資産を整理し、小規模言語モデルのファインチューニングに向けたデータパイプラインの設計に着手することをお勧めします。
