概要
NVIDIAは公式開発者ブログを更新しました。次世代AI基盤「Vera Rubin」に向けたKubernetesの実行基盤「AICR」のレシピを公開しています。複雑な初期設定やドライバの組み合わせをあらかじめ検証しました。再現可能な状態で提供するものです。
何が発表された?
NVIDIA Developer Blogによると同社はAIインフラの構築を簡素化する「NVIDIA AI Cluster Runtime(AICR)」を発表しました。次世代の「Vera Rubin NVL72」に向けた新しいレシピファミリーを公開しています。現在はプレビュー版としての提供です。正式な製品サポートやライフサイクル管理の対象外となる早くから使い始める人(アーリーアダプター)向けのパスとなっています。
公開されたレシピはトレーニングおよびインプレッションの用途に対応しています。専用のプラットフォームフラグを用いて探索することが可能です。
あわせて読みたいNVIDIA Vera Rubin発表|AI工場DSX PODとOpenShell→前と何が違う?
GPUドライバとカーネルの更新
Vera Rubin NVL72では新しいドライバブランチである「R615.23」オープンカーネルモジュールドライバが検証されています。AICRの従来のGB200向けベースライン(R580.173.02)から更新が行われました。
ネットワークとトポロジの変更
従来の「ConnectX-7」や「BlueField-3」から、「ConnectX-9 SuperNIC」および「BlueField-4 DPU」へと置き換わっています。これに伴いPCIデバイスグループの数やGPUとNICの接続関係が変わります。NUMA配置などの確認が必要です。
コンピューティングドメインとDRAドライバ
Dynamic Resource Allocation(DRA)ドライバのバージョン0.5.0が採用されました。ComputeDomainsを用いたマルチノードのNVLinkワークロード制御が行われます。
数字で見るとどう変わった?
Vera Rubin NVL72のリファレンスクラスターを使った検証では、次のツールやドライバが使用されました。
- GPU Operator v26.7.0
- DRAドライバ v0.5.0
これらを用いてデプロイや適合性テストが行われました。
トレーニング向け性能ゲートのテストも行われています。クロスノードのNCCL all-reduceにおいて、NVLinkファブリック経由で16 GiBのデータに対し「744.71 GB/s」のバス帯域幅を達成したことが示されました。
ライバルと比べてどう?
今回の発表は特定の競合製品との比較ではありません。NVIDIA自身が手がける最新世代のハードウェアアーキテクチャ「Vera Rubin」を対象としています。それをクラウドネイティブな環境でいち早く動かすための実証とツール提供に関するものです。オープンソースのモジュール型ソフトウェアとして提供される点に特徴があります。システム全体の一貫性を保つアプローチも特徴です。
料金は?
AICR自体はオープンソースのツールチェーンとして提供されています。記事内においてソフトウェア自体の直接的な販売価格についての言及はありません。
日本で使える?
日本国内での利用については公式ブログ内で個別の国や地域に関する言及はされていません。グローバルに公開されている開発者向けブログおよびオープンソースのリポジトリを通じて利用できます。対応するハードウェアや環境を持つユーザーが検証を進めることが可能です。
自分にはどう関係する?
会社員として
企業のインフラ部門やAI基盤の運用に関わるエンジニアの場合を考えます。次世代ハードウェアの導入時に直面する設定の複雑さを軽減するための参考情報となります。
副業・独立を考えている人
個人での検証環境の準備には専用の大規模ハードウェアが必要となります。そのため直接的な影響や恩恵は小さいと言えます。
お金・資産づくりの面で
企業のAIインフラ投資や技術トレンドを把握するための基礎情報としての意味合いを持ちます。しかし個別の資産形成に直接結びつくものではありません。
これまでの流れ
今回の発表により次世代のVera Rubinアーキテクチャを見据えたKubernetes環境の具体的な構成が明らかになりました。検証結果も判明しています。
まとめ
次世代のハードウェアを用いたAI基盤の構築を検討しているチームは公開されたレシピや検証結果を参考にしてください。仕様を確認することが重要です。公式のリポジトリから構成を生成し、早期の評価を進めることが次のアクションとなります。