AWS上でNemotron 3.5 Super VLを活用するため、aws-do-eksプロジェクトの構成を確認しましょう。
10/30時点の判定。発表内容から編集部AIが判定しています。最新の提供状況は公式情報をご確認ください。
AWSは、NVIDIAの最新オープンマルチモーダルAIモデル「NVIDIA Nemotron 3.5 Super VL」をAmazon EKSなどでサポートすると発表しました。テキスト、画像、動画の理解を1つのモデルで処理できます。
画像はイメージ（AI生成）です。記事の内容を写したものではありません。
かんたん版：専門用語を使わずに説明しています
AWSがNVIDIAの新しい万能型AIモデルをクラウド上で簡単に動かせるようにしたという発表です。
NVIDIAの「Nemotron 3.5 Super VL」は、文字だけでなく画像や動画も一緒に理解できるオープンなAIモデルです。1200億のパラメータを持ちながら、実際に動くときは120億を使う仕組みになっており、効率よく賢い処理ができます。Amazon EKSなどの環境ですぐに動かせる仕組みが整えられました。
クラウドインフラの構築や最先端の生成AIモデルを自社システムに組み込みたいエンジニアや開発者にとって、すぐに検証を始められる重要なアップデートです。
AWSの「aws-do-eks」プロジェクトを利用することで、Amazon EKSやSageMaker HyperPod EKS上でモデルのデプロイやパフォーマンス測定を試すことができます。
AWSはNVIDIAの最新マルチモーダルAIモデル「NVIDIA Nemotron 3.5 Super VL」をAmazon EKSなどでサポートすると発表しました。 テキストだけでなく画像や動画の理解を1つのモデルで処理できるオープンモデルです。 企業のインフラ上でカスタマイズして実行できるようになります。 このモデルの導入により、複雑なマルチモーダル処理と高度な推論を組み合わせた最先端のAIエージェント開発がAWS環境で迅速に実現できます。
AWS Machine Learning Blogによると、NVIDIA Nemotron 3.5 Super VLがAWS上で利用可能になりました。 本モデルは120B（1200億）パラメータを持つMixture-of-Experts（MoE）モデルです。 トークンごとに12Bのパラメータをアクティブ化します。 テキスト、画像、ドキュメント、動画の入力を受け付けます。 テキストを出力するマルチモーダルなオープンモデルとして提供されます。
AWS上の以下の環境でデプロイが可能です。
NVIDIAは重み、トレーニングデータセット、ポストトレーニングのレシピを公開しています。 これにより、企業は自社のセキュリティ基準を満たす管理下でモデルをカスタマイズできます。
Nemotron 3.5 Super VLはハイブリッドなMamba-Transformer MoEアーキテクチャを採用しています。 Mamba-2、アテンション、エキスパート層を組み合わせています。 これにより、長大なコンテキスト長を効率的に処理できます。 最大1Mトークンに対応しつつ、メモリ消費を抑えることが可能です。 また、ビジョンエンコーダーとしてRADIOを採用しています。 視覚的な情報もスムーズに取り込みます。
スパースルーティングの仕組みにより、全120Bの重みを保持します。 その上で計算量を大幅に削減します。 Mamba-2層の一定サイズのステート管理により効率的な長文脈処理を行います。 これはKVキャッシュに依存しません。 マルチトークン予測（MTP）ヘッドによりネイティブな推論の高速化も支えられています。
本モデルはエージェントワークフローをサポートします。 推論と視覚的理解を組み合わせたワークフローです。 具体的には以下の活用が想定されています。
NVIDIAエージェントツールキットなどのリファレンス実装が提供されます。 クックブックも用意されています。 これらを通じて主要なオープンエージェントフレームワークと連携します。 開発者は高度なエージェントシステムを自社の業務プロセスへ容易に統合できるようになります。
AWSの参考実装では、Amazon EKSやSageMaker HyperPod EKSを用います。 NVIDIA DynamoやvLLMを介してモデルを効率的にサービングします。 パフォーマンスの検証にはNVIDIAの「aiperf」ツールを使用します。 これにより以下の重要指標を測定できます。
プレフィルとデコードを異なるノードに分離する構成をとります。 これはディスアグリゲーションと呼ばれます。 この構成により、レイテンシとスループットのバランスを最適化できます。
コンテナ環境ではAmazon ECRを活用します。 Amazon FSx for Lustreでモデルウェイトを共有します。 EFA接続による高速なGPU間通信が検証の信頼性を高めます。
モデル自体の重みや学習データはオープンに公開されています。 トレーニングレシピもNVIDIAによって公開されています。 AWS上での利用料金は各種インスタンス料金に準じます。 対象となるのはAmazon EKSやSageMaker HyperPod、Amazon EC2です。 具体的にはp6-b200.48xlargeやp5en.48xlargeなどが該当します。 関連するストレージ料金も発生します。
明示された最小GPU構成に基づき、適切なインスタンス数を選択します。 これによりコストを最適化できます。
日本国内のAWS環境においても同様の手順で利用可能です。 対応するリージョンおよびインスタンスを利用します。 具体的にはB200やH200などを搭載したインスタンスが対象です。 これにより、デプロイおよび検証が行えます。
グローバルなクラウドインフラストラクチャを活用できます。 国内の企業や開発者も最新のマルチモーダルAIを迅速に実用化できます。
今回の発表により、NVIDIAの最新モデル群がAWSの環境で運用できるようになります。 マネージドなKubernetes環境でシームレスに動作します。 企業の生成AIエージェント開発がさらに加速することになります。
AWSとNVIDIAの連携により、大規模なモデルのインフラ構築が容易になりました。 マルチモーダルAIモデルを簡単に扱えるようになります。 開発者は公開されているリファレンス実装を参考にしてください。 自身のAWSアカウントでNemotron 3.5 Super VLの検証を始めてみてください。
前日に出た記事から大きな発表を選び、1本2行でまとめてメールで届けます。無料・いつでも解除できます。
主要企業の大きな発表だけ、1日4回まで。夜22時〜朝7時は鳴らしません。いつでも解除できます。
本記事は公式発表の文章をもとにAIが要約・解説して自動生成したものです。誤りが含まれる可能性があるため、正確な仕様・料金は公式発表をご確認ください。元記事を読む（解析モデル: gemini-3.5-flash-lite）制作方法と事実確認の手順は編集方針をご覧ください。誤りのご指摘はお問い合わせから受け付けています。
NVIDIAが発表した多言語音声認識モデル「NVIDIA Nemotron 3.5 Transcribe」の機能や特徴、ベンチマーク結果を専門記者が解説します。
NVIDIAとGleanが提唱する「System of Models」の仕組みを解説。NVIDIA Nemotron-3 Nanoベースのルーティングモデル「Waldo」活用により、企業向けAI検索のレイテンシ50%削減、検索スピード10倍、トークン消費25%削減を実現する次世代マルチモデル設計を詳述します。
AWS Machine Learning Blogで公開された、Amazon BedrockにおけるAIモデル評価バイアスの修正手法とプロンプト最適化の仕組みを解説します。
Amazon Bedrockのマネージド知識ベースを活用した検索構築手法に加え、AgentCoreによるエンタープライズ向けAgentic AIプラットフォームの運用モデルや統制基盤の全体像を詳しく解説します。