M5 Ultra搭載Mac StudioとRTX 5090のローカルLLM性能比較調査

何が発表されたのか

AppleがM5 Ultraチップを搭載した「Mac Studio」の出荷を開始したことに合わせ、AIモデルプラットフォームを運営するHugging Faceは、ローカル環境における大規模言語モデル（LLM）の実行性能を検証した動画を公開しました。比較対象として選ばれたのは、NVIDIAのデスクトップ向けフラグシップGPUである「GeForce RTX 5090」です。

今回の検証は、研究段階の理論値ではなく、実際に市販されている製品および入手可能なソフトウェアスタックを用いて実施されました。検証では、単なるカタログスペックの提示にとどまらず、同一のAIモデル「Qwen3.8-27B」を動作させた際の実測プロンプト処理速度やトークン生成速度を測定しています。個人開発者や企業の実務担当者がローカルAIワークステーションを構築するにあたり、どちらのハードウェア構成を選択すべきかという課題に対し、客観的なデータに基づく明確な判断材料を提供しています。

発表された機能・アップデートの全容

性能スペックの比較：メモリ帯域幅と浮動小数点演算能力

動画冒頭のスライド「The spec sheet」では、各ハードウェアの基礎スペックが網羅的に比較されています。M5 Ultraのメモリ帯域幅は1,200 GB/sに達し、前世代のM3 Ultra（819 GB/s）から着実な向上を果たしています。一方で、RTX 5090は1,792 GB/sのメモリ帯域幅を誇り、単純な帯域幅の比較ではRTX 5090がM5 Ultraを約49パーセント上回ります。

演算能力（FP16 TFLOPS）においては差がさらに開きます。M5 Ultraの推定演算性能が約110 TFLOPSであるのに対し、RTX 5090は約419 TFLOPSという圧倒的な計算力を示します。ただし、消費電力の面では傾向が逆転します。M5 Ultraを搭載したMac Studio全体でのモデル実行時消費電力が約214 Wに収まるのに対し、RTX 5090単体（グラフィックボードのみ）の消費電力は300 Wから最大575 Wに達します。ワットパフォーマンスの観点では、M5 Ultraの統合型設計の効率性が際立つ結果となっています。

Qwen3.8-27Bでの同一モデル直接対決ベンチマーク

実際のLLM推論処理における性能を測定するため、両環境で「Qwen3.8-27B（4ビット量子化版 Q4_K_M）」を使用し、6,000トークンのコンテキストプロンプトを入力するテストが実施されました。プロンプト処理速度（Prompt processing）において、RTX 5090は毎秒3,031トークンを処理したのに対し、M5 Ultraは毎秒1,701トークンとなりました。

プロンプトを入力してから最初の1トークンが出力されるまでの時間（Time to first token）も測定されています。RTX 5090が2.0秒で処理を開始したのに対し、M5 Ultraは4.0秒を要しました。事前のテキスト読み込みや文脈の解析速度においては、計算資源とメモリ帯域幅で勝るRTX 5090が約2倍の速さを見せる結果となりました。

マルチトークン予測（MTP）有効化時のトークン生成速度

レスポンスの生成速度を示すトークン生成処理（Token generation）の検証では、マルチトークン予測（Multi-token prediction: MTP）機能の有無による違いも可視化されました。MTPが無効な状態（MTP off）では、RTX 5090が毎秒約74トークン、M5 Ultraが毎秒約52トークンを生成します。

MTP機能を有効化（MTP on）すると、両者ともに処理能力が飛躍的に伸びます。RTX 5090は毎秒約136トークンという極めて高速な生成速度を記録し、M5 Ultraも毎秒約100トークンに達しました。動画内では「llama.cpp」やAppleの「MLX」といった推論エンジンの最適化が月単位で進んでいることが注記されており、今後もソフトウェア側のアップデートによって数値が向上する可能性が示唆されています。

32GB VRAMの壁と256GB/512GBユニファイドメモリの容量差

動画中盤の「2x the price, 8x the memory」と題されたセクションでは、グラフィックメモリの容量差がローカルLLMの運用に与える決定的な影響が説明されました。RTX 5090（システム構築費用の目安: 約5,000ドル）が搭載するVRAMは32GBです。これに対し、M5 Ultraを搭載したMac Studio（価格: 約10,799ドル）は現時点で256GBのユニファイドメモリを選択可能であり、将来的には512GB構成の登場も予告されています。

モデルのサイズが32GBを超える場合、RTX 5090ではグラフィックVRAMに入り切らないデータがメインシステムRAMへあふれ出ます（Spill）。この状態に陥ると、システムRAMからのデータ転送がボトルネックとなり、トークン生成速度は毎秒4.6から1.5トークンまで著しく落ち込みます。グラフでは、27BモデルのBF16精度（55GB）、Flash-Next（155GB）、DeepSeek V4（162GB）といった大規模モデルのサイズが示され、これらは32GBのRTX 5090単体では実用的な速度で動作しないことが視覚的に証明されています。

推論速度の計算式と用途に応じた選定基準

結論セクション「The verdict」において、ローカルAIにおける推論速度の基本原理が提示されました。推論速度（tok/s）は、主として「メモリ帯域幅 ÷ モデルサイズ」の公式によって決定されます。

この原則に基づき、ハードウェア選定の基準は極めてシンプルに整理されています。実行したいAIモデルおよび付随するKVキャッシュなどのオーバーヘッドが32GBのVRAM内に収まるのであれば、高い帯域幅と圧倒的な演算能力を持つRTX 5090を選択するのが最適な解となります。一方、非量子化（unquantized）の精密なモデル、巨大なパラメータを持つモデル、あるいはMoE（Mixture of Experts）構成のモデルを外部クラウドに頼らずローカル環境で動かしたい場合は、価格が2倍であっても8倍のメモリ容量を持つM5 Ultraが唯一の実用的な選択肢となります。