AIインフラ効率の究極指標：パフォーマンス・パー・ワット

電力はAIインフラにとって避けられない制約です。AIファクトリーが固定電力予算内で生成できるトークン数が収益と収益性を直接左右します。そのため、パフォーマンス・パー・ワット（ごまかしが効かず、実際の成果のみで獲得できる指標）はAIファクトリーの基盤です。エージェンティックAIがトークン需要を押し上げる中、組織が今日下すインフラ決定が、電力制約のある世界で誰が規模拡大できるかを決定づけます。

ほぼすべての最先端AIモデルは現在、混合エキスパート（MoE）アーキテクチャを採用しています。ラックスケールでMoEを運用するには、システムとソフトウェアスタックのすべての層にわたるコデザインと、実際の本番負荷でこれらのモデルを運用して得られた運用深度が必要です。NVIDIA Blackwell NVL72プラットフォームは、そのようなラックスケールの基盤をすでに構築し実証済みであり、最高のパフォーマンス・パー・ワットで収益を最大化し、最低のトークンコストで利益率を最大化します。NVIDIA Vera Rubinプラットフォームは、この基盤の上にさらにラックスケールのエネルギー効率を高めるものです。

最先端AIのパフォーマンス・パー・ワット最大化

新しい世代の最先端モデルは、より高い知能を解放するアーキテクチャの変化をもたらす一方、効率的に大規模運用するための新たな最適化を要求します。最新世代の主要オープンモデルにおいて、NVIDIA GB300 NVL72はNVIDIA Hopper世代と比較して最大25倍のパフォーマンス・パー・ワットを実現しています。これらの数値はBlackwellが今日達成している出発点を示しており、今後も改善が続きます。

単一の数値は物語の一部しか伝えません。異なるワークロードは異なる動作点を必要とします。遅延を最適化するものもあれば、スループットとコストを最適化するものもあり、多くはその両方を切り替える必要があります。これらの動作点を最適に表現するため、NVIDIAは各モデルについて単一の数値ではなくパレート曲線を示し、DynoSimなどのツールを提供して、チームが検証にGPU時間を費やす前にパレートフロンティア上の最適点を見つけられるようにしています。

NVIDIA GB300 NVL72システムは、DeepSeek V4 ProでHopper比最大25倍のパフォーマンス・パー・ワットを達成しています。GLM5.1では最大20倍、長期間のエージェントタスク向けに設計されたKimi K2.6では最大10倍です。

NVIDIA Blackwellが実現するパフォーマンス・パー・ワットは、極限のコデザインの結果です。シリコンからソフトウェアに至るまで、ラックスケールシステムのすべてのコンポーネントが、AI推論ワークロードのトークンスループットを最大化するために一緒に設計されています。このコデザインはスタックのすべての層に及びます。例えば、ラックスケールのパフォーマンスに重要なNVIDIA NVLink Switchは、汎用ネットワーキングから適応したものではなく、GPUドメインのスケールアップ専用に設計されています。Vera Rubinプラットフォームで第6世代を迎え、その機能はSHARPなどAIワークロード専用に設計されており、スイッチ内で直接ネットワーク内計算を実行し、GPU自体の作業を軽減します。

NVIDIAの推論ソフトウェアスタック（NVIDIA Dynamo、TensorRT LLM、SGLang、vLLMを含む）は、NVFP4量子化、分離型サービス、大規模エキスパート並列化、KV認識ルーティング、KVキャッシュオフロードなど、あらゆる最適化を実行するよう構築されています。これらは積み重なって各GPUの性能を倍増させます。さらに、ソフトウェアは時間とともに性能を向上させ続けています。DeepSeek V4では、パフォーマンス・パー・ワットが1ヶ月で最大5倍向上しました。

AIファクトリーでは、冷却とラックレベルの非効率性により、グリッドから引き出された電力の約60％しか有効なAI計算に変換されない場合があります。NVIDIA DSX MaxLPS（NVIDIA DSXプラットフォームの電力和効率ソフトウェア）は、GPUとラック間でリアルタイムに電力を移動させ、温水液体冷却をサポートし、パワーステアリングなどの技術を使用してより多くの性能を引き出すことで、このギャップを縮めます。これにより、オペレーターは同じ電力予算内で最大40％多くのGPUを稼働させることができます。

本番環境が重要

AIファクトリースケールでのラックスケール信頼性は容易に得られるものではありません。ラックスケールシステムは、単一ノード展開では決して遭遇しない障害モードを導入し、それらに対処するにはエンジニアリングの厳格さと本番運用の時間が必要です。NVIDIA Blackwell NVL72システムは、多様なモデルと本番ユースケースにわたって、持続的なパフォーマンス、ラックスケールの信頼性、そして実際のトラフィックの下で日々持続する経済性を提供し続けています。

これが、AnthropicやOpenAIなどの主要AIラボがNVIDIA Blackwell NVL72システムを推論に使用している理由です。さらに、多様な推論サービスプロバイダーやAIネイティブ企業がBlackwellプラットフォームを使用してオープンモデルを本番展開しています。CoreWeaveはNVIDIA GB300 NVL72にKimi K2.6を展開し、NVFP4量子化とEAGLE3投機的復号を組み合わせて推論性能を最大化しています。PerplexityはQwen3 235Bと事後訓練済みのQwen3.5-397B-A17BをNVIDIA GB200 NVL72上でAIエージェントプラットフォームとして実行し、消費者が必要とする遅延と信頼性で毎日数百万のクエリを処理しています。Fireworks AIはNVIDIA Blackwellプラットフォーム上でGLM 5.2を展開し、CursorやFactory AIを含む顧客向けの本番展開を可能にしています。

このように、世代を超えた最先端モデルと実際の展開を通じて蓄積された本番経験こそが、NVIDIA Vera Rubinに先行者利益をもたらしています。NVIDIA Vera Rubinプラットフォームの詳細については技術ブログを、NVIDIA DSX AIファクトリースケールプラットフォームとDSX MaxLPSの詳細についてはそれぞれの情報をご覧ください。