本文にスキップ
AI News HubLIVE
サイト内リライト3 分で読了

NVIDIA、MLPerfトレーニングとエンドポイントを制覇、Vera Rubinが首位性能でデビュー

記事の要約

NVIDIAのVera RubinプラットフォームはMLPerf Training v6.1の全ベンチマークを制覇し、初のMLPerf Endpoints提出ではエージェントAI向けにワット当たりスループットで10倍超の世代間向上を実現した。Vera Rubin NVL72はDeepSeek-V3ベンチマークで256基から1,024基のGPUに約97%の効率でスケールした。

ソースNVIDIA Blog著者: Shruti Koparkar
NVIDIA、MLPerfトレーニングとエンドポイントを制覇、Vera Rubinが首位性能でデビュー
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

NVIDIAは本日、MLPerfベンチマークにおけるVera Rubinプラットフォームの初結果を発表し、トレーニング、ポストトレーニング、エージェント推論の各分野で首位の性能を示した。MLPerf Training v6.1ではNVIDIAが全ベンチマークを制覇し、初のMLPerf Endpoints提出ではエージェントAI向けにワット当たりスループットで10倍超の世代間向上を実現した。これはシステムが1ワットの電力でどれだけのエージェント作業を提供できるかを測る指標である。NVIDIAはこれらの結果は始まりに過ぎず、CUDAを活用したソフトウェアスタックの継続的最適化によりVera Rubinの性能はさらに向上し、顧客が今日投資するインフラが時間とともに大きな価値を生むと述べている。

MLPerf Trainingは、システムがさまざまなAIモデルを目標精度までどれだけ速くトレーニングできるかを測定する。今回のラウンドでNVIDIAプラットフォームは、大規模言語モデル、画像生成、推薦システム、強化学習ポストトレーニングにわたる全ベンチマークで結果を提出した唯一のプラットフォームだった。デビューしたVera Rubin NVL72は、高度に最適化されたNVIDIA GB300 NVL72システムに対してGPU当たり最大2倍の性能を発揮し、世代ごとのイノベーションの速さを示す初期結果となった。NVIDIAは大規模性能も実証した。DeepSeek-V3ベンチマークでは、Vera Rubin NVL72が256基から1,024基のGPUにスケールする際に約97%の効率を維持し、GPUを4倍にすることでトレーニング時間を16分から約4分に短縮した。さらにNVIDIAは10,240基のGB300システムでベンチマークを実行し、これは今回のラウンドで最大規模となった。Microsoft Azureは10,240基のNVIDIA GPUを搭載したGB200システムで同じ規模に達した。NVIDIAによれば、この規模での結果が重要なのは、GPUが効率的に協調動作して初めてGPUの追加がトレーニングを加速するからだ。NVLinkスケールアップネットワークは各システム内のGPUを接続して一体として動作させ、Quantum-X800 InfiniBandとSpectrum-X Ethernetのスケールアウトネットワークはデータセンター全体でそれらのシステムを結ぶ。最適化されたソフトウェアと組み合わせることで、数千基のGPUが協調動作し、開発者がより知能の高いモデルを構築しつつトレーニング時間を短縮できる。

MLPerf Endpointsでは、NVIDIA Vera Rubinが全エージェントベンチマークで首位となった。MLPerf Endpointsは実際のエージェントコーディングや企業ワークフローでシステムをテストし、エージェントがタスクを正しく完了できるかを確認する。例えば、エージェントワークフロー向けに構築された大規模オープンモデルKimi K3の暫定結果では、Vera Rubin NVL72システムは同じ応答速度でNVIDIA GB300 NVL72の10倍超のワット当たりスループットを実現した。具体的には、Vera Rubin NVL72は32アクセラレータ、同時実行1,024クエリ、TTFT P90 4,673.9ミリ秒、システムTPS 41,414.2トークン/秒、エンドツーエンド平均インタラクティビティはユーザー当たり50.4トークン/秒、動作電力100.89kWであった。GB300 NVL72は48アクセラレータ、同時実行48クエリ、TTFT P90 2,305.1ミリ秒、システムTPS 2,210.4トークン/秒、エンドツーエンド平均インタラクティビティはユーザー当たり56.2トークン/秒、動作電力60kWであった。比較はユーザー当たり50トークン/秒の共通最低エンドツーエンド平均インタラクティビティにおけるキロワット当たりスループットに基づく。GB300の結果はMLCommons Associationにより検証済みだが、Vera Rubinの暫定結果はMLCommons Associationの検証とピアレビュー待ちであり、変更される可能性がある。

NVIDIAは、すべてのAIサービスは多数のユーザーを同時に処理することと各ユーザーに迅速に応答することのバランスを取る必要があると強調する。Vera Rubinはこの曲線全体をシフトさせ、より多くのユーザーにより速く応答する。MLPerf TrainingにはNVIDIAパートナーが広く参加し、ASUS、Azure、Cisco、CoreWeave、Crusoe、Dell Technologies、Firmus、Fujitsu、Giga Computing、Google Cloud、HPE、Inventec、Krai、Lambda、Nebius、Oracle、Quanta Cloud Technology (QCT)、Supermicro、TTA、フロリダ大学の20組織が提出した。これらの提出は、オープンソースライブラリとフレームワークを備えたNVIDIAのプログラマブルプラットフォームが、広大なエコシステムのパートナーにAIトレーニング性能の革新と最適化を可能にすることを示している。NVIDIAによれば、その優位性はMLPerfにとどまらない。Vera RubinはSemiAnalysis AgentXやArtificial Analysis AgentPerfなどの独立系ベンチマークでも首位の性能を発揮し、同じNVIDIAインフラが事前トレーニング、ポストトレーニング、エージェント推論から、今週のSC26カンファレンスで示されたAI以外の高性能計算ワークロードまで生産的に実行できることを示している。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • Vera RubinはMLPerf Training v6.1の全ベンチマークで結果を提出した唯一のプラットフォームであり、そのNVL72システムはGPU当たり最大2倍の性能をGB300 NVL72に対して発揮した。
  • 初のMLPerf Endpoints提出で、Vera Rubin NVL72はKimi K3エージェントワークロードにおいてワット当たりスループットで10倍超の世代間向上を達成した。
  • Vera Rubin NVL72はDeepSeek-V3ベンチマークで256基から1,024基のGPUに約97%の効率でスケールし、トレーニング時間を16分から約4分に短縮した。
  • 20のパートナー組織がMLPerf Trainingに参加し、幅広いエコシステムのサポートを示した。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。