世界最強のAIファクトリーを構築する競争では、ネットワークがAI自身の野心に追いつくことが求められています。NVIDIA Spectrum-Xイーサネットスケールアウトインフラは、その競争の最前線に立ち、パフォーマンス、回復力、規模において妥協できない業界リーダーによって採用されています。そのリーダーにはOpenAI、Microsoft、Oracleが含まれます。
NVIDIA、Microsoft、OpenAIなどの企業は、マルチパス・リライアブル・コネクション（MRC）と呼ばれるRDMAトランスポートプロトコルを導入することで、業界のリーダーシップを示しました。MRCは1つのRDMA接続が複数のネットワークパスにトラフィックを分散できるようにし、大規模AIトレーニングファブリックのスループット、負荷分散、可用性を向上させます。これは、町を横断する一本道を、賢く配置された道路網とリアルタイム交通アプリに置き換え、ドライバーが渋滞や閉鎖を回避できるようにするようなものです。
「Blackwell世代でのMRCの展開は非常に成功し、NVIDIAとの緊密な協力によって可能になりました」とOpenAIの産業コンピューティング責任者Sachin Katti氏は述べています。「MRCのエンドツーエンドアプローチにより、典型的なネットワーク関連の減速や中断を回避し、大規模な最先端トレーニングの効率を維持することができました。」さらに、MicrosoftとNVIDIAは次世代AIに必要なインフラを推進する長期的な協力関係にあります。MicrosoftのFairwaterとOracle Cloud InfrastructureのAbileneデータセンターは、最先端のLLMをトレーニング・展開するために設計された世界最大のAIファクトリーの2つであり、パフォーマンス、規模、効率の要件を満たすためにMRCに依存しています。
MRCはまずNVIDIA Spectrum-Xイーサネットハードウェア上でパフォーマンス最適化された状態で本番環境で実証され、その後Open Compute Projectを通じてオープン仕様として公開されました。これはSpectrum-Xイーサネットプラットフォームの力を示しています。専用ハードウェア、高度なテレメトリー、インテリジェントファブリック制御が連携して、新しいプロトコルをコンセプトからギガスケールAI本番環境にまで導きます。MRCは利用可能なすべてのパスにトラフィックを負荷分散することで高いGPU利用率を実現し、混雑下でも動的に過負荷パスを回避して高帯域幅を維持します。データ損失が発生した場合、インテリジェントな再送信により迅速かつ正確な回復が可能になり、長時間実行ジョブへの短期的な中断の影響を最小限に抑え、GPUのアイドル時間を回避します。管理者はトラフィックパスに対するきめ細かい可視性と制御を得られ、運用を簡素化し、大規模なトラブルシューティングを加速できます。
Spectrum-Xイーサネット上に展開されたMRCは、大規模な回復力のために最適化・設計されています。その障害迂回技術は、マイクロ秒単位でネットワークパスの障害を検出し、ハードウェア内で自動的にトラフィックを再ルーティングします。この障害迂回技術は、数千のGPUが同期を維持する必要があるAIトレーニングクラスターにとって重要であり、たとえ短時間のネットワーク障害でもトレーニングジョブ全体が遅延または中断される可能性があります。Spectrum-Xはハードウェア速度で応答することでこれを防止し、ギガスケールAIファブリック全体で正確な経路に沿ってトラフィックを流し続けます。
ギガスケールAIファクトリーを実現するもう一つの重要な革新はマルチプレーナーネットワーク設計であり、OpenAIはSpectrum-XイーサネットとMRCと組み合わせてこれを展開しています。マルチプレーンネットワークは複数の独立したネットワークファブリック（プレーン）で構成され、各プレーンがGPU間の代替通信パスを提供します。NVIDIA Spectrum-Xマルチプレーン機能は、プレーン間のハードウェアアクセラレーテッド負荷分散をサポートすることでこのネットワークアーキテクチャを強化し、パフォーマンスを犠牲にすることなく回復力と規模を向上させます。これにより、数十万のGPUに拡張しながらレイテンシを予測可能な低レベルに保ちます。
Spectrum-Xイーサネットにより、顧客はRDMAトランスポートモデルを選択できます。Spectrum-XイーサネットアダプティブRDMAとMRCプロトコル、およびその他のカスタムプロトコルは、NVIDIA ConnectX SuperNICとSpectrum-Xイーサネットスイッチ上でネイティブに実行され、ギガスケールのマルチプレーナーネットワーク設計をサポートします。このように、今日の最大のAIクラスターを動かすSpectrum-Xイーサネットハードウェアとソフトウェアインフラは、顧客にワークロードに適したトランスポートを選択する柔軟性を提供します。
MRCトランスポートプロトコルは、業界がSpectrum-Xイーサネットを柔軟で構成可能なプラットフォームとして利用し、現代のAIインフラの全範囲に統合する最新の例です。AIファクトリーが拡大し続けるにつれて、ネットワークはデータを迅速に移動するだけでなく、インテリジェントで回復力があり、オープンスタンダードに基づく必要があります。NVIDIA Spectrum-Xイーサネットはこれら3つすべてを提供し、MRCにより高度なAIネットワーキングの標準を設定し続けています。NVIDIAはAMD、Broadcom、Intel、Microsoft、OpenAIと協力してMRCを開発しました。