構建全球最強大AI工廠的競賽,要求網路基礎設施能夠跟上AI自身的雄心。NVIDIA Spectrum-X乙太網擴充套件架構正站在這場競賽的最前沿,作為當今最先進的AI網路技術,它已被那些無法在效能、彈性或規模上妥協的行業領導者部署。這些領導者包括OpenAI、微軟和Oracle。
NVIDIA、微軟和OpenAI等公司透過引入多路徑可靠連線(MRC)——一種RDMA傳輸協議,展現了行業領導力。MRC使得單一RDMA連線能夠將流量分佈到多條網路路徑,從而提升大規模AI訓練架構的吞吐量、負載均衡和可用性。可以將其想象為用巧妙佈局的街道網格系統配合即時交通應用,取代小鎮的單車道公路,使駕駛者能夠繞開擁堵和道路封閉。
“在Blackwell一代部署MRC非常成功,這得益於與NVIDIA的緊密合作,”OpenAI工業計算主管Sachin Katti表示。“MRC的端到端方法使我們能夠避免典型的網路相關減速和中斷,從而保持前沿訓練執行規模的效率。”此外,微軟和NVIDIA有著長期合作,共同推進下一代AI所需的基礎設施。微軟的Fairwater和甲骨文雲基礎設施的Abilene資料中心——兩個專為訓練和部署前沿LLM而建的全球最大AI工廠——依賴MRC來滿足效能、規模和效率要求。
MRC首先在基於NVIDIA Spectrum-X乙太網硬體的生產中驗證了效能最佳化,隨後作為開放規範透過Open Compute Project釋出,展現了Spectrum-X乙太網平臺的力量:專用硬體、深度遙測和智慧網路控制協同工作,將新協議從概念變為千億級AI生產。MRC透過在所有可用路徑上負載均衡流量,實現高GPU利用率,即使在擁塞情況下也能動態避開過載路徑維持高頻寬。當發生資料丟失時,智慧重傳實現快速精準恢復,最小化短暫中斷對長時間執行任務的影響。管理員可獲得對流量路徑的精細視覺化和控制。
部署在Spectrum-X乙太網上的MRC針對大規模彈性進行了最佳化,其故障旁路技術能在微秒級檢測網路路徑故障並在硬體中自動重新路由。這種技術對於AI訓練叢集至關重要——成千上萬的GPU必須保持同步,即使是短暫的網路中斷也可能拖慢或中斷整個訓練任務。Spectrum-X透過硬體級響應防止這種情況。另一項關鍵創新是多平面網路設計,OpenAI結合Spectrum-X和MRC部署了該設計。多平面網路由多個獨立網路架構組成,每個平面提供備選通訊路徑。Spectrum-X Multiplane能力透過支援跨平面的硬體加速負載均衡,增強了彈性和擴充套件性,同時保持低延遲並擴充套件到數十萬GPU。
透過Spectrum-X乙太網,客戶可以選擇RDMA傳輸模型。Spectrum-X自適應RDMA和MRC協議以及其他自定義協議均原生執行於NVIDIA ConnectX SuperNIC和Spectrum-X交換機,並支援千億級多平面網路設計。MRC傳輸協議是業界利用Spectrum-X乙太網作為靈活、可組合平臺的最新例證。隨著AI工廠繼續擴充套件,網路必須智慧、彈性且基於開放標準。NVIDIA Spectrum-X乙太網三者兼備,並透過MRC繼續為先進AI網路樹立標準。NVIDIA與AMD、Broadcom、英特爾、微軟和OpenAI合作開發了MRC。