為Vera Rubin打造,NVIDIA Spectrum-6抵達千兆級AI工廠
NVIDIA宣佈其102.4太位元每秒的Spectrum-6乙太網交換機系統已開始交付,該系統作為Vera Rubin平臺的一部分,專為千兆級AI工廠設計,提供兩倍於上一代的頻寬。CoreWeave、Microsoft、Nebius等領先AI基礎設施構建者將首批部署。Spectrum-6是Spectrum-X乙太網平臺的新一代核心,透過智慧交換、ConnectX-9 SuperNIC和全棧軟體,實現高達1.6倍的AI網路效能提升和95%的網路效率。
人工智慧已進入千兆級時代。全球最先進的AI工廠正在將數十萬塊GPU和CPU匯聚在一起,訓練前沿模型、驅動智慧代理並以前所未有的規模生成智慧。在此規模下,網路成為驅動令牌生成的關鍵計算倍增器。
作為網路領域的里程碑,NVIDIA Spectrum-6——一款102.4太位元/秒的乙太網交換機系統,提供前代系統兩倍的容量,並作為NVIDIA Vera Rubin平臺的一部分——正在全球千兆級AI工廠中部署。Spectrum-6是NVIDIA Spectrum-X乙太網平臺新一代的核心,提供執行AI工廠所需的全端到端計算系統的頻寬、規模和智慧。
全球領先的AI基礎設施構建者——包括CoreWeave、Microsoft、Nebius、SpaceXAI和Tesla——將率先引入Spectrum-6以加速其AI工廠。對於雲提供商,Spectrum-6意味著更多計算容量可作為統一的高效能資源執行,幫助客戶更快地訓練模型和部署推理服務。
CoreWeave產品總監Min Jun表示:“CoreWeave為最苛刻的AI工作負載而生,網路是提供規模化效能的核心。將NVIDIA Spectrum-6和液冷Spectrum-X乙太網基礎設施引入我們的AI工廠,將有助於提供客戶訓練前沿模型和加速推理所需的頻寬、彈性和效率。”Nebius全球合作伙伴副總裁Laurelle Roseman補充道:“在千兆級規模,效能取決於協調:讓每個GPU保持同步,以免一個慢速連結拖垮整個任務。這就是NVIDIA Spectrum-6的目標,也是我們早期引入它的原因——一個隨著客戶最苛刻工作負載擴充套件而保持快速和彈性的網路結構。”
除了硬體,Spectrum-X乙太網還透過智慧負載均衡、快速故障旁路和精確恢復技術最佳化流量。與普通乙太網相比,它提供高達1.6倍的AI網路效能,並在超過10萬GPU的部署中維持高達95%的網路效率。硬體加速的Spectrum-X多平面拓撲將資料中心所需的交換機數量減少1.7倍,進一步加速網路效率。結合Spectrum-X乙太網光子學,可實現5倍更高的功率效率和10倍改善的平均故障間隔時間。
Spectrum-6交換機晶片與NVIDIA ConnectX-9 SuperNIC結合,構成新一代Spectrum-X乙太網,並與Vera Rubin平臺的其他元件(Vera CPU、Rubin GPU、NVLink 6交換機、BlueField-4 DPU)協同設計。它支援可插拔和共封裝光學形式,以及液冷,實現AI工廠的全面端到端散熱。
透過這種方式,NVIDIA提供了垂直整合、水平開放的方法:在支援標準乙太網、開放網路作業系統和廣泛生態系統的同時,協同設計晶片、系統和軟體。客戶無需拼湊部件並自行最佳化,即可獲得一個完整的AI工廠平臺,實現最快的訓練時間和最低的每令牌成本。