AI News HubLIVE
站內改寫2 分鐘閱讀

為Vera Rubin打造,NVIDIA Spectrum-6抵達千兆級AI工廠

NVIDIA宣佈其102.4太比特每秒的Spectrum-6以太網交換機系統已開始交付,該系統作為Vera Rubin平台的一部分,專為千兆級AI工廠設計,提供兩倍於上一代的帶寬。CoreWeave、Microsoft、Nebius等領先AI基礎設施構建者將首批部署。Spectrum-6是Spectrum-X以太網平台的新一代核心,通過智能交換、ConnectX-9 SuperNIC和全棧軟件,實現高達1.6倍的AI網絡性能提升和95%的網絡效率。

來源NVIDIA Blog作者: Scot Schultz

人工智能已進入千兆級時代。全球最先進的AI工廠正在將數十萬塊GPU和CPU匯聚在一起,訓練前沿模型、驅動智能代理並以前所未有的規模生成智能。在此規模下,網絡成為驅動令牌生成的關鍵計算倍增器。

作為網絡領域的里程碑,NVIDIA Spectrum-6——一款102.4太比特/秒的以太網交換機系統,提供前代系統兩倍的容量,並作為NVIDIA Vera Rubin平台的一部分——正在全球千兆級AI工廠中部署。Spectrum-6是NVIDIA Spectrum-X以太網平台新一代的核心,提供運行AI工廠所需的全端到端計算系統的帶寬、規模和智能。

全球領先的AI基礎設施構建者——包括CoreWeave、Microsoft、Nebius、SpaceXAI和Tesla——將率先引入Spectrum-6以加速其AI工廠。對於雲提供商,Spectrum-6意味着更多計算容量可作為統一的高性能資源運行,幫助客户更快地訓練模型和部署推理服務。

CoreWeave產品總監Min Jun表示:“CoreWeave為最苛刻的AI工作負載而生,網絡是提供規模化性能的核心。將NVIDIA Spectrum-6和液冷Spectrum-X以太網基礎設施引入我們的AI工廠,將有助於提供客户訓練前沿模型和加速推理所需的帶寬、彈性和效率。”Nebius全球合作伙伴副總裁Laurelle Roseman補充道:“在千兆級規模,性能取決於協調:讓每個GPU保持同步,以免一個慢速鏈接拖垮整個任務。這就是NVIDIA Spectrum-6的目標,也是我們早期引入它的原因——一個隨着客户最苛刻工作負載擴展而保持快速和彈性的網絡結構。”

除了硬件,Spectrum-X以太網還通過智能負載均衡、快速故障旁路和精確恢復技術優化流量。與普通以太網相比,它提供高達1.6倍的AI網絡性能,並在超過10萬GPU的部署中維持高達95%的網絡效率。硬件加速的Spectrum-X多平面拓撲將數據中心所需的交換機數量減少1.7倍,進一步加速網絡效率。結合Spectrum-X以太網光子學,可實現5倍更高的功率效率和10倍改善的平均故障間隔時間。

Spectrum-6交換機芯片與NVIDIA ConnectX-9 SuperNIC結合,構成新一代Spectrum-X以太網,並與Vera Rubin平台的其他組件(Vera CPU、Rubin GPU、NVLink 6交換機、BlueField-4 DPU)協同設計。它支持可插拔和共封裝光學形式,以及液冷,實現AI工廠的全面端到端散熱。

通過這種方式,NVIDIA提供了垂直集成、水平開放的方法:在支持標準以太網、開放網絡操作系統和廣泛生態系統的同時,協同設計芯片、系統和軟件。客户無需拼湊部件並自行優化,即可獲得一個完整的AI工廠平台,實現最快的訓練時間和最低的每令牌成本。