AI News HubLIVE
站内改写1 分钟阅读

NVLink、NVSwitch及相关技术详解

本文深入探讨了NVIDIA的NVLink和NVSwitch技术,从物理层信号传输原理出发,解释了SerDes、PAM4调制、前向纠错等关键概念,并系统回顾了从P100到B200的历代演进,最后展望了Vera Rubin、Rubin Ultra NVL576和Feynman等未来路线图。

来源Hacker News AI作者: matt_d

NVLink是NVIDIA开发的scale-up(纵向扩展)互连技术,旨在将多个GPU紧密连接,使它们像一个单一的巨型GPU一样协同工作。与scale-out(横向扩展)网络(如InfiniBand)不同,scale-up架构追求极低的延迟和极高的带宽,通常局限于一个机架内。

从物理层看,NVLink基于高速串行解串器(SerDes)技术。信号通过差分对传输,早期采用NRZ调制(每个符号1比特),后来转向PAM4(每个符号2比特)以提升速率,但代价是信噪比降低,因此需要前向纠错(FEC)。功耗是重要约束:片内互连(如NVLink-C2C)每比特仅需1.3皮焦,而板级NVLink约4皮焦,经过重定时器或光模块后更高。因此,目前的scale-up域仍依赖无源铜缆,限制在一个机架内。

历史演进方面,NVLink随P100 GPU在2016年首次亮相,每GPU提供160 GB/s双向带宽。后续每代带宽翻倍:V100(300 GB/s)、A100(600 GB/s)、H100(900 GB/s),到B200达到1.8 TB/s。NVIDIA还引入了NVSwitch芯片,允许任意GPU对以全带宽通信,并在Hopper代中添加了网络内归约(SHARP)功能,以加速集体通信。2023年的GH200首次将CPU纳入域中,通过NVLink-C2C连接Grace CPU和Hopper GPU。2024年的GB200 NVL72更将72个GPU和36个CPU通过18个NVSwitch和铜质背板连接,实现130 TB/s的任意互联带宽。

展望未来,NVIDIA已公布路线图:2026年的Vera Rubin NVL72将保持72 GPU单机架形态,但通过双向同时传输(echo cancellation)将带宽翻倍至260 TB/s。2027年的Rubin Ultra NVL576将首次跨越单机架,连接576个GPU(8个机架),并采用铜缆与光学混合互连。2028年的Feynman则计划支持1152个GPU,使用光学背板。这些进步将推动AI训练和推理的性能边界。