NVLink是NVIDIA开发的scale-up（纵向扩展）互连技术，旨在将多个GPU紧密连接，使它们像一个单一的巨型GPU一样协同工作。与scale-out（横向扩展）网络（如InfiniBand）不同，scale-up架构追求极低的延迟和极高的带宽，通常局限于一个机架内。
从物理层看，NVLink基于高速串行解串器（SerDes）技术。信号通过差分对传输，早期采用NRZ调制（每个符号1比特），后来转向PAM4（每个符号2比特）以提升速率，但代价是信噪比降低，因此需要前向纠错（FEC）。功耗是重要约束：片内互连（如NVLink-C2C）每比特仅需1.3皮焦，而板级NVLink约4皮焦，经过重定时器或光模块后更高。因此，目前的scale-up域仍依赖无源铜缆，限制在一个机架内。
历史演进方面，NVLink随P100 GPU在2016年首次亮相，每GPU提供160 GB/s双向带宽。后续每代带宽翻倍：V100（300 GB/s）、A100（600 GB/s）、H100（900 GB/s），到B200达到1.8 TB/s。NVIDIA还引入了NVSwitch芯片，允许任意GPU对以全带宽通信，并在Hopper代中添加了网络内归约（SHARP）功能，以加速集体通信。2023年的GH200首次将CPU纳入域中，通过NVLink-C2C连接Grace CPU和Hopper GPU。2024年的GB200 NVL72更将72个GPU和36个CPU通过18个NVSwitch和铜质背板连接，实现130 TB/s的任意互联带宽。
展望未来，NVIDIA已公布路线图：2026年的Vera Rubin NVL72将保持72 GPU单机架形态，但通过双向同时传输（echo cancellation）将带宽翻倍至260 TB/s。2027年的Rubin Ultra NVL576将首次跨越单机架，连接576个GPU（8个机架），并采用铜缆与光学混合互连。2028年的Feynman则计划支持1152个GPU，使用光学背板。这些进步将推动AI训练和推理的性能边界。