NVLink、NVSwitch及相關技術詳解
本文深入探討了NVIDIA的NVLink和NVSwitch技術，從物理層信號傳輸原理出發，解釋了SerDes、PAM4調製、前向糾錯等關鍵概念，並系統回顧了從P100到B200的歷代演進，最後展望了Vera Rubin、Rubin Ultra NVL576和Feynman等未來路線圖。
NVLink是NVIDIA開發的scale-up（縱向擴展）互連技術，旨在將多個GPU緊密連接，使它們像一個單一的巨型GPU一樣協同工作。與scale-out（橫向擴展）網絡（如InfiniBand）不同，scale-up架構追求極低的延遲和極高的帶寬，通常侷限於一個機架內。
從物理層看，NVLink基於高速串行解串器（SerDes）技術。信號通過差分對傳輸，早期採用NRZ調製（每個符號1比特），後來轉向PAM4（每個符號2比特）以提升速率，但代價是信噪比降低，因此需要前向糾錯（FEC）。功耗是重要約束：片內互連（如NVLink-C2C）每比特僅需1.3皮焦，而板級NVLink約4皮焦，經過重定時器或光模塊後更高。因此，目前的scale-up域仍依賴無源銅纜，限制在一個機架內。
歷史演進方面，NVLink隨P100 GPU在2016年首次亮相，每GPU提供160 GB/s雙向帶寬。後續每代帶寬翻倍：V100（300 GB/s）、A100（600 GB/s）、H100（900 GB/s），到B200達到1.8 TB/s。NVIDIA還引入了NVSwitch芯片，允許任意GPU對以全帶寬通信，並在Hopper代中添加了網絡內歸約（SHARP）功能，以加速集體通信。2023年的GH200首次將CPU納入域中，通過NVLink-C2C連接Grace CPU和Hopper GPU。2024年的GB200 NVL72更將72個GPU和36個CPU通過18個NVSwitch和銅質背板連接，實現130 TB/s的任意互聯帶寬。
展望未來，NVIDIA已公佈路線圖：2026年的Vera Rubin NVL72將保持72 GPU單機架形態，但通過雙向同時傳輸（echo cancellation）將帶寬翻倍至260 TB/s。2027年的Rubin Ultra NVL576將首次跨越單機架，連接576個GPU（8個機架），並採用銅纜與光學混合互連。2028年的Feynman則計劃支持1152個GPU，使用光學背板。這些進步將推動AI訓練和推理的性能邊界。