NVLink、NVSwitch及相關技術詳解
本文深入探討了NVIDIA的NVLink和NVSwitch技術，從物理層訊號傳輸原理出發，解釋了SerDes、PAM4調變、前向糾錯等關鍵概念，並系統回顧了從P100到B200的歷代演進，最後展望了Vera Rubin、Rubin Ultra NVL576和Feynman等未來路線圖。
NVLink是NVIDIA開發的scale-up（縱向擴充套件）互連技術，旨在將多個GPU緊密連線，使它們像一個單一的巨型GPU一樣協同工作。與scale-out（橫向擴充套件）網路（如InfiniBand）不同，scale-up架構追求極低的延遲和極高的頻寬，通常侷限於一個機架內。
從物理層看，NVLink基於高速序列解串器（SerDes）技術。訊號透過差分對傳輸，早期採用NRZ調變（每個符號1位元），後來轉向PAM4（每個符號2位元）以提升速率，但代價是訊雜比降低，因此需要前向糾錯（FEC）。功耗是重要約束：片內互連（如NVLink-C2C）每位元僅需1.3皮焦，而板級NVLink約4皮焦，經過重定時器或光模組後更高。因此，目前的scale-up域仍依賴無源銅纜，限制在一個機架內。
歷史演進方面，NVLink隨P100 GPU在2016年首次亮相，每GPU提供160 GB/s雙向頻寬。後續每代頻寬翻倍：V100（300 GB/s）、A100（600 GB/s）、H100（900 GB/s），到B200達到1.8 TB/s。NVIDIA還引入了NVSwitch晶片，允許任意GPU對以全頻寬通訊，並在Hopper代中新增了網路內歸約（SHARP）功能，以加速集體通訊。2023年的GH200首次將CPU納入域中，透過NVLink-C2C連線Grace CPU和Hopper GPU。2024年的GB200 NVL72更將72個GPU和36個CPU透過18個NVSwitch和銅質背板連線，實現130 TB/s的任意互聯頻寬。
展望未來，NVIDIA已公佈路線圖：2026年的Vera Rubin NVL72將保持72 GPU單機架形態，但透過雙向同時傳輸（echo cancellation）將頻寬翻倍至260 TB/s。2027年的Rubin Ultra NVL576將首次跨越單機架，連線576個GPU（8個機架），並採用銅纜與光學混合互連。2028年的Feynman則計劃支援1152個GPU，使用光學背板。這些進步將推動AI訓練和推理的效能邊界。