跳到主要內容
AI News HubLIVE
更多
站內改寫1 分鐘閱讀

NVLink、NVSwitch及相關技術詳解

文章摘要

本文深入探討了NVIDIA的NVLink和NVSwitch技術,從物理層訊號傳輸原理出發,解釋了SerDes、PAM4調變、前向糾錯等關鍵概念,並系統回顧了從P100到B200的歷代演進,最後展望了Vera Rubin、Rubin Ultra NVL576和Feynman等未來路線圖。

來源Hacker News AI作者: matt_d
NVLink、NVSwitch及相關技術詳解
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

NVLink是NVIDIA開發的scale-up(縱向擴充套件)互連技術,旨在將多個GPU緊密連線,使它們像一個單一的巨型GPU一樣協同工作。與scale-out(橫向擴充套件)網路(如InfiniBand)不同,scale-up架構追求極低的延遲和極高的頻寬,通常侷限於一個機架內。

從物理層看,NVLink基於高速序列解串器(SerDes)技術。訊號透過差分對傳輸,早期採用NRZ調變(每個符號1位元),後來轉向PAM4(每個符號2位元)以提升速率,但代價是訊雜比降低,因此需要前向糾錯(FEC)。功耗是重要約束:片內互連(如NVLink-C2C)每位元僅需1.3皮焦,而板級NVLink約4皮焦,經過重定時器或光模組後更高。因此,目前的scale-up域仍依賴無源銅纜,限制在一個機架內。

歷史演進方面,NVLink隨P100 GPU在2016年首次亮相,每GPU提供160 GB/s雙向頻寬。後續每代頻寬翻倍:V100(300 GB/s)、A100(600 GB/s)、H100(900 GB/s),到B200達到1.8 TB/s。NVIDIA還引入了NVSwitch晶片,允許任意GPU對以全頻寬通訊,並在Hopper代中新增了網路內歸約(SHARP)功能,以加速集體通訊。2023年的GH200首次將CPU納入域中,透過NVLink-C2C連線Grace CPU和Hopper GPU。2024年的GB200 NVL72更將72個GPU和36個CPU透過18個NVSwitch和銅質背板連線,實現130 TB/s的任意互聯頻寬。

展望未來,NVIDIA已公佈路線圖:2026年的Vera Rubin NVL72將保持72 GPU單機架形態,但透過雙向同時傳輸(echo cancellation)將頻寬翻倍至260 TB/s。2027年的Rubin Ultra NVL576將首次跨越單機架,連線576個GPU(8個機架),並採用銅纜與光學混合互連。2028年的Feynman則計劃支援1152個GPU,使用光學背板。這些進步將推動AI訓練和推理的效能邊界。

展開要點與分析

文章情報

工程師進階

要點

  • NVLink是一種scale-up架構,旨在將多個GPU緊密連線,如同單個巨型GPU。
  • 物理層採用SerDes、PAM4訊號和前向糾錯,在功耗和距離間權衡。
  • 從第一代P100(160 GB/s每GPU)到第五代B200(1.8 TB/s每GPU),頻寬持續翻倍。
  • 未來NVLink 6(Vera Rubin)將實現雙向同時傳輸,並計劃透過光學互連擴充套件到576個GPU以上。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。