2026-07-03 11:48 UTC+8僅摘要更新: 2026-09-06 11:24 UTC+8

DGX工作站與“前沿”模型：深度調查本地AI的真相

本文深入調查NVIDIA DGX工作站的實際能力，揭露其748GB統一記憶體中僅252GB為高速HBM3e，其餘為低速LPDDR5X。透過Cornell、Snowflake等使用案例和GLM-5.2等基準測試，探討其能否承載本地前沿模型推理。

來源Hacker News AI作者: connorturland

回報錯誤

更正管道尚未開通，可先複製下方文章資訊留存。

本文僅提供摘要

根據來源內容權限，本站僅提供編輯摘要、要點和原文連結。

展開要點與分析

工程師進階

DGX工作站擁有748GB統一記憶體，但僅252GB為高速HBM3e（7.1TB/s），496GB為低速LPDDR5X（396GB/s），NVLink-C2C實測未達標稱900GB/s。
售價約10萬美元，與多GPU RTX PRO 6000、雲推理及Mac Studio等方案競爭，買家需評估是否值得。
Cornell團隊在DGX上實現Qwen3-30B-A3B 5.7倍於A100的吞吐量，Snowflake完成136K序列長度微調；但GLM-5.2 REAP僅60 tok/s，且為剪枝版本。

要點與分析由自動化流程生成，可能有誤，請結合原始來源核實。