DGX工作站与“前沿”模型：深度调查本地AI的真相

要点

• DGX工作站拥有748GB统一内存，但仅252GB为高速HBM3e（7.1TB/s），496GB为低速LPDDR5X（396GB/s），NVLink-C2C实测未达标称900GB/s。
• 售价约10万美元，与多GPU RTX PRO 6000、云推理及Mac Studio等方案竞争，买家需评估是否值得。
• Cornell团队在DGX上实现Qwen3-30B-A3B 5.7倍于A100的吞吐量，Snowflake完成136K序列长度微调；但GLM-5.2 REAP仅60 tok/s，且为剪枝版本。