DGX Stationと「フロンティア」モデル：答えを求める旅

要点

• DGX Stationは748GBコヒーレントメモリを搭載するが、高速HBM3e（7.1TB/s）は252GBのみ、残り496GBは低速LPDDR5X（396GB/s）。NVLink-C2Cの実測値は公称900GB/sに達せず。
• 価格は約10万ドルで、マルチGPU RTX PRO 6000、クラウド推論、Mac Studioなどと競合。購入者は投資に見合うかを判断する必要がある。
• CornellチームはDGX上でQwen3-30B-A3BがA100の5.7倍のスループットを達成、Snowflakeは136Kシーケンス長の微調整を完了。しかしGLM-5.2 REAPは60 tok/sで、しかも刈り込み版。