跨GPU架構的3D生成擴散模型性能分析與優化
本文分析了用於3D MRI合成的擴散模型Med-DDPM在NVIDIA三代GPU架構上的性能瓶頸，並提出了TF32 Tensor Core和3D channels-last佈局兩種優化方法，實現了高達100倍的性能提升且不降低合成質量。
3D生成擴散模型在醫學圖像合成，特別是高保真3D MRI生成中展現出巨大潛力。然而，這類模型的部署受到高昂GPU資源需求的嚴重製約。以Med-DDPM為代表的擴散模型，每個樣本需要執行數百次U-Net評估，且內核行為高度異質，導致計算效率低下。為了深入理解這一瓶頸，來自研究團隊對Med-DDPM在NVIDIA三代GPU架構上進行了全面的性能分析，涵蓋內核級運行時分解、指令混合特徵、內存系統利用率、線程束級活動以及分析器優先級評分估計。
研究發現，訓練過程主要由cuDNN卷積和隱式GEMM內核主導。這些內核在內存訪問模式、張量佈局轉換以及Tensor Core利用率方面存在顯著的低效問題。具體而言，不規則的內存訪問模式導致帶寬利用率不足，頻繁的張量佈局轉換增加了額外開銷，而Tensor Core作為專用的矩陣乘法加速單元，其利用率僅為1.45倍，遠未發揮全部潛力。
針對這些問題，研究團隊提出了兩種架構感知優化策略：啓用TF32 Tensor Core和採用3D channels-last內存佈局。TF32 Tensor Core通過降低精度但保持與FP32相近的動態範圍，顯著加速了卷積和矩陣運算。Channels-last佈局則通過優化數據在內存中的排列方式，減少了數據重排的開銷。實驗結果表明，這些優化在NVIDIA A100 GPU上實現了驚人的性能提升：SM週期減少高達100倍，動態指令減少100倍，Tensor Core利用率從1.45倍躍升至9.98倍，每週期指令數（IPC）提高了7%。更為重要的是，這些優化完全不影響合成質量，實現了效率與精度的完美平衡。
該研究不僅為Med-DDPM的高效部署提供了具體指導，也為其他3D生成擴散模型的性能優化提供了可借鑑的方法。隨着GPU架構的持續演進，類似的自適應優化策略將在醫學成像和生成式AI領域發揮越來越重要的作用。