近年來，擴散模型在生成高維數據方面展現出卓越能力，但其訓練過程如何有效學習得分函數並避開維度災難（當數據位於低維流形上時）一直缺乏理論解釋。最新研究《Provably Learning Diffusion Models under the Manifold Hypothesis: Collapse and Refine》揭示了這一謎題背後的崩潰與細化機制，並提出了名為Score-induced Latent Diffusion (SiLD)的兩階段框架。該研究由Wei Huang等七位作者完成，於2026年5月16日提交至arXiv。
通過深入分析擴散模型的訓練動力學，作者發現得分函數自身的幾何特性驅動了訓練過程。在小噪聲尺度下，得分的發散奇異性迫使去噪映射快速“崩潰”到數據流形投影上，實現維度降低；在中等噪聲尺度下，訓練則專注於“細化”所學流形上的內在密度分佈。這一過程無需顯式的流形學習，而是通過單一的去噪得分匹配目標自然湧現，從而替代了VAE基潛在擴散模型中啓發式的KL正則化，實現了更簡潔高效的兩階段學習框架。
理論分析表明，SiLD的樣本複雜度僅依賴於數據的固有維度，而非環境維度，這為擴散模型在高維數據上的高效性提供了嚴格證明，是連接流形假設與可學習性的重要理論進展。實驗部分，研究者在Stacked MNIST、CelebA變體以及分子生成基準上驗證了SiLD的性能。結果顯示，SiLD在生成質量上與VAE基潛在擴散模型相當或更優，且在重構任務上持續改進，充為支持了理論預測。該工作不僅為理解擴散模型的訓練動力學提供了新視角，也為基於得分幾何設計更高效的生成模型開闢了道路。