神經算子(Neural Operator)作為科學計算中替代傳統數值求解器的數據驅動模型,在流體動力學、材料科學等領域展現出巨大潛力。然而,現有模型普遍存在頻譜偏差(Spectral Bias)問題,即難以捕捉高頻信號細節,這嚴重限制了其在多尺度物理系統中的應用。為解決這一挑戰,達特茅斯學院(Dartmouth College)的Xiaotian Liu等四位研究者提出了一種新穎的迭代精化神經算子(Iterative Refinement Neural Operator,簡稱IRNO),該工作已在機器學習頂級會議ICML 2026上作為Spotlight論文發表。
IRNO的核心創新在於將單次推理擴展為迭代精化過程。具體來説,研究者首先使用預訓練的神經算子生成一個粗糙的初始預測,然後通過一個可學習的精化模塊反覆修正殘差,每次迭代都依賴於上一次的輸出,形成一個固定點迭代(Fixed-Point Iteration)結構。在局部收縮假設下,他們證明了該迭代過程必然收斂到唯一固定點,從而為算法提供了理論保證。為了從頻譜角度消除誤差,IRNO引入了一種漸進頻譜損失(Progressive Spectral Loss),該損失函數在訓練過程中隨着精化步數的增加逐漸提高對高頻分量的懲罰權重,迫使模型優先學習高頻模式。
實驗部分展示了IRNO的顯著性能提升。在三維湍流流動模擬中,IRNO將預測誤差降低了驚人的56.05%。在活性物質(Active Matter)測試中,頻譜分解顯示:相對於基準算子,IRNO在低、中、高頻段上的歸一化誤差分別降至27.72-36.10%、5.07-6.68%和1.48-2.04%。值得注意的是,即使在訓練中未見的迭代步數下,這些誤差指標依然保持穩定,證明了模型良好的泛化能力。該研究還包含了對收縮性定理的嚴格證明,確保了方法的可靠性。
這項研究不僅為神經算子領域提供了一個理論嚴謹且效果卓越的頻譜偏差緩解方案,還通過開源代碼(GitHub:xiaotianliu-dartmouth/Iterative_Refinement_Neural_Operator)促進了學術社區的進一步探索。長達47頁的論文詳細闡述了方法細節,其Spotlight錄用也反映了學術界對該工作的認可。IRNO有望成為科學計算中處理多尺度問題的新範式,為未來更復雜的物理模擬任務奠定基礎。