近年來,流形值資料在機器學習任務中越來越常見,例如計算機視覺中的對稱正定(SPD)矩陣、機器人學中的旋轉矩陣等。深度神經網路(DNN)已被擴充套件到流形上,同時出現了針對不同幾何結構的歸一化技術,統稱為黎曼歸一化。然而,現有的黎曼歸一化方法大多針對特定流形設計,或者無法有效歸一化流形上的樣本分佈。為了解決這些問題,來自研究者提出了一種新的框架——LieBN,用於李群上的黎曼批次歸一化。
LieBN 框架的核心創新在於利用李群天然存在的左不變和右不變度量,從而為控制黎曼均值和方差提供理論保證。該框架在九種不同的幾何結構上進行了例項化:對稱正定(SPD)流形上的四種度量、旋轉矩陣群(SO(3))上的度量,以及滿秩相關矩陣流形上的四種度量。值得注意的是,在SPD度量中,他們引入了一種新穎的右不變度量,並透過矩陣冪變形擴充套件了三種現有的李群結構。
廣泛的實驗驗證了LieBN框架在不同流形上的有效性。研究人員在多種流形上進行了效能測試,結果表明LieBN能夠有效地歸一化樣本分佈,並提升模型的訓練穩定性和泛化能力。程式碼已在GitHub上開源(https://github.com/GitZH-Chen/LieBN.git)。該論文於2026年6月13日提交,並被arXiv收錄。值得關注的是,該論文與arXiv:2403.11261有部分文本重疊。該工作為流形上的深度學習提供了一種通用的歸一化工具,有望推動相關領域的發展。