一項新研究對深度學習中的一個常見假設——平坦極小值有助於神經網路泛化——提出了挑戰。來自澳大利亞國立大學的Michael Timothy Bennett在預印本論文《Are Flat Minima an Illusion?》中論證，平坦性並非泛化的真正驅動因素，而是一種稱為“弱度”（weakness）的度量才是關鍵。
平坦極小值通常被認為與更好的泛化相關，Sharpness-Aware Minimization（SAM）等方法正是利用這一點來提升效能。然而，Bennett指出，函式保持的重新引數化可以在不改變任何預測的情況下將Hessian矩陣放大兩個數量級。這意味著權重空間的幾何形狀可以被任意製造，因此不能作為因果解釋。
相反，作者提出了“弱度”這一概念，它衡量的是在學習者的具身語言中與所學函式相容的完成體積。弱度具有重新引數化不變性，因為它基於網路的行為而非引數化方式定義。理論分析表明，弱度在可交換需求下是極小極大最優的，並且PAC-Bayes界限的有效性源於其與弱度的相關性。
實驗部分提供了有力證據。在MNIST資料集上，大批次訓練的泛化優勢隨著訓練樣本量增加而消失：當n=2,000時優勢為+1.6%，而當n=60,000時降至+0.02%。這表明平坦性只是一個混雜因素，其預測能力依賴於資料量。在100個相同架構和訓練條件的網路的頭對頭比較中，弱度顯著預測泛化（MNIST：ρ=+0.374，p=0.00012；Fashion-MNIST：ρ=+0.384，p=8.15×10⁻⁵），而平坦性呈負相關，簡單性（simplicity）僅在Fashion-MNIST上略有預測力。作者總結道，簡單性是資料集依賴的，而弱度是不變的。
這項研究提示，過分關注損失景觀的幾何特性可能會誤導研究方向。弱度作為一個更本質的度量，有望為理解神經網路泛化提供新的視角。