深度学习模型在训练集之外的未见数据上往往表现良好，但为何会具备这种泛化能力，至今仍是开放的研究问题。这篇由Marco Miani等五位作者完成的论文，试图用PAC-Bayes理论从参数空间的几何结构出发给出解释。
研究在独立同分布数据的假设下展开。PAC-Bayes方法能够给出泛化误差的上界，而该上界的紧致程度取决于所选的参数分布是否覆盖了足够多、体积足够大的低损失解区域。也就是说，要得到一个有意义的界，需要构造一个既落在低损失区域、又在参数空间中占据较大体积的分布。
作者引入Fisher信息度量来为参数空间赋予几何结构。在这一几何中，参数之间的距离反映的是函数输出的变化程度，而Fisher信息矩阵的零特征值方向则对应着不改变网络实际功能的参数变化，即功能不变性。这一性质使得研究者可以沿着“不改变功能”的方向进行探索，而不必担心破坏模型已有的表现。
基于此，论文定义并分析了一种Fisher对齐的参数分布。该分布具备两项同时成立的性质：第一，由于探索被约束在功能不变的方向上，它能够保证低损失；第二，它的参数对数体积很大，且该体积与Fisher信息矩阵零特征值的个数成正比。这两点恰好对应PAC-Bayes界所需的“低损失”与“大体积”两个条件。
由此得到的高概率泛化误差上界与Fisher信息矩阵的期望秩成正比。换言之，期望的Fisher秩越低，泛化误差的上界就越紧，模型在理论上的泛化表现就越好。这一结论为“期望Fisher秩”这一量赋予了明确的泛化意义，也提示它可作为衡量模型泛化潜力的一个几何指标。
论文的摘要列于arXiv的cs.LG（机器学习）分类，提交时间为2026年10月23日，DOI为10.48550/arXiv.2610.33208。该工作并未提出新的训练算法，而是提供了一个理解深度网络为何泛化的理论视角，将Fisher信息谱结构与PAC-Bayes界直接联系起来。