arXiv 于 2026 年 6 月 26 日发布了一篇新的机器学习论文，题为《Singular Learning and Occam's Razor in Deep Monomial Networks》（深度单项式网络中的奇异学习与奥卡姆剃刀），编号 arXiv:2606.28464v1，归属 cs.LG（机器学习）分类，由 Kathlén Kohn 与另外四位作者共同完成，投稿人为 Giovanni Luca Marchetti，提交时间为当日 13:40:14 UTC，全文源码约 34 KB。
论文关注的是神经网络优化过程中一个核心问题：模型的架构本身会引入若干临界点，而梯度动力学正是被这些临界点所左右。作者指出，这些临界点出现在模型参数化映射的雅可比矩阵出现秩亏的地方，也就是参数化不再局部一一对应、维数发生塌缩的位置。在奇异学习理论（Singular Learning Theory）的框架中，这类点是研究得最充分、影响也最显著的奇点，它们决定了学习过程的几何结构，并在很大程度上塑造了训练最终收敛到的解。
本文的具体研究对象是深层全连接网络，并将激活函数限定为单项式（monomial）形式，即形如 x^d 的幂函数激活。这样的设定使整个网络成为一个多项式映射，从而可以借助多项式代数的工具来分析其奇点结构。作者特别使用了 Mason 定理等代数结论，用来刻画参数化映射在哪些参数配置下会退化、雅可比矩阵在哪些位置失去满秩性。
论文的主要结果可以概括为：当激活次数（activation degree）足够大时，临界性会精确地出现在子网络（subnetwork）上。所谓子网络，指的是这样一类参数配置——网络中某些神经元处于不活跃状态，或者其功能与其他神经元冗余、可由其余部分替代。换言之，网络真正发生奇异退化的位置，恰好对应着那些可以删去部分单元而不损失表达能力的结构。
这一结论为理解深度神经网络中的隐式偏置（implicit bias）提供了一个数学视角。深度学习实践中长期观察到，过参数化的网络往往并不会收敛到任意复杂的函数，而是倾向于落在较简单的解上；本文表明，在单项式激活的深层网络中，这种向简单函数收敛的倾向可以从奇点的代数结构中得到解释，从而为奥卡姆剃刀在神经网络中的体现给出了形式化依据。
论文还提供了 PDF、实验性 HTML 版本与 TeX 源码等多种获取方式，DOI 为 10.48550/arXiv.2606.28464，由 DataCite 颁发。需要说明的是，本文的分析建立在单项式激活这一特定假设之上，其结论向更一般的激活函数（如 ReLU、sigmoid 等）的推广并不在论文的直接覆盖范围内，读者在引用其结论时应留意这一前提条件。