对抗训练(AT)是提升神经网络鲁棒性的主流方法,但绝大多数现有方法从一开始就训练一个固定的参数空间。arXiv 上的一篇新论文提出了一个不同的问题:即使最终架构或计算预算相同,参数变得可优化的顺序是否会影响最终的鲁棒解?作者认为,鲁棒模型的学习可以看作参数空间逐步暴露和演化的过程,而不是一次性固定所有可训练维度。
为此,他们提出了 GRAPE(Guided Parameter-Space Evolution,引导参数空间演化),一个面向紧凑对抗鲁棒性的训练框架。GRAPE 的核心包含两个部分:参数空间稳定化与渐进式隐藏扩展。具体来说,它首先在当前已暴露的参数空间内稳定鲁棒优化,然后逐步释放新的可优化维度,并利用一种对抗谱利用率评分来引导新释放的容量流向高压力模块。这种设计使得模型容量不是均匀或随机地增长,而是有针对性地补充到对鲁棒性最关键的部位。
实验在 CIFAR-10 数据集和标准 ℓ∞ 威胁模型下进行,并以固定结构的 ResNet-18 对抗训练作为受控参考。结果显示,在计算预算几乎匹配的情况下(FLOPs 比为 1.009x),GRAPE 将 PGD-20 鲁棒准确率从 51.70% 提升到 56.94%,同时将参数量减少了约 21.4%。这意味着模型在变得更鲁棒的同时也更加紧凑。
为了区分增益是来自最终架构差异还是参数暴露路径本身,作者还测试了一个顺序增长变体,该变体最终达到与参考模型相同的 ResNet-18 架构。该变体取得了 56.52% 的 PGD-20 鲁棒准确率,接近 GRAPE 主方法的结果。这表明,即使最终架构一致,参数空间的暴露顺序仍然对鲁棒性能有显著影响。
论文总结认为,引导参数空间演化能够在匹配计算量的条件下产生紧凑且鲁棒的参数配置。这一发现为对抗训练提供了一种新的视角:不仅关注训练什么结构,也关注结构以何种顺序变得可训练。该工作发表于 arXiv,编号 2606.14865,提交于 2026 年 6 月 12 日,作者为 Zhiyuan Ye 等七人,属于机器学习(cs.LG)与人工智能(cs.AI)交叉领域。