跳到主要内容
AI News HubLIVE
站内改写1 分钟阅读

GRAPE:引导参数空间演化实现紧凑对抗鲁棒性

文章摘要

GRAPE 提出一种训练框架,通过渐进式暴露参数空间并引导新增容量投向高压力模块,在近乎相同计算预算下将 CIFAR-10 上 PGD-20 鲁棒准确率从 51.70% 提升至 56.94%,同时减少约 21.4% 的参数量。

来源arXiv Machine Learning作者: Zhiyuan Ye (University of Science and Technology of China), Xiangyu Zhou (China Mobile), Ji Qi (China Mobile), Hao Zhang (University of Science and Technology of China), Yi Zhou (China Mobile)
GRAPE:引导参数空间演化实现紧凑对抗鲁棒性
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

对抗训练(AT)是提升神经网络鲁棒性的主流方法,但绝大多数现有方法从一开始就训练一个固定的参数空间。arXiv 上的一篇新论文提出了一个不同的问题:即使最终架构或计算预算相同,参数变得可优化的顺序是否会影响最终的鲁棒解?作者认为,鲁棒模型的学习可以看作参数空间逐步暴露和演化的过程,而不是一次性固定所有可训练维度。

为此,他们提出了 GRAPE(Guided Parameter-Space Evolution,引导参数空间演化),一个面向紧凑对抗鲁棒性的训练框架。GRAPE 的核心包含两个部分:参数空间稳定化与渐进式隐藏扩展。具体来说,它首先在当前已暴露的参数空间内稳定鲁棒优化,然后逐步释放新的可优化维度,并利用一种对抗谱利用率评分来引导新释放的容量流向高压力模块。这种设计使得模型容量不是均匀或随机地增长,而是有针对性地补充到对鲁棒性最关键的部位。

实验在 CIFAR-10 数据集和标准 ℓ∞ 威胁模型下进行,并以固定结构的 ResNet-18 对抗训练作为受控参考。结果显示,在计算预算几乎匹配的情况下(FLOPs 比为 1.009x),GRAPE 将 PGD-20 鲁棒准确率从 51.70% 提升到 56.94%,同时将参数量减少了约 21.4%。这意味着模型在变得更鲁棒的同时也更加紧凑。

为了区分增益是来自最终架构差异还是参数暴露路径本身,作者还测试了一个顺序增长变体,该变体最终达到与参考模型相同的 ResNet-18 架构。该变体取得了 56.52% 的 PGD-20 鲁棒准确率,接近 GRAPE 主方法的结果。这表明,即使最终架构一致,参数空间的暴露顺序仍然对鲁棒性能有显著影响。

论文总结认为,引导参数空间演化能够在匹配计算量的条件下产生紧凑且鲁棒的参数配置。这一发现为对抗训练提供了一种新的视角:不仅关注训练什么结构,也关注结构以何种顺序变得可训练。该工作发表于 arXiv,编号 2606.14865,提交于 2026 年 6 月 12 日,作者为 Zhiyuan Ye 等七人,属于机器学习(cs.LG)与人工智能(cs.AI)交叉领域。

展开要点与分析

文章情报

研究者进阶

要点

  • GRAPE 将对抗训练视为参数空间逐步暴露与演化的过程,而非固定结构训练。
  • 在 FLOPs 比 1.009x 的匹配计算预算下,PGD-20 鲁棒准确率提升 5.24 个百分点。
  • 参数量减少约 21.4%,实现紧凑且鲁棒的参数配置。
  • 顺序增长变体达到 56.52% 准确率,表明增益部分来自参数暴露路径而非仅最终架构。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。