敵対的訓練（AT）はニューラルネットワークのロバスト性を向上させる主要な手法だが、そのほとんどは最初から固定されたパラメータ空間を訓練する。arXivに投稿された新しい論文は、最終的なアーキテクチャや計算予算が同じであっても、パラメータが最適化可能になる順序が最終的なロバスト解に影響を与えるかどうかを問いかけている。著者らは、ロバストモデルの学習を、パラメータ空間が段階的に露出し進化するプロセスとして捉えるべきだと主張する。
この問いに答えるため、彼らはGRAPE（Guided Parameter-Space Evolution、誘導パラメータ空間進化）を提案した。これはコンパクトな敵対的ロバスト性のための訓練フレームワークである。GRAPEは、パラメータ空間の安定化と漸進的な隠れ拡張を組み合わせる。まず現在露出している空間内でロバスト最適化を安定させ、その後、新たな最適化可能次元を徐々に解放する。さらに、敵対的スペクトル利用率スコアを用いて、新たに解放された容量を高圧力モジュールへと誘導する。これにより、モデル容量は均一やランダムに増えるのではなく、ロバスト性にとって最も重要な部分に選択的に補充される。
実験はCIFAR-10データセットと標準的なℓ∞脅威モデルで行われ、固定構造のResNet-18敵対的訓練を制御参照とした。その結果、計算予算がほぼ一致する条件（FLOPs比1.009x）で、GRAPEはPGD-20ロバスト精度を51.70%から56.94%へ向上させ、同時にパラメータ数を約21.4%削減した。これは、モデルがよりロバストになるだけでなく、よりコンパクトになることを意味する。
利得が最終アーキテクチャの違いによるものか、パラメータ露出の経路自体によるものかを区別するため、著者らは逐次成長変種もテストした。この変種は最終的に参照モデルと同じResNet-18アーキテクチャに到達するが、56.52%のPGD-20ロバスト精度を達成した。これはGRAPEの主手法に近い結果であり、最終アーキテクチャが同一であっても、パラメータ空間の露出順序がロバスト性能に有意な影響を与えることを示している。
論文は、誘導パラメータ空間進化が計算量を一致させた条件下でコンパクトかつロバストなパラメータ構成を生み出せることを結論づけている。この発見は、どの構造を訓練するかだけでなく、構造がどのような順序で訓練可能になるかにも注目する新しい視点を敵対的訓練に提供する。本論文はarXiv番号2606.14865として2026年6月12日に投稿され、Zhiyuan Ye氏ら7名によるもので、機械学習（cs.LG）と人工知能（cs.AI）の分野に属する。