立場：「後処理で修正する」だけでは不十分——AI科学は訓練ダイナミクスを研究すべき
本論文は、AI研究がモデルを静的な成果物として事後分析するのではなく、訓練中にモデル行動が生まれる動的プロセスを研究すべきだと主張する。予測、介入、設計という段階的な理解を目指し、スケーリング則を損失から能力・バイアス・安全性へ拡張する課題を提起する。
近年の人工知能研究は目覚ましい進歩を遂げているが、多くの研究は訓練済みモデルを完成品として扱い、その最終的な振る舞いのみを分析する傾向がある。しかし、モデルはデータ、目的関数、最適化プロセスによって形成される時間発展的なプロセスのスナップショットに過ぎない。ICML 2026で口頭発表される立場論文（arXiv:2606.06533）は、AI科学が訓練ダイナミクスの研究に軸足を移すべきだと強く主張する。
論文は、現在の主流アプローチが「後処理での修正」に依存し、行動がなぜ生じるのかという根本的な問いを避けていると批判する。真の科学的理解を築くためには、まず初期の訓練信号から最終結果を予測し、次に軌道が望ましくない方向に進んだ際に介入し、最終的には信頼性高く望ましい性質を生み出す訓練手順を設計できるようになる必要がある。
スケーリング則は損失関数の予測において成功を収めているが、それを能力、バイアス、ロバスト性、安全関連行動に拡張することが次の挑戦である。論文は科学史と科学哲学に基づき、理論に求められる条件を明確化し、機械的解釈可能性、公平性、記憶化、単純性バイアスなどの分野における進展を評価し、具体的な未解決問題を提示している。
著者ら（Stella Biderman、Mohammad Aflah Khan、Niloofar Mireshghallah、Catherine Arnett、Fazl Barez、Naomi Saphra）は、AIコミュニティが訓練ダイナミクスを体系的に研究することによってのみ、「モデルを作る」ことから「知能を理解する」ことへのパラダイムシフトが可能になると結論づけている。