arXiv:2606.30789v1(2026年6月29日投稿)は、Rajat Ghosh氏ら7名による論文「予測可能なGRPO:訓練ダイナミクスの閉形式モデル」である。本論文は、大規模言語モデルの推論能力向上における標準的ツールとなっているGroup Relative Policy Optimization(GRPO)に注目する。しかし、その訓練ダイナミクスは依然として経験的に記述されており、報酬軌道は機構的意味を持たない定数を含む低パラメータの関数形でフィットされ、ハイパーパラメータの選択も試行錯誤に委ねられている。
著者らは、これらのダイナミクスを第一原理から導出した低次元モデルを構築する。この還元には三つの帰結がある。第一に、経験的に観測される単一指数飽和則を過減衰極限として包含し、フィットされたプラトー、タイムスケール、サイズ指数を、基礎となるポテンシャルの固定点、逆剛性、曲率スケーリング指数として再解釈する。さらに、保持された慣性項を通じて、単一指数では表現できないスロースタート相を加える。
第二に、フィット値ではなく独立に測定可能な量に結びついた予測を与える。すなわち、決定論的軌道のグループサイズ不変性と1/Gの定常揺らぎ、リフレッシュ間隔における鋭い安定性閾値、過減衰から振動への転移である。
第三に、報酬曲線だけでは混同される失敗モードを分離する診断手段を提供する。具体的には、報酬ハッキング、アドバンテージ縮退、方策集中、動的不安定性である。
実験では、3つのモデルと2つのグループサイズにわたり、閉形式軌道が訓練報酬をR²≥0.91でフィットし、予測されたグループサイズ不変性が報酬曲線および8つの数学ベンチマークへの分布外転移の両方で成立することが示された。安定性と振動の予測は、平均場仮定が厳密に成り立つ制御された厳密還元設定で検証されている。softmaxバンディット還元は、予測された過減衰から振動への転移を再現し、独立に測定された剛性においてリフレッシュ間隔の安定性閾値を特定した。深層ネットワークでの実証は今後の課題として残されている。
本論文は機械学習(cs.LG)および統計的機械学習(stat.ML)に分類され、arXiv:2606.30789v1として公開されている。DOIは10.48550/arXiv.2606.30789で、投稿履歴によれば2026年6月29日18:19:09 UTCに第一版が受領され、全文サイズは752 KBである。