本文にスキップ
AI News HubLIVE
サイト内リライト2 分で読了

予測可能なGRPO:訓練ダイナミクスの閉形式モデル

記事の要約

本論文はGRPOの訓練ダイナミクスに関する第一原理的な低次元モデルを提案する。経験的な単一指数飽和則を過減衰極限として包含し、グループサイズ不変性、リフレッシュ間隔における鋭い安定性閾値、過減衰から振動への転移を予測する。3モデル・2グループサイズで閉形式軌道が訓練報酬をR²≥0.91でフィットする。

ソースarXiv Machine Learning著者: Rajat Ghosh, Datta Nimmaturi, Aryan Singhal, Vaishnavi Bhargava, Henry Wong, Johnu George, Debojyoti Dutta
予測可能なGRPO:訓練ダイナミクスの閉形式モデル
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

arXiv:2606.30789v1(2026年6月29日投稿)は、Rajat Ghosh氏ら7名による論文「予測可能なGRPO:訓練ダイナミクスの閉形式モデル」である。本論文は、大規模言語モデルの推論能力向上における標準的ツールとなっているGroup Relative Policy Optimization(GRPO)に注目する。しかし、その訓練ダイナミクスは依然として経験的に記述されており、報酬軌道は機構的意味を持たない定数を含む低パラメータの関数形でフィットされ、ハイパーパラメータの選択も試行錯誤に委ねられている。

著者らは、これらのダイナミクスを第一原理から導出した低次元モデルを構築する。この還元には三つの帰結がある。第一に、経験的に観測される単一指数飽和則を過減衰極限として包含し、フィットされたプラトー、タイムスケール、サイズ指数を、基礎となるポテンシャルの固定点、逆剛性、曲率スケーリング指数として再解釈する。さらに、保持された慣性項を通じて、単一指数では表現できないスロースタート相を加える。

第二に、フィット値ではなく独立に測定可能な量に結びついた予測を与える。すなわち、決定論的軌道のグループサイズ不変性と1/Gの定常揺らぎ、リフレッシュ間隔における鋭い安定性閾値、過減衰から振動への転移である。

第三に、報酬曲線だけでは混同される失敗モードを分離する診断手段を提供する。具体的には、報酬ハッキング、アドバンテージ縮退、方策集中、動的不安定性である。

実験では、3つのモデルと2つのグループサイズにわたり、閉形式軌道が訓練報酬をR²≥0.91でフィットし、予測されたグループサイズ不変性が報酬曲線および8つの数学ベンチマークへの分布外転移の両方で成立することが示された。安定性と振動の予測は、平均場仮定が厳密に成り立つ制御された厳密還元設定で検証されている。softmaxバンディット還元は、予測された過減衰から振動への転移を再現し、独立に測定された剛性においてリフレッシュ間隔の安定性閾値を特定した。深層ネットワークでの実証は今後の課題として残されている。

本論文は機械学習(cs.LG)および統計的機械学習(stat.ML)に分類され、arXiv:2606.30789v1として公開されている。DOIは10.48550/arXiv.2606.30789で、投稿履歴によれば2026年6月29日18:19:09 UTCに第一版が受領され、全文サイズは752 KBである。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • 低次元モデルは慣性項を保持し、単一指数では表現できないスロースタート相を捉えるとともに、フィット定数をポテンシャルの固定点、逆剛性、曲率スケーリング指数として再解釈する。
  • 独立に測定可能な量に結びついた予測を与える:決定論的軌道のグループサイズ不変性(1/Gの定常揺らぎを伴う)、リフレッシュ間隔における鋭い安定性閾値、過減衰から振動への転移。
  • 3モデル・2グループサイズにおいて、閉形式軌道は訓練報酬をR²≥0.91でフィットし、予測されたグループサイズ不変性は報酬曲線と8つの数学ベンチマークへの分布外転移の両方で成立する。
  • 安定性と振動の予測は、平均場仮定が厳密に成り立つsoftmaxバンディット還元の制御された厳密還元設定で検証され、深層ネットワークでの実証は今後の課題とされている。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。