本文にスキップ
AI News HubLIVE
サイト内リライト2 分で読了

検証器こそがカリキュラム:クロスファミリーなゲーム生成のための実行ゲート付き自己蒸留

記事の要約

本論文は、学習型ジャッジの代わりに決定論的で判定不要の「厳格起動」フィルタを用い、棄却サンプリング自己蒸留によって14Bモデルの未見4ゲームファミリーにおけるクリーン生成率を8.8%から42.2%へ、best-of-Kカバレッジを18/25から25/25へ引き上げた。寛容なBUILDチェックに差し替えると効果が消える対照実験により、検証器の精度そのものが学習信号であることを示している。

ソースarXiv AI著者: Chenyu Zhou, Qiliang Jiang, Shuning Wu, Xu Zhou
検証器こそがカリキュラム:クロスファミリーなゲーム生成のための実行ゲート付き自己蒸留
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

コード生成モデルを学習型ジャッジに対して事後学習すると、成果物を改善せずにスコアだけを押し上げる代理特徴を最適化してしまう可能性がある。本論文はその逆の信号に着目する。すなわち、生成されたプロジェクトがヘッドレスエンジン下でクリーンに起動するかどうかという、決定論的でジャッジ不要、そして操作不可能なフィルタ(厳格起動)である。このゲートの下では、棄却サンプリングによる自己蒸留がファミリー外への汎化を累積的に高めていく。

実験はGameCraft-Bench上で行われ、自然言語のブリーフを完全なGodotプロジェクトへ写像するタスクを扱う。対象はQwen3-14BにLoRAを適用した14Bモデルである。厳格起動ゲート下で3ラウンドの自己蒸留を行うと、未見の4ゲームファミリーにおける候補あたりのクリーン生成率は8.8%から42.2%へ上昇し、best-of-Kカバレッジは25中18から25中25、つまり金基準の上限に達した。各ラウンドの改善はいずれも統計的に有意であり、p値はそれぞれ0.0019、1e-4未満、1e-4未満であった。

この向上が単なるデータ量の増加によるものではない点が重要である。データ量を厳密に一致させた金基準複製の対照群では、結果は5.6%まで後退し、ベースラインの8.8%を下回った(p=0.019)。これはデータ量増加による説明を明確に排除する。さらに、件数を揃えた分解実験により、第1ラウンドから第2ラウンドへの跳躍は品質チャネル(+8.8ポイント)と量チャネル(+8.5ポイント)にほぼ均等に分けられることが示された。

最も直接的な証拠は、フィルタだけを差し替える実験から得られる。厳格起動ゲートの代わりに、通過率99.9%というほぼ選別を行わない寛容なBUILDチェックを用いると、それまでに蓄積された効果は完全に消失し、ベースラインへ戻った(厳格起動ゲートのラウンドとの差はp=1e-3)。この対照は、最適化器そのものではなく検証器の精度を切り分けて示している。

論文はさらに、操作不可能な第二の信号であるヘッドレス実行グラウンディングも検討する。この指標はラウンドを追うごとに単調に上昇し、同じ予算の下で金基準複製よりもはるかに多くのグラウンディング済み候補を生み出した(16対5)。これにより、得られた改善が起動するだけで中身が空というものではなく、機能的であることが確認される。ゲーム生成は検証可能な試験台であり、そこから得られる教訓は一言に尽きる。検証器こそがカリキュラムであり、それが認定するものをモデルは学ぶのである。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • GameCraft-Bench上で厳格起動ゲート付き自己蒸留を3ラウンド行い、クリーン生成率を8.8%から42.2%へ、best-of-Kカバレッジを18/25から金基準の25/25へ向上させた。
  • データ量を厳密に揃えた金基準複製の対照群は5.6%まで後退し、単なるデータ追加では説明できないことを示した。
  • 通過率99.9%の寛容なBUILDチェックにフィルタだけを差し替えると効果が完全に消失し、改善は最適化器ではなく検証器の精度に由来することが確認された。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。

検証器こそがカリキュラム:クロスファミリーなゲーム生成のための実行ゲート付き自己蒸留 | AI News Hub