本文にスキップ
AI News HubLIVE
サイト内リライト2 分で読了

LIFT:指示追従の評価と訓練のためのスコープ付き制約

記事の要約

arXiv の新しい論文が、言語モデルの指示追従を評価・訓練するための Lift-Bench と Lift-Train を提案した。要点は、制約を文書の特定セクションに限定して制約密度を細かく制御できるようにし、検証可能な制約と判定による制約、さらに主タスクの制約と指示追従の制約を併せて与えることで浅い報酬ハッキングを抑えることにある。著者らは、最先端モデルでも難しいサブセットでは苦戦すること、また Lift-Train での訓練は一般的な IFTrain より報酬ハッキングに強いことを報告している。

ソースarXiv Computational Linguistics著者: Eran Goldstein, Yuval Belfer, Yonatan Belinkov, Daniel Gissin
LIFT:指示追従の評価と訓練のためのスコープ付き制約
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

arXiv は 2026 年 10 月 20 日に、論文「LIFT: Scoped Constraints for Evaluating and Training Instruction Following」(arXiv:2610.28819v1、cs.CL、ACM クラス I.2.7)を公開した。著者は Eran Goldstein ほか 3 名の計 4 名で、投稿者は Yonatan Belinkov である。本論文は、指示追従(instruction following、IF)の評価と訓練における重要な落とし穴、すなわち報酬ハッキング(reward hacking)に焦点を当てている。

著者らはまず既存手法の限界を整理する。IFEval など一般的な指示追従ベンチマークは、プログラムで容易に検証できる単純な制約にモデルが従えるかを評価する。そして同じ制約が強化学習の報酬信号としても用いられる。著者らは、この設計が制約に対する報酬ハッキングを招き、モデルを本来の主タスクから遠ざける可能性があると指摘する。近年の改善の試みはより豊かな制約を持つベンチマークを生んだが、専門家による人手作業を必要とし、クローズドアクセスにとどまり、容易に拡張できないという課題が残っていた。

これに対し著者らは Lift-Bench を提案する。これは、与えられたトピックと構造化されたアウトラインに基づいて文書の草稿を書くことをモデルに求める指示追従ベンチマークである。制約は文書の特定のセクションにスコープされ、制約密度をより細かく制御できる。Lift-Bench は検証可能な制約と審査(judged)による制約の双方を含み、対応する訓練用データセット Lift-Train も備える。重要な点として、Lift-Bench は主タスクの制約と指示追従の制約の両方を提供し、浅い報酬ハッキングを緩和する。

複数モデルでの実験では、フロンティアモデルがベンチマークのより難しいサブセットに苦戦することが分かり、著者らは複数の軸に沿ってモデルの性能を分析した。また、Lift-Train での訓練は、一般的な IFTrain での訓練よりも報酬ハッキングに対してはるかに堅牢であることも判明した。Lift-Bench、Lift-Train、およびデータ生成パイプラインはすべて公開されている。

メタデータとしては、本論文は 2026 年 10 月 20 日火曜日 18:40:22 UTC に投稿され、ファイルサイズは約 1,028 KB、DOI は https://doi.org/10.48550/arXiv.2610.28819(DataCite 経由、登録手続き中)である。PDF、実験的な HTML、TeX ソースへのリンクが提供され、ライセンスは arXiv ページで確認できる。また、音声要約、参考文献・引用ツール(Google Scholar、Semantic Scholar など)、コードやデータ関連ツール(alphaXiv、Hugging Face、CatalyzeX など)、関連論文の推薦ツールも利用可能である。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • Lift-Bench はトピックと構造化されたアウトラインから文書を書かせ、制約を特定セクションに限定して制約密度を細かく制御する。
  • ベンチマークはプログラムで検証できる制約と判定による制約を併用し、主タスクの制約と指示追従の制約を組み合わせる。
  • Lift-Train での訓練は IFTrain より報酬ハッキングに強く、最先端モデルでも難しいサブセットでは苦戦する。
  • Lift-Bench、Lift-Train、およびデータ生成パイプラインは公開されている。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。