arXiv は 2026 年 10 月 20 日に、論文「LIFT: Scoped Constraints for Evaluating and Training Instruction Following」(arXiv:2610.28819v1、cs.CL、ACM クラス I.2.7)を公開した。著者は Eran Goldstein ほか 3 名の計 4 名で、投稿者は Yonatan Belinkov である。本論文は、指示追従(instruction following、IF)の評価と訓練における重要な落とし穴、すなわち報酬ハッキング(reward hacking)に焦点を当てている。
著者らはまず既存手法の限界を整理する。IFEval など一般的な指示追従ベンチマークは、プログラムで容易に検証できる単純な制約にモデルが従えるかを評価する。そして同じ制約が強化学習の報酬信号としても用いられる。著者らは、この設計が制約に対する報酬ハッキングを招き、モデルを本来の主タスクから遠ざける可能性があると指摘する。近年の改善の試みはより豊かな制約を持つベンチマークを生んだが、専門家による人手作業を必要とし、クローズドアクセスにとどまり、容易に拡張できないという課題が残っていた。
これに対し著者らは Lift-Bench を提案する。これは、与えられたトピックと構造化されたアウトラインに基づいて文書の草稿を書くことをモデルに求める指示追従ベンチマークである。制約は文書の特定のセクションにスコープされ、制約密度をより細かく制御できる。Lift-Bench は検証可能な制約と審査(judged)による制約の双方を含み、対応する訓練用データセット Lift-Train も備える。重要な点として、Lift-Bench は主タスクの制約と指示追従の制約の両方を提供し、浅い報酬ハッキングを緩和する。
複数モデルでの実験では、フロンティアモデルがベンチマークのより難しいサブセットに苦戦することが分かり、著者らは複数の軸に沿ってモデルの性能を分析した。また、Lift-Train での訓練は、一般的な IFTrain での訓練よりも報酬ハッキングに対してはるかに堅牢であることも判明した。Lift-Bench、Lift-Train、およびデータ生成パイプラインはすべて公開されている。
メタデータとしては、本論文は 2026 年 10 月 20 日火曜日 18:40:22 UTC に投稿され、ファイルサイズは約 1,028 KB、DOI は https://doi.org/10.48550/arXiv.2610.28819(DataCite 経由、登録手続き中)である。PDF、実験的な HTML、TeX ソースへのリンクが提供され、ライセンスは arXiv ページで確認できる。また、音声要約、参考文献・引用ツール(Google Scholar、Semantic Scholar など)、コードやデータ関連ツール(alphaXiv、Hugging Face、CatalyzeX など)、関連論文の推薦ツールも利用可能である。