論文「DRIFT: Refining Instruction Data via On-Policy Data Attribution」は、2026年6月16日に arXiv へ投稿された。著者は Zefan Wang ほか3名で、機械学習（cs.LG）と人工知能（cs.AI）にまたがる研究である。本論文が扱うのは、教師ありファインチューニング（SFT）における学習データ分布の最適化であり、この分布は大規模言語モデルが最終的に備える能力を左右する重要な要素とされる。
著者らはまず、既存のデータキュレーション手法の位置づけを整理する。これらの手法は限られた計算予算のもとで学習を加速させることに長けており、性能を保ちながらより小さなデータ部分集合を選び出す用途に適している。しかし、モデルが到達しうる能力の上限を引き上げるという目的には向いていない。ここでの課題は、性能を維持する小さな部分集合を見つけることではなく、最終モデルを最も改善しうるインスタンスへとデータ分布を寄せていくことにある。
この課題に対し、論文は影響関数（Influence Functions, IF）を用いたインスタンス単位のデータ帰属を検討する。ところが標準的な影響関数の定式化には、この設定で問題となる二つの構造的限界があることが示される。第一は、オフポリシーの検証ターゲットに起因する近接性ギャップである。影響関数はパラメータ空間の局所近傍での線形近似に依拠するが、検証目標がモデルの現在の挙動から離れていると、この仮定が崩れて帰属結果が実際の影響からずれてしまう。第二は、勾配ノルムへの深刻な偏りである。影響スコアが勾配ノルムの大きなサンプルに支配されやすく、著者らが勾配ハッキングの問題と呼ぶ歪みを生じさせる。
そこで提案されるのが DRIFT（Data Refinement via On-Policy Influence Functions for Supervised Fine-Tuning）である。DRIFT は外部の参照データに依存せず、モデル自身のオンポリシーロールアウトを検証ターゲットとして利用する。著者によれば、これによりパラメータ空間における近接性ギャップが実験的に最小化され、影響関数の局所近傍仮定との整合性も高まる。さらに、軌跡の正しさに基づく符号付きの重み付けを導入し、勾配ノルムに起因するバイアスを補正することで、ごく少数の検証クエリを信頼できるアンカーとして機能させ、データセット全体の帰属を可能にする。
実験は7Bパラメータの指示モデルと推論モデルの双方で行われた。結果として DRIFT は両モデルにおいて性能の上限を一貫して引き上げ、既存のデータキュレーション基準を上回ることが示された。論文は PDF に加え実験的な HTML 版や TeX ソースも公開しており、DOI は 10.48550/arXiv.2606.18307、版は v1、ファイルサイズは約1,022 KB である。