这篇题为《DRIFT: Refining Instruction Data via On-Policy Data Attribution》的论文于 2026 年 6 月 16 日提交至 arXiv，作者为 Zefan Wang 等四人，属于机器学习（cs.LG）与人工智能（cs.AI）交叉方向。论文关注有监督微调（SFT）阶段训练数据分布的优化问题，因为这一分布直接决定了大语言模型最终具备的能力水平。
作者指出，现有数据筛选方法的主要目标是在受限预算下加速训练，它们擅长找出一个能够保持性能的较小数据子集；但当目标转为提升模型能力的上限时，这类方法就不再适用。此时的问题不再是“如何用更少数据维持原有表现”，而是“如何把数据分布调整到那些最有可能改进最终模型的样本上”。围绕这一目标，论文探索了基于影响函数（Influence Functions, IF）的实例级数据归因方法，即评估单条训练样本对模型最终表现的贡献。
作者发现，标准影响函数在这一场景下存在两个结构性局限。其一是邻近性差距：当验证目标来自离线策略数据时，影响函数的局部线性近似假设会被削弱，导致归因结果偏离真实影响。其二是严重的梯度范数偏置：影响分数容易被梯度范数较大的样本主导，从而产生“梯度钻空子”式的失真，使归因结果不能可靠反映样本价值。
为解决上述问题，论文提出 DRIFT（Data Refinement via On-Policy Influence Functions for Supervised Fine-Tuning）。该方法不依赖外部参考数据，而是使用模型自身在线策略下的 rollout 作为验证目标。作者表示，这一设计在实验上有效缩小了参数空间的邻近性差距，也更贴合影响函数的局部邻域假设。此外，DRIFT 依据轨迹的正确性施加带符号的加权，并对影响分数做去偏处理以抑制梯度范数带来的失真，从而让少量验证查询成为可靠的锚点，用于对完整数据集进行归因。
在实验部分，作者在 7B 参数的指令模型与推理模型上验证了该方法。结果显示，DRIFT 在这两类模型上均能持续提升性能上限，并优于现有的数据筛选基线。论文同时提供了 PDF、实验性 HTML 版本与 TeX 源码等访问方式，DOI 为 10.48550/arXiv.2606.18307，提交版本为 v1，全文大小约 1,022 KB。