近日，一篇题为《Lookahead Drifting Model》的论文提出了一种新颖的分布映射方法，该方法隶属于近年来兴起的“漂移模型”范式。漂移模型的核心思想是在每次训练迭代中计算一个漂移项，并将模型的输出推向该漂移项的方向。这种范式在ImageNet数据集上通过单步神经功能评估（NFE）取得了最先进的图像生成性能。然而，传统的漂移模型仅使用单一的漂移项，可能无法充分利用高阶梯度信息。
为了解决这一局限，研究者提出了“前瞻漂移模型”。该模型在每次训练迭代中顺序计算一组漂移项，而并非仅计算一个。每个漂移项的生成都依赖于之前计算的漂移项、正样本以及当前模型的输出。这种迭代式的计算方式使得后阶段的漂移项能够捕获朝向正样本的高阶梯度信息，从而提升模型的优化效率。具体而言，模型通过将输出推向这些漂移项加权和的方向来进行参数更新。
实验部分，研究者首先在玩具示例上验证了方法的有效性，随后在CIFAR10数据集上进行图像生成任务测试。结果表明，与基线漂移模型相比，前瞻漂移模型在生成质量上取得了显著提升，FID分数等指标均有所改善。该工作为高效分布映射提供了一种新思路，有望在图像生成、强化学习等需要从复杂分布中采样的领域得到应用。