OriginBlame：AI训练数据集的记录级和令牌级数据溯源
本文介绍OriginBlame，一个记录级和令牌级的数据溯源系统，能够精确地将数据删除请求映射到具体的训练记录，避免大规模过度删除。在219,555个维基百科页面上的评估显示，记录级溯源将过度删除从101倍降低到1.3倍，同时引入的吞吐量开销仅为1.3-4.0%（HuggingFace）和2.1-19.0%（Datatrove）。在17亿参数模型上，基于溯源的遗忘集比随机基线提高了42%的遗忘效果。
随着人工智能模型的训练数据规模不断增大，数据贡献者要求删除其数据的情况也日益增多。然而，现有的数据溯源系统通常只在文件或数据集级别操作，导致在删除数据时不得不进行灾难性的过度删除。为了解决这一实际问题，来自研究团队的Haolin Xue等人提出了OriginBlame系统（简称ob），这是一个能够在记录级和令牌级进行数据溯源的新方法。该系统通过将作者身份信息传播到数据处理流水线的各个环节，并利用确定性查询将撤销请求解析为精确的遗忘集，从而实现了对训练数据的精细化管理。
OriginBlame在219,555个维基百科页面上进行了全面评估，结果显示，记录级溯源将数据集级别的过度删除从101倍降低到了1.3倍，几乎完全消除了不必要的删除。同时，该系统的集成开销非常低，在HuggingFace上仅增加了1.3-4.0%的吞吐量开销，在Datatrove上增加了2.1-19.0%。为了验证OriginBlame在模型遗忘方面的实际效果，研究者在17亿参数的语言模型上进行了测试。结果表明，基于溯源信息的遗忘集比随机选择的基线方法在遗忘效果上提升了42%。这一工作为AI训练数据的管理和合规提供了新的工具，有望推动数据隐私保护技术的进步。论文于2026年5月19日提交至arXiv，编号2607.13037，包含13页和6张图表，隶属于人工智能领域。