大语言模型（LLM）遗忘（unlearning）旨在移除模型中的不良知识或行为，同时保持其余能力。现有的遗忘方法几乎都存在遗忘效果与保留性能之间的权衡：为了更彻底地移除目标知识，往往不得不牺牲模型在无关任务上的表现。来自arXiv的最新论文提出了一种名为SAGE（Spectral Activation-GEometry Sanitization，谱激活几何净化）的新方法，从后处理的角度为这一难题提供了补充方案。
研究者发现，保留激活偏差（retention activation bias）可以量化为遗忘方法对保留能力造成的损害，且这一量化过程无需考虑遗忘过程的具体实现。基于此，他们提出了一种事后（post-hoc）设置：在不重新运行原始遗忘流程的情况下，对最终的更新向量进行净化。这一设置的核心优势在于其通用性——它不依赖于特定的遗忘方法，而是作为一种源无关的修正手段，可以与现有方法灵活组合。
SAGE的具体做法是：从一个小的保留代理（retain proxy）中收集真实的模块输入，提取其主导的激活几何结构，然后求解一个以源方法为锚点的闭式优化目标。该优化旨在抑制更新向量中与高能量保留方向对齐的成分，同时保留源方法的遗忘载体（forgetting carrier）。换句话说，SAGE试图在最终更新向量中“修剪”掉那些可能损害保留能力的部分，而保留真正负责遗忘的部分。
作者在多种遗忘方法、不同模型规模和多个基准测试上评估了SAGE。实验结果表明，SAGE能够一致地缓解遗忘与保留之间的权衡，提升保留性能而不牺牲遗忘效果。这一工作将“对最终向量进行事后净化”识别为机器遗忘领域一个实用且尚未被充分探索的方向，为未来研究提供了新的思路。
论文标题为《SAGE: Retain-Aware Post-Hoc Sanitization of Final Unlearning Vector》，由Jingyuan Zhang等九位作者共同完成，提交于2026年6月16日，属于机器学习（cs.LG）和人工智能（cs.AI）交叉领域。