干扰感知的多任务遗忘学习
机器遗忘学习旨在从训练模型中移除指定数据的影响，同时保持其余数据上的性能。现有研究主要集中于单任务场景，而现代模型往往在共享主干的多任务设置中运行，移除一个任务或实例的监督可能会无意中影响其他任务。本文介绍了多任务遗忘学习的两种设置：全任务遗忘和部分任务遗忘，并提出了一种干扰感知框架，结合任务感知梯度投影和实例级梯度正交化，有效减少了任务间和实例间的干扰。实验表明，该方法在两种多任务计算机视觉基准测试中，相比最强基线，在全任务遗忘中降低了30.3%的UIS，在部分任务遗忘中降低了52.9%。
机器遗忘学习（Machine Unlearning）旨在从已训练好的模型中移除特定训练数据的影响，同时保持模型在剩余数据上的性能。传统研究大多集中在单任务场景，然而现代深度学习模型往往采用共享主干的多任务架构，例如同时进行目标检测、语义分割等任务。在这种设置下，若要为某个用户删除其数据，需要从模型中遗忘该样本。但由于参数共享，移除一个任务或实例的监督信息可能会无意中影响其他任务和实例的性能，产生干扰。
本文正式定义了两类多任务遗忘学习问题：全任务遗忘（Full-Task Unlearning）和部分任务遗忘（Partial-Task Unlearning）。全任务遗忘旨在从所有任务中移除某个目标实例的影响；而部分任务遗忘则只从选定的任务中移除监督信息，保留其他任务对该实例的记忆。作者指出，共享参数会耦合遗忘集和保留集，导致任务级干扰（非目标任务受影响）和实例级干扰（其他实例受影响）。例如，在同时进行目标检测和深度估计的模型中，遗忘一个行人实例可能不仅影响检测任务，还可能干扰深度估计中对同一位置的预测。
为了解决这一干扰问题，论文提出了一种干扰感知框架（Interference-Aware Framework）。该框架包含两个关键组件：任务感知梯度投影（Task-Aware Gradient Projection）和实例级梯度正交化（Instance-Level Gradient Orthogonalization）。任务感知梯度投影通过将模型参数更新约束在任务特定的子空间中，从而减少任务间的干扰。具体来说，在更新梯度时，只允许在与其他任务梯度正交的方向上改变参数，确保对某一任务的遗忘不影响其他任务。实例级梯度正交化则通过使遗忘信号和保留信号的梯度正交，降低实例间的冲突。这样，在遗忘某个样本时，不会对模型中与该样本无关的其他表示造成大的扰动。
实验在两个多任务计算机视觉基准数据集上进行，涵盖五项任务（包括分类、检测、分割等）。结果表明，所提方法在有效遗忘的同时保持了强大的泛化能力。在遗忘质量指标UIS（Unlearning Impact Score）上，与最强基线相比，全任务遗忘降低了30.3%，部分任务遗忘降低了52.9%。这一工作为多任务学习中的隐私保护和数据删除提供了新的思路，未来可扩展到更多任务和更大规模模型。