干擾感知的多任務遺忘學習
機器遺忘學習旨在從訓練模型中移除指定數據的影響，同時保持其餘數據上的性能。現有研究主要集中於單任務場景，而現代模型往往在共享主幹的多任務設置中運行，移除一個任務或實例的監督可能會無意中影響其他任務。本文介紹了多任務遺忘學習的兩種設置：全任務遺忘和部分任務遺忘，並提出了一種干擾感知框架，結合任務感知梯度投影和實例級梯度正交化，有效減少了任務間和實例間的干擾。實驗表明，該方法在兩種多任務計算機視覺基準測試中，相比最強基線，在全任務遺忘中降低了30.3%的UIS，在部分任務遺忘中降低了52.9%。
機器遺忘學習（Machine Unlearning）旨在從已訓練好的模型中移除特定訓練數據的影響，同時保持模型在剩餘數據上的性能。傳統研究大多集中在單任務場景，然而現代深度學習模型往往採用共享主幹的多任務架構，例如同時進行目標檢測、語義分割等任務。在這種設置下，若要為某個用户刪除其數據，需要從模型中遺忘該樣本。但由於參數共享，移除一個任務或實例的監督信息可能會無意中影響其他任務和實例的性能，產生干擾。
本文正式定義了兩類多任務遺忘學習問題：全任務遺忘（Full-Task Unlearning）和部分任務遺忘（Partial-Task Unlearning）。全任務遺忘旨在從所有任務中移除某個目標實例的影響；而部分任務遺忘則只從選定的任務中移除監督信息，保留其他任務對該實例的記憶。作者指出，共享參數會耦合遺忘集和保留集，導致任務級干擾（非目標任務受影響）和實例級干擾（其他實例受影響）。例如，在同時進行目標檢測和深度估計的模型中，遺忘一個行人實例可能不僅影響檢測任務，還可能干擾深度估計中對同一位置的預測。
為了解決這一干擾問題，論文提出了一種干擾感知框架（Interference-Aware Framework）。該框架包含兩個關鍵組件：任務感知梯度投影（Task-Aware Gradient Projection）和實例級梯度正交化（Instance-Level Gradient Orthogonalization）。任務感知梯度投影通過將模型參數更新約束在任務特定的子空間中，從而減少任務間的干擾。具體來説，在更新梯度時，只允許在與其他任務梯度正交的方向上改變參數，確保對某一任務的遺忘不影響其他任務。實例級梯度正交化則通過使遺忘信號和保留信號的梯度正交，降低實例間的衝突。這樣，在遺忘某個樣本時，不會對模型中與該樣本無關的其他表示造成大的擾動。
實驗在兩個多任務計算機視覺基準數據集上進行，涵蓋五項任務（包括分類、檢測、分割等）。結果表明，所提方法在有效遺忘的同時保持了強大的泛化能力。在遺忘質量指標UIS（Unlearning Impact Score）上，與最強基線相比，全任務遺忘降低了30.3%，部分任務遺忘降低了52.9%。這一工作為多任務學習中的隱私保護和數據刪除提供了新的思路，未來可擴展到更多任務和更大規模模型。