干擾感知的多工遺忘學習
機器遺忘學習旨在從訓練模型中移除指定資料的影響，同時保持其餘資料上的效能。現有研究主要集中於單任務場景，而現代模型往往在共享主幹的多工設定中執行，移除一個任務或例項的監督可能會無意中影響其他任務。本文介紹了多工遺忘學習的兩種設定：全任務遺忘和部分任務遺忘，並提出了一種干擾感知框架，結合任務感知梯度投影和例項級梯度正交化，有效減少了任務間和例項間的干擾。實驗表明，該方法在兩種多工計算機視覺基準測試中，相比最強基線，在全任務遺忘中降低了30.3%的UIS，在部分任務遺忘中降低了52.9%。
機器遺忘學習（Machine Unlearning）旨在從已訓練好的模型中移除特定訓練資料的影響，同時保持模型在剩餘資料上的效能。傳統研究大多集中在單任務場景，然而現代深度學習模型往往採用共享主幹的多工架構，例如同時進行目標檢測、語義分割等任務。在這種設定下，若要為某個使用者刪除其資料，需要從模型中遺忘該樣本。但由於引數共享，移除一個任務或例項的監督資訊可能會無意中影響其他任務和例項的效能，產生干擾。
本文正式定義了兩類多工遺忘學習問題：全任務遺忘（Full-Task Unlearning）和部分任務遺忘（Partial-Task Unlearning）。全任務遺忘旨在從所有任務中移除某個目標例項的影響；而部分任務遺忘則只從選定的任務中移除監督資訊，保留其他任務對該例項的記憶。作者指出，共享引數會耦合遺忘集和保留集，導致任務級干擾（非目標任務受影響）和例項級干擾（其他例項受影響）。例如，在同時進行目標檢測和深度估計的模型中，遺忘一個行人例項可能不僅影響檢測任務，還可能干擾深度估計中對同一位置的預測。
為了解決這一干擾問題，論文提出了一種干擾感知框架（Interference-Aware Framework）。該框架包含兩個關鍵元件：任務感知梯度投影（Task-Aware Gradient Projection）和例項級梯度正交化（Instance-Level Gradient Orthogonalization）。任務感知梯度投影透過將模型引數更新約束在任務特定的子空間中，從而減少任務間的干擾。具體來說，在更新梯度時，只允許在與其他任務梯度正交的方向上改變引數，確保對某一任務的遺忘不影響其他任務。例項級梯度正交化則透過使遺忘訊號和保留訊號的梯度正交，降低例項間的衝突。這樣，在遺忘某個樣本時，不會對模型中與該樣本無關的其他表示造成大的擾動。
實驗在兩個多工計算機視覺基準資料集上進行，涵蓋五項任務（包括分類、檢測、分割等）。結果表明，所提方法在有效遺忘的同時保持了強大的泛化能力。在遺忘質量指標UIS（Unlearning Impact Score）上，與最強基線相比，全任務遺忘降低了30.3%，部分任務遺忘降低了52.9%。這一工作為多工學習中的隱私保護和資料刪除提供了新的思路，未來可擴充套件到更多工和更大規模模型。