近日，一篇題為“Approximate Machine Unlearning through Manifold Representation Forgetting Guided by Self Mode Connectivity”的研究論文在 arXiv 上發佈，該文由 Weiqi Wang 等五位作者共同完成，提出了一種名為 ManiF-SMC 的新型機器遺忘方法。
機器遺忘是支持“被遺忘權”的關鍵機制，旨在使已訓練的模型在移除特定數據後，其行為與從頭重新訓練（即排除這些數據）的模型保持一致。然而，現有方法大多依賴標籤操作或任務梯度反轉，不僅遺忘效果有限，還可能損害原始學習目標，且無法保證與重新訓練等價。
ManiF-SMC 的核心思想源於一個關鍵觀察：當模型在保留數據（即除去要擦除樣本後的剩餘數據）上重新訓練時，它傾向於根據語義相似性對擦除樣本進行分類。基於此，研究者將近似遺忘重新定義為一個幾何操作——將每個擦除樣本從其原始學習到的流形表示質心推向保留數據中最近的語義鄰居。這一過程完全在模型的表示空間內進行，從而降低了對標籤和任務特定梯度的依賴性。
為了實現這一幾何操作，ManiF-SMC 採用基於邊距的三元組損失函數，同時優化遺忘和表示保留兩個目標。然而，邊距的選擇對遺忘效果至關重要，手動設定極為困難。為此，論文提出了一個自模式連通（Self Mode Connectivity）模塊，該模塊能夠快速重建局部流形結構，為每個遺忘案例自適應地生成合適的邊距。
在四個具有代表性的數據集（包括圖像和文本分類任務）上的大量實驗表明，ManiF-SMC 在遺忘效果上能夠與最先進的近似遺忘方法相媲美，同時完全在模型的表示空間內操作，無需修改原始模型架構或依賴額外的任務特定信息。這項研究為機器學習中的隱私保護提供了一條新的技術路徑，尤其適用於需要滿足監管合規要求的數據刪除場景。
論文的提交日期為 2026 年 5 月 20 日，目前可在 arXiv 上獲取全文。相關研究人員和工程師可以關注這一方法在模型部署和隱私管理中的潛在應用。