近日，一篇題為《Orthogonal Concept Erasure for Diffusion Models》的論文被ICML 2026接收為口頭報告，該論文提出了一種名為正交概念擦除（OCE）的新方法，旨在高效、精確地移除擴散模型中的不良或有害內容，同時保持模型的整體生成能力。
擴散模型在圖像生成等領域表現出色，但有時會生成不期望的內容，例如暴力、偏見或受版權保護的圖像。概念擦除技術應運而生，用於從預訓練模型中移除特定概念。現有的方法主要分為兩類：訓練方法和編輯方法。訓練方法雖然有效，但計算成本高昂，難以擴展。編輯方法則更加高效且易於部署，但難以在精確擦除概念和保持生成能力之間取得平衡。
研究團隊深入分析了這一問題的根源，發現編輯方法依賴於加性參數更新。加性更新在修改參數時同時改變了神經元的幅度、方向和角度幾何，而概念語義主要依賴於神經元方向，生成能力則依賴於角度幾何。因此，加性更新不可避免地會在概念擦除和整體生成性能之間引入干擾。
為了解決這一問題，OCE從幾何角度重新定義了概念擦除，將其轉化為乘性參數更新。具體來説，OCE對每一層應用由閉式解推導出的正交變換，從而在保持神經元幅度和角度幾何的同時實現精確的概念擦除。這種方法確保了神經元的相對方向和距離不受影響。
對於多概念擦除，OCE進一步引入了子空間級目標，通過結構化的子空間操作來處理不同概念間的衝突約束，實現了更有效且可擴展的擦除。實驗結果表明，OCE在單概念和多概念擦除任務上均優於現有方法，能夠在4.3秒內擦除多達100個概念，且對非目標內容的保留能力出色。
該論文由Yuhao Sun等六位作者完成，代碼已開源在GitHub（https://github.com/HansSunY/OCE）。這一工作為擴散模型的安全應用提供了新的思路，有望推動相關技術的實際部署。