大規模言語モデル（LLM）の忘却学習（unlearning）は、望ましくない知識や振る舞いを削除しつつ、残りの能力を維持することを目的とする。しかし、既存の忘却手法はほぼすべて、忘却効果と保持性能の間のトレードオフを抱えている。より徹底的に目標知識を削除しようとすると、無関係なタスクでの性能を犠牲にせざるを得ないことが多い。arXivに投稿された最新論文は、SAGE（Spectral Activation-GEometry Sanitization、スペクトル活性化幾何サニタイズ）と呼ばれる新手法を提案し、この問題に対して後処理の観点から補完的な解決策を提供する。
研究者らは、保持活性化バイアス（retention activation bias）が忘却手法による保持能力への損傷を定量化するために利用できることを見出した。しかもこの定量化は、忘却プロセスの具体的な実装に依存しない。これに基づき、彼らは事後（post-hoc）設定を提案する。すなわち、元の忘却パイプラインを再実行することなく、最終的な更新ベクトルをサニタイズする。この設定の核心的な利点はその汎用性にあり、特定の忘却手法に依存せず、ソースに依存しない修正手段として既存手法と柔軟に組み合わせることができる。
SAGEの具体的な手順は次の通りである。まず、小さな保持プロキシ（retain proxy）から実際のモジュール入力を収集し、その支配的な活性化幾何構造を抽出する。次に、ソース手法をアンカーとする閉形式の最適化目標を解く。この最適化は、更新ベクトルのうち保持方向の高エネルギー成分と整列する部分を抑制しつつ、ソース手法の忘却キャリア（forgetting carrier）を保持することを目指す。言い換えれば、SAGEは最終更新ベクトルから保持能力を損なう可能性のある部分を「剪定」し、実際に忘却を担当する部分を残そうとする。
著者らは、複数の忘却手法、異なるモデル規模、複数のベンチマークでSAGEを評価した。実験結果は、SAGEが忘却と保持のトレードオフを一貫して緩和し、忘却効果を犠牲にすることなく保持性能を向上させることを示している。この研究は、「最終ベクトルの事後サニタイズ」を、機械忘却分野における実用的かつ未開拓の研究方向として位置づけ、今後の研究に新たな視点を提供する。
論文のタイトルは「SAGE: Retain-Aware Post-Hoc Sanitization of Final Unlearning Vector」で、Jingyuan Zhang氏ら9名の著者によって2026年6月16日に提出された。機械学習（cs.LG）と人工知能（cs.AI）の学際領域に属する。