ICML 2026に採択された論文で、大規模言語モデル（LLM）の機械的忘却を改善する新しい最適化フレームワーク「DualOptim+」が提案された。機械的忘却とは、モデルに特定の訓練データや知識を「忘れさせる」一方で、残りのデータに対する性能を維持する技術である。従来の手法では、忘却目標と保持目標の間のバランスを取ることが難しかった。DualOptim+は、最適化器の状態設計を革新することでこの課題に取り組む。
DualOptim+の核心は、最適化器の状態を「基底状態」と「デルタ状態」の2つに分解することにある。基底状態は、忘却目標と保持目標が共有する共通表現を捉え、デルタ状態は各目標に固有の残差情報を保存する。このアーキテクチャにより、最適化器は忘却勾配と保持勾配の間の方向性の衝突に応じて、共有状態と分離状態を動的に橋渡しできる。両目標の勾配方向が一致する場合、最適化器は共有情報をより活用し、方向が衝突する場合には独立したデルタ状態を優先する。この適応メカニズムにより、モデルは異なる目標間でより精密なトレードオフを実現する。
メモリオーバーヘッドを削減するため、研究チームは量子化変体「DualOptim+ 8bit」も提案した。この変体は最適化器の状態を8ビット精度に圧縮し、性能をほとんど損なうことなくメモリ使用量を大幅に削減する。これにより、大規模言語モデルの忘却訓練がより効率的かつ実行可能になる。
著者らは、架空シナリオと実世界の忘却タスク、安全性アライメント、マルチタスク学習など、多様なタスクで広範な実験を行った。実験結果は、DualOptim+が異なる目標間で常に既存手法を上回るトレードオフを達成することを示している。例えば、特定の事実を忘却させつつ汎用知識の保持能力が向上し、安全性アライメントでは有害な知識をより効果的に除去しつつ有用な能力を損なわない。
本論文はICML 2026に採択され、コードはGitHub（https://github.com/CityU-MLO/DualOptimPlus）でオープンソース化されている。この研究は機械的忘却分野に効果的な最適化ツールを提供し、LLMのより安全で制御可能な展開を促進することが期待される。