近年、中間表現を操作することは、生成モデル、特にデプロイ後のアライメントや安全設定において強力な制御戦略として注目されている。しかし、経験的成功にもかかわらず、包括的な理論的枠組みが不足していた。本論文(著者:Tatiana Gaintseva、Andrew Stepanov、Ziquan Liu、Martin Benning、Gregory Slabaugh、Jiankang Deng、Ismail Elezi)は、このギャップを埋めるために概念操作の理論を形式化する。
まず、研究者らは操作とアフィン概念消去の間の関連を確立し、不要な振る舞いを除去する標準的なアプローチがLEACE(閉形式のアフィン消去法)の特殊ケースであることを証明した。
次に、概念切替のための原理的な理論的枠組みであるLEACE-Switchを定式化し、最適なアフィン解が得られる前提条件を特徴づけた。
この分析に基づき、研究者らはMidSteer(最小擾乱概念操作)を導入する。これはより汎用的なアフィンフレームワークであり、前提条件を緩和し、方向付けられた最小擾乱変換を可能にする。
実験では、MidSteerが視覚拡散モデルや大規模言語モデルを含む、さまざまなタスク、モダリティ、アーキテクチャで良好に機能することを示した。既存手法と比較して、生成品質を維持しながらより精密な概念制御を実現する。本研究は、生成モデルの安全なアライメントに重要な理論的ツールを提供し、今後の解釈可能AIとモデル安全性の分野の発展に貢献すると期待される。本論文は2026年4月17日にarXivに提出され、識別番号は2605.05220、機械学習(cs.LG)および人工知能(cs.AI)に分類される。