ニューラルネットワークからの重み空間メカニズムの標的回復
パラメータ分解（PD）はニューラルネットワークを解釈可能なコンポーネントに分解するが、大規模モデルでは計算コストが高い。提案手法の標的PD（tPD）は、高ランクの包括コンポーネントを導入して非ターゲットデータを処理し、特定の入力に対する回路を効率的に抽出する。tPDは4ブロックTransformerから公開分解の7%のFLOPsでCSSのみのサブモデルを抽出し、12ブロックTransformerでは記憶されたシーケンスを外科的に除去・再配線し、副作用は無視できる。ICML 2026のメカニスティック解釈可能性ワークショップに採択。
arXivに投稿された論文「Targeted Recovery of Weight-Space Mechanisms From Neural Networks」（arXiv:2607.13047）は、ニューラルネットワークの重み空間メカニズムを低コストで抽出する新しい手法「標的パラメータ分解（tPD）」を提案しています。本論文はICML 2026のメカニスティック解釈可能性ワークショップに採択されました。
従来のパラメータ分解（PD）は、ネットワークを元の演算を忠実に反映する解釈可能なコンポーネントに分解する強力なツールですが、大規模モデルへの適用には膨大な計算リソースが必要であり、コストとリスクが伴います。tPDはこの課題を解決するため、高ランクの「包括（catch-all）」コンポーネントを導入し、非ターゲットデータをすべて処理させることで、特定の入力（個別のプロンプトから大規模サブタスクまで）を処理するコンポーネントのみを効率的に特定します。このアプローチにより、計算要求が大幅に低減され、大規模モデルでのメカニズム分解が実現可能になります。
研究者らは、おもちゃモデルおよびThe Pileデータセットで学習されたTransformer言語モデルを用いてtPDを検証しました。その結果、tPDは再現可能でメカニズム的に忠実な回路を復元できることが示されました。具体的には、4ブロックTransformerから公開された分解に要するFLOPsのわずか7%でCSSのみのサブモデルを抽出しました。さらに、12ブロックTransformerでは、記憶された系列を外科的に除去・再配線することに成功し、他の入力への影響は無視できる程度でした。これらの実験は、tPDがモデル行動の精密な介入に有効であることを示しています。
この成果は、大規模モデルの解釈可能性分析にかかる計算コストを大幅に削減するだけでなく、モデル動作の精密な操作や修正に新たな可能性を開くものです。今後、tPDはニューラルネットワークの内部構造の探索と活用をより効率的にすることが期待され、説明可能な人工知能の発展に貢献するでしょう。論文リンク：https://arxiv.org/abs/2607.13047