從神經網路中定向恢復權重空間機制
針對引數分解（PD）在大模型上計算成本高的問題，研究者提出定向引數分解（tPD），透過引入高秩“全能”元件僅處理目標輸入，從而高效識別特定計算電路。實驗表明，tPD在4塊Transformer上僅用7%的浮點運算量即可提取CSS子模型，並在12塊Transformer上精準消融和重寫記憶序列，副作用極小。論文被ICML 2026可解釋性研討會接收。
近日，一篇發表於arXiv的論文《Targeted Recovery of Weight-Space Mechanisms From Neural Networks》（arXiv:2607.13047）提出了一種名為定向引數分解（tPD）的新方法，旨在以更低的計算成本從神經網路中提取可解釋的權重空間機制。該工作已被ICML 2026可解釋性研討會接收。
引數分解（PD）是理解神經網路內部工作機制的重要工具，它能夠將網路分解為忠實反映原始運算的可解釋計算元件。然而，將PD擴充套件到大型模型需要巨大的計算資源，這使其成為一種昂貴且高風險的任務。針對這一瓶頸，研究團隊提出了tPD，其核心創新在於引入一個高秩的“全能”元件，該元件負責處理所有非目標資料，從而使得tPD僅需識別處理特定輸入（從孤立提示到大子任務）的元件即可。這種方法大幅降低了計算需求，使得在大規模模型上進行機制分解成為可能。
為了驗證tPD的有效性，研究者在玩具模型以及在The Pile資料集上訓練的Transformer語言模型上進行了實驗。結果顯示，tPD能夠恢復可重複、機制上忠實的電路。具體而言，研究者從一個4塊Transformer中提取了一個僅含CSS的子模型，僅使用了其已發表分解所需浮點運算量的7%。此外，在一個12塊Transformer中，tPD成功手術般地消融和重寫了記憶序列，而對其他輸入產生的副作用微乎其微。這些實驗證明了tPD在精確干預模型行為方面的潛力。
這一成果不僅大幅降低了大規模模型可解釋性分析的計算門檻，也為精準干預和修改模型行為提供了新的可能。未來，tPD有望助力研究者更高效地探索和利用神經網路的內部結構，推動可解釋人工智慧的發展。論文連結：https://arxiv.org/abs/2607.13047