从神经网络中定向恢复权重空间机制
针对参数分解（PD）在大模型上计算成本高的问题，研究者提出定向参数分解（tPD），通过引入高秩“全能”组件仅处理目标输入，从而高效识别特定计算电路。实验表明，tPD在4块Transformer上仅用7%的浮点运算量即可提取CSS子模型，并在12块Transformer上精准消融和重写记忆序列，副作用极小。论文被ICML 2026可解释性研讨会接收。
近日，一篇发表于arXiv的论文《Targeted Recovery of Weight-Space Mechanisms From Neural Networks》（arXiv:2607.13047）提出了一种名为定向参数分解（tPD）的新方法，旨在以更低的计算成本从神经网络中提取可解释的权重空间机制。该工作已被ICML 2026可解释性研讨会接收。
参数分解（PD）是理解神经网络内部工作机制的重要工具，它能够将网络分解为忠实反映原始运算的可解释计算组件。然而，将PD扩展到大型模型需要巨大的计算资源，这使其成为一种昂贵且高风险的任务。针对这一瓶颈，研究团队提出了tPD，其核心创新在于引入一个高秩的“全能”组件，该组件负责处理所有非目标数据，从而使得tPD仅需识别处理特定输入（从孤立提示到大子任务）的组件即可。这种方法大幅降低了计算需求，使得在大规模模型上进行机制分解成为可能。
为了验证tPD的有效性，研究者在玩具模型以及在The Pile数据集上训练的Transformer语言模型上进行了实验。结果显示，tPD能够恢复可重复、机制上忠实的电路。具体而言，研究者从一个4块Transformer中提取了一个仅含CSS的子模型，仅使用了其已发表分解所需浮点运算量的7%。此外，在一个12块Transformer中，tPD成功手术般地消融和重写了记忆序列，而对其他输入产生的副作用微乎其微。这些实验证明了tPD在精确干预模型行为方面的潜力。
这一成果不仅大幅降低了大规模模型可解释性分析的计算门槛，也为精准干预和修改模型行为提供了新的可能。未来，tPD有望助力研究者更高效地探索和利用神经网络的内部结构，推动可解释人工智能的发展。论文链接：https://arxiv.org/abs/2607.13047