近日，Yunpeng Zhou向arXiv提交了一篇题为《特征组合的结构不稳定性》（Structural Instability of Feature Composition）的论文（编号：2605.05223），深入探讨了稀疏自编码器（SAE）在组合式激活控制中的理论局限性。SAE已被证明是解耦Transformer架构中特征叠加的有效范式，通过激活引导可以实现对模型行为的精确控制。然而，组合式控制——即同时激活多个不同的语义潜在变量——的理论基础一直未被充分研究。传统的线性表示假说往往忽略了过完备字典中产生的非线性干扰效应。
为了填补这一空白，作者提出了一个几何框架来分析特征并集的不稳定性。他们将激活空间建模为高维稀疏锥流形，并在球形字典模型下推导出了组合塌缩的渐近阈值。该阈值由信号锥的高斯平均宽度（即统计维度）表征，代表了激活空间能够容纳的稳定组合的容量上限。当组合规模超过这一阈值时，特征表示将发生塌缩，导致控制失效。
进一步的分析表明，在偏置较高的区域，ReLU整流函数的非线性特性会将微观的、由相关性引起的方差波动转化为系统性的漂移。这种漂移在多次组合过程中不断积累，产生一种与棘轮效应一致的干扰增长模式——即组合越多，干扰越严重，且不可逆。作者在CLEVR数据集上提取的结构化语义特征上验证了该预测：当特征之间存在层次相关性时，塌缩转变的速度相比随机基线显著加快。
这些结果凸显了基于并集的激活控制在可扩展性方面面临的几何约束。作者认为，未来需要设计能够显式管理干扰的组合机制，而不是依赖简单的线性叠加。该研究为构建更鲁棒的组合式AI控制方法提供了重要的理论指导，也对当前可解释性和模型编辑领域产生深远影响。