激活干预可以让语言模型产出目标答案,但模型能否在其它计算中真正利用这一预期条件,仍是一个开放问题。Tianda Sun 等作者在 arXiv 上发布的论文《From Target Selection to Condition Reuse: Auditing Residual Interventions in Tool-Use Models》正是围绕这一疑问展开,研究对象是 Qwen3.5-27B 在工具调用任务中的表现——在这些任务里,时间或权限决定某个候选对象是否具备资格、以及是否应被选中。
研究团队构建了 32 个全新的“世界”场景进行测试,并采用两种针对具体案例的残差写入变体来干预模型内部激活。结果显示,这两种变体都能显著提升模型在熟悉目标选择上的正确率:第一种从 128 次中的 35 次正确提升到 119 次,第二种从 33 次提升到 114 次。单看这一数字,干预似乎非常成功。
然而论文的关键发现在于,这种提升并不稳固。当研究者把熟悉的事实与标识符在同一选择任务内部重新组合时,上述增益便消失了;与此同时,对那些此前被奖励过的标识符的选择倾向反而上升。这说明模型学到的更像是针对特定目标的“选择捷径”,而不是对条件本身的真正理解。增益虽然在不同输出格式下都能保持,但在独立判断任务中——即判断某个候选是否有资格、或者是否应当被选中——几乎没有带来改善。
论文还报告了一项预先设定的次级对比,用以检验内部编辑是否会改变某个来源事实对判断的影响方式。结果显示,早期层面对来源的补丁在来源事实被使用时改变了 64 个判断中的 50 个;而在来源未被使用的 64 个案例中,只出现了一次不利改变。这表明干预确实能产生选择性的影响,但这种影响并不能保证模型完成正确的完整动作。
作者据此提出,应当把三个层面区分开来:目标选择控制、对条件敏感的判断、以及完整动作的正确性。评估一个被编辑过的内部状态应当如何使用,而不仅仅看它是否产出了被训练的目标答案,才能真正暴露出这些差异。论文共 21 页、含 5 幅图,代码已随文公开,属于计算与语言(cs.CL)以及人工智能(cs.AI)交叉方向,v1 版本于 2026 年 10 月 5 日提交。