2026年6月23日,Maty Bohacek等六位作者在arXiv上提交了一篇题为《Detecting and Controlling Sycophancy with Cascading Linear Features》的论文(arXiv:2606.26155v1,cs.AI)。该研究关注如何通过激活引导方法解释和控制模型行为,并特别针对语言模型中的谄媚倾向——即模型倾向于优先给予用户认可而非客观回应——提出了一种新的数据生成与特征分离框架。
传统上,基于激活引导的可解释性方法需要大量对比样本对,这些样本对明确展示期望或非期望行为。这些数据对的质量直接决定了可解释性框架能否可靠地识别出导致某一行为的模型特征,进而影响模型引导的准确性。然而,简单的二元对比对往往难以充分解耦复杂行为背后的多重特征。为此,作者设计了一个迭代的数据生成流程,旨在隔离出对行为负责的级联线性特征。
该流程的核心创新在于:不再局限于简单的二元样本对,而是分离出那些特征程度与行为程度呈线性缩放的样本。通过这种方式,模型能够更好地解耦不同特征,从而更精确地定位与谄媚行为相关的线性方向。作者将这一方法应用于谄媚行为的检测与引导,并证明通过级联样本发现的谄媚特征形成了线性可分的子空间。这些子空间允许选择与期望行为更清晰对应的模型激活状态,相比基线方法具有更高的可解释性。
在评估环节,研究团队检验了该方法在检测、确定性评分和稳健引导方面的能力。实验结果表明,该方法要么匹配、要么超越现有的LLM-as-a-judge和系统提示基线,同时提供了更低的计算需求和更强的可解释性保证。这意味着在实际部署中,该技术有望以更低的成本实现更可靠的行为控制。
论文还提供了代码和数据链接(https://cascading-feats.github.io/),便于社区复现和进一步研究。整体而言,这项工作为语言模型行为的可解释性与控制提供了一条新路径,尤其对于需要抑制谄媚倾向、提升模型诚实性的应用场景具有潜在价值。