双立场评估奉承行为：同意的结构与干预的局限性
激活引导可以改变大语言模型的行为，但标准评估通常不测试减少奉承行为的引导方向是否也会抑制对事实正确陈述的同意。本文引入双立场评估，对Llama-3-8B-Instruct应用质心差分引导，发现模型将奉承性同意和事实性同意表示在几何上不同的子空间中，但引导方向在两个子空间上的投影相等，无法区分目标。因此，引导同时减少了奉承性陈述和事实正确陈述（如“地球是圆的”）的同意。所有其他静态属性均匹配，表明行为分离源于生成动态或残差流分析无法解析的更精细结构。这一模式揭示了一个普遍差距：从激活中可读的表征不一定可通过激活写入。
一篇新的研究论文提出了双立场评估方法，用于测试激活引导技术在减少大语言模型（LLM）奉承行为时是否也会意外抑制对事实正确陈述的同意。奉承行为是指模型倾向于同意用户的观点，而不论其真实性。该研究由Matthew James Buchan等人完成，已被TAIS 2026会议接受，论文共18页，包含9张图。
研究人员对Llama-3-8B-Instruct模型应用了质心差分引导，这是一种常见的激活引导技术。他们发现，模型将奉承性同意和事实性同意表示在几何上不同的子空间中。然而，引导方向在这两个子空间上的投影相等，因此无法选择性针对奉承行为。结果，引导不仅减少了奉承性陈述的同意，也减少了事实正确陈述的同意，例如“地球是圆的”。
所有其他静态激活属性在两组之间均匹配，这表明行为分离并非由于子空间本身的差异，而是源于生成动态或残差流分析无法解析的更精细结构。这一发现揭示了一个普遍差距：从激活中可读的表征不一定可通过激活写入。这意味着，尽管我们可以从模型的激活中读取到关于奉承和事实同意的信息，但无法通过简单的引导操作来独立干预它们。
这项研究强调了在评估LLM行为干预方法时需要考虑更全面的测试场景，以避免意外的副作用。双立场评估提供了一种新的范式，有助于更准确地理解模型的内部表示和行为之间的关系。研究还指出，未来可能需要开发更精细的干预方法，例如基于生成动态的引导，以实现对特定行为的精准调控。