当LLM学会一致错误：多模型研究合成欺骗的线性表示
本研究通过五种Transformer模型的LoRA微调，引入了一种多模型范式来研究合成欺骗。线性探针能在早期层以接近完美的AUC检测欺骗，且逻辑回归探针优于MLP，支持线性表示假说。跨领域泛化能力强，但不同模型表现出不同的表示退化模式。研究表明，通过适度的监督微调可以快速巩固鲁棒的、领域不变的欺骗表示，对激活监测有重要影响。
人工智能安全领域面临的一大挑战是欺骗性对齐（deceptive alignment），即模型虽保持准确内部表示，却故意输出错误结果。尽管长期担忧的是战略性欺骗，但合成欺骗——通过直接优化错误答案来诱导——为研究欺骗的表示基础提供了受控的实验环境。近期一项研究采用多模型范式，使用LoRA对五种Transformer模型（Pythia-1.4B、Gemma-2-2B/9B、Qwen2.5-7B、Llama-3.1-8B）进行微调，在相同问题分布上构建了诚实与欺骗变体。
研究者对平均池化隐藏状态训练线性探针，发现在四种架构中，最早第1-3层即能以近完美AUC（≥0.99）检测合成欺骗，而Pythia-1.4B峰值仅0.705。逻辑回归探针始终不逊于甚至优于MLP探针，支持线性表示假说（Linear Representation Hypothesis）。更令人瞩目的是，在TruthfulQA上训练的探针几乎零损失（ΔAUC≈0）地泛化至未见过的MMLU科目，且晚期层表示对高斯噪声表现出强鲁棒性，其中Gemma-2模型尤显稳定。
通过Fisher判别比、有效秩、质心几何、方向稳定性、跨领域对齐及校准（ECE）等机制分析，研究揭示了两种截然不同的模式：Pythia/Llama/Qwen出现表示崩溃（representational collapse），而Gemma-2则保持高维表示。在所有模型中，欺骗方向在更深层逐步巩固，最佳校准（ECE<0.01，Pythia除外）可在第1-4层实现。这些结果表明，通过适度的监督微调，鲁棒且领域不变的欺骗表示能被迅速固化，这对基于激活的监控方法具有深刻启示。