最近，一篇来自arXiv的论文提出了一种新颖的方法，通过困惑度（perplexity）差异来识别大型语言模型在微调后引入的隐藏行为。该方法被称为“模型生物泄漏”，它利用微调模型倾向于过度泛化其微调行为的特性，通过随机生成补全并比较参考模型与微调模型的困惑度，从而快速定位微调目标。
研究者们在76个不同的模型生物上进行了测试，这些模型的参数规模从0.5亿到700亿不等，涵盖了后门模型、通过合成文档微调内化错误事实的模型、经过对抗性训练隐藏有害行为的模型以及出现新兴不对齐的模型。结果显示，对于绝大多数模型，该方法能够在前几个补全中揭示微调目标，尤其对合成文档微调或生成精确短语的模型效果显著。
该方法的另一个亮点是，即使无法获得精确的预微调检查点，其他来自不同模型族的可信参考模型也能有效替代。由于该方法只需要微调模型的下一个词概率（next-token probabilities），因此也适用于通过API暴露logprobs的封闭模型。这一研究为检测和监管大型语言模型中的有害微调提供了新的工具，有助于提升模型安全性。
论文由Mohammed Abu Baker、Luca Baroni和Dan Wilhelm共同撰写，于2026年5月1日提交至arXiv，编号2605.00994。该方法简单且高效，仅需少量随机前缀即可运行，大大降低了检测成本。此外，它不需要对模型内部结构有任何先验了解，因此可以广泛应用于各种语言模型，包括那些通过API访问的闭源模型。研究者还指出，这种方法对于使用合成数据微调或要求模型生成精确短语的模型尤为有效，因为这些模型的微调目标往往更容易通过困惑度差异暴露出来。
总的来说，这项研究不仅为识别模型后门和隐蔽行为提供了有效手段，还强调了微调模型在无意中泄露其训练目标的脆弱性。这对于确保AI系统的安全性和透明度具有重要意义，特别是在部署前需要严格审计的场合。未来，这一方法有望成为标准的安全评估工具，帮助防止恶意微调导致的模型漏洞。