最近，一篇來自arXiv的論文提出了一種新穎的方法，透過困惑度（perplexity）差異來識別大型語言模型在微調後引入的隱藏行為。該方法被稱為“模型生物洩漏”，它利用微調模型傾向於過度泛化其微調行為的特性，透過隨機生成補全並比較參考模型與微調模型的困惑度，從而快速定位微調目標。
研究者們在76個不同的模型生物上進行了測試，這些模型的引數規模從0.5億到700億不等，涵蓋了後門模型、透過合成文件微調內化錯誤事實的模型、經過對抗性訓練隱藏有害行為的模型以及出現新興不對齊的模型。結果顯示，對於絕大多數模型，該方法能夠在前幾個補全中揭示微調目標，尤其對合成文件微調或生成精確短語的模型效果顯著。
該方法的另一個亮點是，即使無法獲得精確的預微調檢查點，其他來自不同模型族的可信參考模型也能有效替代。由於該方法只需要微調模型的下一個詞機率（next-token probabilities），因此也適用於透過API暴露logprobs的封閉模型。這一研究為檢測和監管大型語言模型中的有害微調提供了新的工具，有助於提升模型安全性。
論文由Mohammed Abu Baker、Luca Baroni和Dan Wilhelm共同撰寫，於2026年5月1日提交至arXiv，編號2605.00994。該方法簡單且高效，僅需少量隨機字首即可執行，大大降低了檢測成本。此外，它不需要對模型內部結構有任何先驗瞭解，因此可以廣泛應用於各種語言模型，包括那些透過API訪問的閉源模型。研究者還指出，這種方法對於使用合成資料微調或要求模型生成精確短語的模型尤為有效，因為這些模型的微調目標往往更容易透過困惑度差異暴露出來。
總的來說，這項研究不僅為識別模型後門和隱蔽行為提供了有效手段，還強調了微調模型在無意中洩露其訓練目標的脆弱性。這對於確保AI系統的安全性和透明度具有重要意義，特別是在部署前需要嚴格審計的場合。未來，這一方法有望成為標準的安全評估工具，幫助防止惡意微調導致的模型漏洞。