大語言模型(LLM)在實際應用中表現出顯著的不一致性:即使微調提示詞或包含無關信息,也可能導致模型輸出發生意外變化。這種不一致性的一個典型體現是生成器-驗證器(G-V)差距:LLM生成的響應在重新查詢驗證時,往往被其自身判定為無效。這一現象嚴重影響了模型在需要可靠性和自洽性場景中的應用。
來自研究團隊(Juan Diego Rodriguez等)的最新研究,在2026年7月提交的arXiv論文中,提出了一種新穎的G-V一致性公式,該公式引入了基於語頻的原則性校正。核心洞察在於,生成器常常因為有效字符串的先驗概率較低而賦予其低似然值,這使得樸素的G-V一致性概念難以直接應用。研究人員證明,在理性代理回答多答案問題的自然模型框架下,驗證器與頻率校正後的生成器評分之間的一致性可以自然湧現。基於這一理論,他們開發了FCPA(頻率校正的生成器-驗證器對齊)訓練目標,旨在為實際LLM實現頻率校正的G-V一致性。
實驗結果表明,相較於先前方法,採用FCPA訓練顯著提升了G-V一致性和生成器性能。在IFEval和HumanEval這兩個基準測試上,Pearson相關性度量提升了高達27個百分點。更重要的是,所有評估任務中的驗證器質量均得到保持,沒有出現退化現象。該工作為緩解LLM的不一致性問題提供了新的思路,有望在模型選型、推理效率、產品能力及評測標準等多個維度產生積極影響。論文詳細介紹了方法的設計動機、理論分析和實證驗證,並公開了相關代碼與數據以促進後續研究。