大規模言語モデル(LLM)は、プロンプトの変更や無関係な情報の追加によって出力が予期せず変化するという不一致を示すことが知られている。この現象の一つの現れとして、生成器-検証器(G-V)ギャップがある。これは、LLMが生成した応答を、後で検証のために再クエリすると、その応答を無効と判断するというものである。この問題は、モデルの信頼性や自己無撞着性が要求される実応用において深刻な影響を及ぼす。
Juan Diego Rodriguezらによる研究チームは、2026年7月にarXivに投稿した論文で、発話頻度に対する原理的な補正を含む新しいG-V一貫性の定式化を導入した。重要な洞察は、生成器が有効な文字列に対して、単にその文字列が事前に起こりにくいという理由で低い尤度を割り当てることであり、これによりナイーブなG-V一貫性の概念が機能しなくなるという点である。研究者らは、複数の答えを持つ質問に答える合理的エージェントの自然なモデルを仮定した場合、頻度補正された生成器スコアと検証器の一貫性が自然に現れることを理論的に示した。この理論に基づき、実世界のLLMに対して頻度補正されたG-V一貫性を実装する訓練目的関数FCPA(Frequency-Corrected Generator-Validator Alignment)を開発した。
実験結果は、FCPAを用いた訓練が、従来手法と比較してG-V一貫性と生成器性能の双方を大幅に改善することを示している。具体的には、IFEvalおよびHumanEvalのベンチマークにおいて、ピアソン相関が最大27パーセントポイント向上した。さらに、評価されたすべてのタスクにおいて検証器の品質は維持され、劣化は見られなかった。本研究は、LLMの不一致問題を緩和する新たなアプローチを提供し、モデル選択、推論コスト、製品能力、評価基準など多岐にわたる分野に影響を与える可能性がある。論文では、手法の設計動機、理論分析、実証的検証が詳細に説明されており、再現性を高めるため関連コードとデータも公開されている。