大規模言語モデル（LLM）はテキスト生成時に幻覚、すなわち事実に反する内容を生成することがあります。これらを検出するため、思考連鎖（chain-of-thought）推論軌跡を利用する手法が増えていますが、根本的な疑問が残されています：これらの検出手法は本当に推論プロセス自体を評価しているのか、それとも最終回答の表面的な特徴を利用しているだけなのでしょうか？
この問題に取り組むため、arXivに投稿された新しい論文（arXiv:2605.08346）は、制御不変性（controlled-invariance）手法を導入し、ForceとRemoveという2つのオラクルテストを提案しています。Forceテストは推論軌跡を保持したまま最終回答を正解に置き換え、Removeテストは回答宣言に関連するステップを削除します。これにより、検出手法の予測能力が回答レベルのアーティファクトに由来するのか、中間推論の構造や妥当性に由来するのかを明確にできます。
実験の結果、多くの既存検出手法は推論軌跡の処理にバイアスがあり、真の推論ロジックではなく、最終回答の語彙的特徴に依存していることが明らかになりました。この発見は、現在の検出技術の限界を浮き彫りにしています。
さらに注目すべきは、研究チームがTRACT（Trajectory-based Robust Artifact Controlled Testing）というシンプルで効率的な代替手法を提案したことです。TRACTは、ヘッジ傾向、ステップ長のダイナミクス、レスポンス間の語彙収束といった語彙軌跡特徴のみを利用する軽量スコアラーです。シンプルな構造ながら、TRACTは未摂動の軌跡上で強力なロバスト性を維持し、複雑なベースラインモデルと同等以上の性能を達成しました。
研究チームは、現在の推論認識型幻覚検出における中心的な課題は、軌跡内のシグナルの欠如ではなく、それらのシグナルをエンドポイントの手がかりから分離できないことにあると結論付けています。この研究は、将来のより信頼性の高い幻覚検出手法の開発に重要な指針を提供し、評価結果に対する表面的特徴の干渉に注意を促すものです。