大規模言語モデル（LLM）の推論能力の拡張により、コンテキスト内検索、すなわちモデルが解の試行を反復的に生成、批判、修正することが可能になった。しかし、この反射駆動推論はいつ真に有効なのか？arXivの新しい論文（番号2607.06720）は、コンテキスト内検索を推論トレース上の近似推論としてモデル化し、理論的な分析を提供している。
この理論的枠組みでは、基本モデルが事前分布を定義し、自己反射がフィードバックを提供して事後分布を更新する。研究者は推論時のサンプリング複雑性、すなわち高い成功確率に達するために必要な逐次試行回数に焦点を当てた。主要な発見は、反射が初期の誤りを確実に特定できる場合（すなわち、モデルが推論チェーンの中で最初に誤りが生じた位置を正確に識別できる場合）、コンテキスト内検索は指数関数的な改善をもたらすということである。具体的には、ゼロショット通過率が指数関数的に低い問題でも、コンテキスト内検索を用いれば多項式回の逐次試行で解決可能になる。これは基本モデルに必要な指数関数的な試行回数と比較して大きな進歩である。逆に、反射が誤りを確実に特定できない場合、過去の試行に条件づけても並列サンプリングに対する漸近的な利点はなく、両者の方法は極限で同程度の試行回数を必要とする。
研究はさらに、これらの利点が頑健であり、学習可能であることを示している。近似的事後更新（正確なベイズ推論でなくても）で十分であり、検索ロールアウト上の交差エントロピー訓練により、必要な振る舞いを多項式サンプル複雑性で回復できる。また、検証可能な報酬を用いた強化学習の段階的抽象化の下では、最適ポリシー拡張がコンテキスト内検索と同じ事後再重み付けルールを実装することが示され、両分野の関連が明らかになった。
最後に、著者らは実際の大規模推論モデル（推論能力を持つLLMなど）で理論の定性的予測を検証した。例えば、反射の質に応じてコンテキスト内検索の性能向上がどのように変化するかを確認している。この研究は、LLM推論におけるコンテキスト内検索メカニズムの理論的基盤を提供し、その有効性の鍵となる条件を明らかにする。AIコミュニティにとって、特に複雑な推論を必要とするタスク（数学競技、コード生成、科学推論など）において、より効率的な推論戦略の設計に役立つことが期待される。