本文にスキップ
AI News HubLIVE
サイト内リライト2 分で読了

反復的なプロンプト最適化のための対照的リフレクション

記事の要約

研究者らは、エラーに基づく行動スライスと近傍の成功例を用いて検索エージェントのプロンプト編集を導く「対照的リフレクション」フレームワークを提案し、HotpotQAでホールドアウト正解率を51.4%から60.4%に改善した。

ソースarXiv AI著者: Derek Koh, Jinghui Mo, Benjamin H. Le, Jiening Zhan, Baofen Zheng, Kevin Bevis, Nathaniel C. Owen, Lauren Elizabeth Charney, Wenqiong Liu, Jingwei Wu
反復的なプロンプト最適化のための対照的リフレクション
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

大規模言語モデル(LLM)エージェントは情報検索(IR)の中心的な存在になりつつあり、検索クエリの発行、回答の統合、さらにはIR評価の判断者としての役割も増えている。これらのエージェントを制御するプロンプトの改善は最適化問題であるが、実際のIR設定では、盲目的な探索というよりもデバッグに近い。エンジニアは、どの行動が失敗したのか、近くのどの行動がまだ機能していたのか、両者の違いは何か、そしてプロンプト編集が回帰を引き起こさずにホールドアウト品質を向上させるかどうかを知る必要がある。

この要求に応えるため、Derek Kohら10名の著者は「対照的リフレクション(Contrastive Reflection)」を提案した。これはエージェント型IRワークフロー向けの反復的プロンプト最適化フレームワークである。このフレームワークはタスク中心の品質定義から出発する。QAエージェントは検索または推論のトレースを公開し、評価エージェントは次元レベルのスコアと根拠を公開する。これらの構造化トレースを用いて、エラーに基づく行動スライスを特定し、同じ領域から近傍の成功例を追加し、教師LLMに的を絞ったプロンプト編集を提案させる。候補編集は検証性能が向上した場合にのみ受け入れられ、オプションで回帰チェックが適用される。研究者らは木ベースのスライスセレクタでフレームワークを実装したが、貢献は木そのものではなく対照的リフレクションループにあると強調している。

公開されているHotpotQA検索拡張QA設定において、木選択の対照的修復を1回行うことで、ホールドアウト正解率が51.4%から60.4%に向上した。失敗のみおよびランダム証拠の変種は改善幅が小さく、以前正しかった例をより多く壊した。軽量な指示のみの比較では、本手法は現代のプロンプト最適化手法に近い性能を示し、MIPROv2は59.4%、GEPAは57.0%であった。この結果は、IRエージェントのための解釈可能な最適化ループであり、プロンプト修復をより検査可能で検証駆動型にすることを目指している。

本論文は6ページ、図1点で、KDD 2026のAgent4IRワークショップに採択される予定である。研究分野は人工知能(cs.AI)で、ACM分類はI.2.7、H.3.3、I.2.6である。論文は2026年6月29日に投稿され、arXiv番号は2606.30840である。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • 対照的リフレクションループは構造化トレースを用いてエラーに基づく行動スライスを特定し、近傍の成功例を追加してプロンプト編集を導く。
  • 候補編集は検証性能が向上した場合にのみ受け入れられ、オプションで回帰チェックが行われるため、プロンプト修復が検査可能で検証駆動型になる。
  • HotpotQAでは、木選択の対照的修復によりホールドアウト正解率が51.4%から60.4%に向上し、失敗のみおよびランダム証拠の変種を上回った。
  • 軽量な指示のみの比較では、本手法は現代のプロンプト最適化手法に近い性能を示し、MIPROv2は59.4%、GEPAは57.0%であった。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。