実行軌跡上の推論時アライメントのためのハーネス設計
本論文は、LLMエージェントにおけるハーネスエンジニアリング（推論時アライメント手法）を研究。タスク分解とガイド付き実行を通じて長期性能を向上させるが、より精巧なハーネスが常に良いとは限らない。過剰分解、過剰刈り込み、幻覚実行などの失敗モードを特定し、部分ハーネス（初期ステップのみ指定）が完全なワークフローよりも高い成功率を達成することを実験で示す。
arXivに公開された論文「Harnesses for Inference-Time Alignment over Execution Trajectories」（著者：Boyuan Wangら5名）は、大規模言語モデル（LLM）エージェントにおけるハーネスエンジニアリングに焦点を当てています。この技術は、タスク分解とガイド付き実行を用いてエージェントの長期的な性能を向上させる重要な推論時アライメント手法です。
ハーネスの中核は、エージェントの実行軌跡を推論時に介入することにあります。論文はハーネスのメカニズムを、タスクをサブゴールに構造化する「タスク分解」と、実行中の局所的な行動分布を調整する「ガイド付き実行」の二つに分離します。この分離により、ワークフローの粒度、リトライ予算、ガイドによる行動の重み付けがハーネスの性能限界に与える影響を定量化できるようになります。
しかし、研究は直感に反する発見をしました。より精巧なハーネスが常に良いわけではないのです。論文は三つの典型的な失敗モードを定義・検証しています：過剰分解（分割が細かすぎて効率が低下）、過剰刈り込み（過度なガイドが正しい経路を排除）、そして幻覚実行（存在しないサブゴールへの誘導）です。これらの現象は、制御された合成実験と実際のターミナルエージェントベンチマークの両方で確認されました。
理論分析に基づき、論文は実践的な洞察を提供します。効果的なハーネスは部分的でよい——つまり、最初の数ステップだけを指定し、残りの実行をエージェントに任せる方法が、完全に構造化されたワークフローよりも高い通過率を達成できるのです。この発見は、全工程を細かく制御する現在の設計トレンドに挑戦するものです。
実験は合成環境と実際のターミナルエージェントタスク（ファイル操作、コマンド実行など）を対象とし、部分ハーネスが複数のベンチマークでロバスト性と成功率に優れることを示しました。著者らは、この研究が推論時アライメントに新しい理論的枠組みと実用的ガイダンスを提供し、より効率的で信頼性の高いLLMエージェントシステムの設計に貢献すると述べています。