複雑な実世界タスクを解決できる汎用的な具現化エージェントの構築は、AIにおける根本的な課題である。マルチモーダル大規模言語モデル(MLLM)は、強力な視覚言語知識とチェイン・オブ・ソート(CoT)推論により、そのようなエージェントの推論能力を大幅に向上させたが、困難な分布外シナリオに対しては依然として脆い。この問題に対処するため、本研究では検証器ガイド行動選択(VeGAS)を提案する。VeGASはテスト時フレームワークであり、明示的な検証ステップを通じてMLLMベースの具現化エージェントのロバスト性を向上させる。推論時、単一のデコード行動にコミットする代わりに、VeGASは候補行動のアンサンブルをサンプリングし、生成型検証器を使用して最も信頼性の高い選択肢を特定する。基礎となるポリシーは変更しない。重要なのは、既製のMLLMを検証器として使用しても改善が見られないことである。そこで、LLM駆動のデータ合成戦略を開発し、失敗事例の多様なカリキュラムを自動構築して、検証器を訓練時に豊富な潜在エラー分布にさらす。HabitatおよびALFRED環境にわたる具現化推論ベンチマークにおいて、VeGASは一貫して汎化性能を向上させ、最も困難なマルチオブジェクト・長期的タスクでは、強力なCoTベースラインに対して最大36%の相対的性能向上を達成した。本研究成果はCVPR 2026(Findings)に採択されている。
考えてから行動する:検証器ガイドによる具現化エージェントの行動選択
記事の要約
VeGASフレームワークは、推論時に候補行動をサンプリングし、生成型検証器で最も信頼性の高い行動を選択することで、MLLMベースの具現化エージェントのロバスト性と汎化性能を大幅に向上させる。HabitatおよびALFREDベンチマークにおいて、最大36%の相対的性能向上を達成した。
ソースarXiv AI著者: Nishad Singhi, Christian Bialas, Snehal Jauhri, Vignesh Prasad, Georgia Chalvatzaki, Marcus Rohrbach, Anna Rohrbach
考えてから行動する:検証器ガイドによる具現化エージェントの行動選択