VLMの解釈可能な故障モードを明らかにする

視覚言語モデル（VLM）は、その広範な推論能力と最小限のタスク固有エンジニアリングで汎化する能力により、自動運転や屋内ロボットなどの安全が重要なアプリケーションでますます使用されています。しかし、これらのモデルは特定の現実世界の状況で破滅的な故障を示すことがあり、それが故障モードを構成します。このような故障を体系的に明らかにするために、研究者らはREVELIOフレームワークを提案しました。REVELIOは、故障モードを解釈可能でドメインに関連する概念（歩行者の接近や悪天候条件など）の組み合わせと定義し、その下で対象のVLMが一貫して誤った動作をします。このような故障を特定するには、指数関数的に巨大な離散組み合わせ空間を探索する必要があります。この課題に対処するため、REVELIOは2つの探索手順を組み合わせています。一つは多様性を考慮したビームサーチで、故障の状況を効率的にマッピングし、もう一つはガウス過程トンプソンサンプリング戦略で、複雑な故障モードのより広範な探索を可能にします。研究チームはREVELIOを自動運転と屋内ロボットの領域に適用し、最先端のVLMにおけるこれまで報告されていなかった脆弱性を明らかにしました。運転環境では、モデルはしばしば弱い空間的接地を示し、主要な障害物を考慮できず、シミュレーション上の衝突を引き起こす推奨を行いました。例えば、VLMが道路の障害物を無視して加速を推奨するケースが見られました。屋内ロボットタスクでは、VLMは安全上の危険を見逃すか、過度に保守的に振る舞い、誤警報を発生させて運用効率を低下させました。構造化され解釈可能な故障モードを特定することで、REVELIOはVLMの安全性向上を支援する実用的な洞察を提供します。このフレームワークは、現実世界でのVLMの信頼性評価と改善のための新たな道を開きます。論文は2026年5月12日にarXivに提出され、人工知能、機械学習、ロボット工学を主題としています。著者はIsha Chaudharyら5名です。この研究は、複雑なモデルの隠れた弱点を系統的に明らかにする方法を示し、より安全なAI展開を促進します。