揭示VLM的可解釋故障模式

視覺-語言模型（VLM）因其廣泛的推理能力和最小任務特定工程下的泛化能力，正越來越多地應用於安全關鍵領域，如自動駕駛和室內機器人。然而，這些模型在特定現實情境下可能表現出災難性故障，即所謂的故障模式。為了系統性地揭示這些故障，來自某研究機構的研究人員提出了REVELIO框架。該框架將故障模式定義為可解釋、領域相關概念的組合，例如行人距離或惡劣天氣條件，在這些條件下目標VLM持續表現錯誤。識別此類故障需要搜尋指數級龐大的離散組合空間。為此，REVELIO結合了兩種搜尋策略：多樣性感知波束搜尋，高效對映故障景觀；以及高斯過程Thompson取樣，實現對複雜故障模式的更廣泛探索。REVELIO的搜尋空間由多個概念維度組成，每個維度有多個值，組合爆炸導致傳統方法不可行。多樣性感知波束搜尋透過保持候選解的多樣性來高效探索，而高斯過程Thompson取樣則利用代理模型引導搜尋，從而在更廣泛的區域內發現故障模式。研究團隊將REVELIO應用於自動駕駛和室內機器人領域，發現了先前未報道的先進VLM漏洞。在駕駛環境中，模型通常表現出弱空間定位能力，未能考慮重大障礙物，導致推薦行為會引發模擬碰撞。例如，一個VLM可能忽略道路上突然出現的障礙物，而推薦加速繞過，這在現實中會造成危險。在室內機器人任務中，VLM要麼忽略安全隱患，如掉落的物體或溼滑地面，要麼過度保守，產生誤報並降低執行效率。透過識別結構化和可解釋的故障模式，REVELIO提供了可操作的見解，有助於針對性地改進VLM安全性。該框架的提出為VLM在真實世界應用中的可靠性評估和提升開闢了新途徑。論文於2026年5月12日提交至arXiv，主題包括人工智慧、機器學習和機器人學。這項工作展示瞭如何透過系統性方法揭示覆雜模型的隱蔽弱點，從而推動更安全的AI部署。