在人工智慧與多模態學習快速發展的背景下，視覺語言模型（Vision-Language Models, VLMs）如CLIP，透過將影像和文本對映到統一嵌入空間，在下游任務中取得了顯著成績。然而，隨著這些模型被逐步部署到醫療診斷、自動駕駛、內容稽核等高風險領域，模型可能會因為分佈外資料或對抗干擾而產生錯誤預測。為了保障系統安全，提前判斷模型何時可能出錯變得至關重要。現有的故障預測方法通常基於模型的置信度得分或者專門訓練的輔助分類器，這些方法雖然在一定程度上能夠識別可能失敗的樣本，但往往只給出一個分數或標籤，缺乏對失敗原因的解釋，使得開發者和使用者難以理解模型為何失敗，也難以採取有效的干預措施。
針對以上挑戰，來自研究團隊的Jie Ma等人提出了一種名為FailSAE的全新框架，利用稀疏自編碼器實現視覺語言模型故障預測的“可解釋性”。稀疏自編碼器是一種無監督學習方法，能夠從高維啟用中學習稀疏、可解釋的潛在特徵。在這項工作中，作者將故障預測重新定義為一個基於稀疏SAE潛在啟用的分類任務，並提出了一個三階段的故障感知訓練管道。該管道的主要目標是在保持潛在方向的可解釋性的同時，增強其對故障預測的判別能力。具體而言，第一階段可能涉及對SAE進行標準的重建訓練，以學習表徵；第二階段引入故障分類損失，使潛在特徵對故障敏感；第三階段則可能透過微調或正則化手段來平衡可解釋性與預測效能。雖然論文中未逐一列出各階段的具體細節，但這一設計思路表明研究者試圖融合無監督表徵學習與監督故障預測，從而獲得“既透明又有效”的模型。
在一系列對比實驗中，FailSAE表現出優於現有基線的故障預測準確率。更值得注意的是，透過故障感知訓練，SAE的潛在方向傾向於捕捉類別相關的概念，例如在影像分類任務中，某些方向可能對應“輪子”或“毛髮”等細粒度屬性。而當模型發生錯誤時，這些類別特定概念的啟用程度會減弱，取而代之的是模糊或風格相關的概念。這一現象從概念層面揭示了VLM失敗的內在機制：模型在犯錯時，可能從“分析內容”轉向“猜測風格”，從而偏離了正確的語義判斷。
除了用於分析，作者還探討了SAE潛在方向在執行時故障恢復中的潛在用途。如果系統檢測到模型陷入模糊概念，可以觸發相應的修正策略，例如調整輸入或回退到更保守的決策，從而避免嚴重後果。儘管該部分仍處於探索階段，但它為故障預測從“被動警告”到“主動修復”邁出了重要一步。
該論文於2026年9月2日提交至arXiv，編號為2609.04276，目前提供PDF和實驗性HTML版本，並已分配資料DOI。論文所屬學科為計算機視覺與模式識別（cs.CV），並引用了ACM分類I.4.7。研究者還公開了TeX原始碼，相關程式碼與資料連結也已提供，便於其他學者復現和拓展。隨著多模態模型在關鍵任務中的普及，FailSAE所提出的可解釋故障預測方法，有望成為構建可信賴AI系統的重要工具。