ProToMEx：藉助結構化表徵實現快速、可解釋的模型説明

機器學習模型在諸多領域得到廣泛應用，但其“黑箱”特性引發了人們對透明度和信任的擔憂。事後解釋（post-hoc explanation）旨在為已訓練模型提供解釋。然而，現有主流方法如SHAP和LIME主要基於特徵歸因，只輸出每個特徵的獨立重要性分數，難以捕捉特徵之間的複雜組合效應。在許多實際場景中，模型的決策往往依賴於若干特徵的聯合模式，簡單的歸因列表可能誤導用户。為了克服這一侷限，研究者提出了ProToMEx。ProToMEx是一種利用概率主題模型（Probabilistic Topic Models, PTMs）的全新可解釋性範式。PTM最初用於文本語料庫的主題發現，現在被引入到可解釋機器學習中。該框架是模型無關的（model-agnostic），適用於任何分類器。ProToMEx學習一組潛在“主題”，每個主題代表一個不同的、高層分類原因。例如，在信用風險評估中，某個主題可能代表“收入穩定且負債率低”，另一個主題可能代表“近期查詢次數多但賬户餘額高”。通過這種方式，ProToMEx不再侷限於對單個特徵打分數，而是揭示驅動預測的語義結構。ProToMEx能夠同時提供兩類解釋。全局解釋描述模型的整體行為，幫助開發者或審計者理解模型在該任務上的一般決策規律；局部解釋則針對某個具體預測，能夠分解出共同作用的多個原因。這種能力特別適合醫療診斷、金融風控等需要依據多重證據的場景。從效率上看，傳統的局部解釋方法如SHAP和LIME通常需要大量採樣或近似計算，在實時系統中產生較大開銷。ProToMEx通過預先學習主題結構，使局部解釋的攤銷成本大幅下降。實驗基於標準化的表格數據集和合成數據集，結果表明ProToMEx在解釋保真度上與SHAP、LIME相當，但生成局部解釋的速度是其約30到40倍。這使得ProToMEx成為對延遲敏感的交互式應用的有力候選。此外，論文提供了對方法侷限性的討論和未來研究方向，包括如何選擇主題數量、如何將方法擴展到圖像等非表格數據等。論文於2026年9月2日提交至arXiv，編號為2609.04265[cs.LG]，作者包括Athina Georgara和其他兩位合作者。該研究的代碼和額外資源可在arXiv頁面上獲取（含PDF、HTML實驗版及TeX源碼）。總體而言，ProToMEx為可解釋人工智能提供了全新的思路，以結構化的表示換取速度與可理解性，有望在工業界和學術界獲得廣泛應用。