立場：可解釋性研究必須優先關注基礎問題而非臨時方法
儘管可解釋人工智慧（XAI）技術層出不窮，從特徵歸因到稀疏自編碼器，但解釋很少影響實際工作流程。本文認為，機器學習社群必須從臨時性的XAI方法轉向解決基礎性和結構性的挑戰，包括不明確的問題表述、不充分的評估目標以及缺乏解釋驅動反饋的流程。透過對近期ICML、NeurIPS和ICLR論文的分析及對XAI從業者的調查，作者揭示了限制累積進展的常見問題，並提出了一個實用清單，旨在將XAI轉向更以人為中心、面向行動的模式。
一項由Michal Moshkovitz等10位研究者共同完成的最新研究指出，儘管可解釋人工智慧（XAI）領域已湧現大量技術——從特徵歸因到稀疏自編碼器——但大多數解釋並未在實際工作流程中發揮作用。研究人員表示，這些解釋往往被生成後即被丟棄，未能引導有意義的行動。這種脫節反映了基礎性缺陷：目前尚未建立將解釋整合到端到端人機環系統中的方法。該研究以立場論文形式被ICML 2026錄用，並發表在arXiv上。
該論文的核心論點在於，機器學習社群必須從開發臨時性的XAI方法轉向解決基礎性和結構性的挑戰。作者團隊透過系統分析ICML、NeurIPS和ICLR近年來的相關論文，以及對大量XAI從業者的問卷調查，揭示了阻礙該領域累積進展的三大常見問題：問題表述不明確、評估目標不充分，以及缺乏解釋驅動反饋的流程。具體而言，許多研究在定義“解釋”的目標時含糊不清，導致評估方法無法反映實際需求；同時，解釋很少被設計為可嵌入到實際系統中的反饋環節，從而無法形成改進閉環。
研究者進一步指出，當前的XAI研究過度關注技術新穎性，而忽略瞭如何將解釋整合到實際系統中。例如，許多方法在特定基準資料集上表現良好，但在真實場景中卻因缺乏上下文資訊或使用者理解不足而失效。為此，論文提出了一份實用清單，旨在引導XAI向更以人為中心、面向行動的方向發展。該清單包括：明確解釋的目標使用者與使用場景、設計可操作的評估指標、建立解釋與決策之間的反饋迴路，以及確保解釋能夠根據使用者需求動態調整。
透過關注基礎性問題的清晰化而非開發更多臨時方法，作者期望為將解釋融入可操作、反饋驅動的AI系統提供路線圖。這一工作對於構建可信、透明且實用的人工智慧系統具有重要意義，尤其適用於需要人類監督的關鍵應用領域。