聯邦可解釋人工智能：角色、架構、評估與開放挑戰
聯邦學習（FL）為分佈式異構數據源上的隱私保護協作模型訓練提供了關鍵範式，但無法解決模型黑箱問題。可解釋人工智能（XAI）則提升透明度與信任。二者融合催生了聯邦可解釋人工智能（FedXAI）範式。本文系統綜述了FedXAI，展示了可解釋性如何從事後工具轉變為FL生命週期的核心組件，並提出了分類法，涵蓋方法、評估實踐及開放挑戰。
聯邦學習（FL）作為一種在分佈式數據源上進行協作模型訓練的隱私保護範式，近年來受到了廣泛關注。然而，FL雖然通過保持原始數據本地化來保障數據機密性，卻未能解決現代機器學習模型的“黑箱”問題。可解釋人工智能（XAI）的發展為模型透明度、信任和問責制提供瞭解決方案，特別在高風險應用中至關重要。聯邦可解釋人工智能（FedXAI）應運而生，旨在同時滿足隱私和可解釋性需求。
最新發表在《Expert Systems with Applications》上的一篇全面綜述研究，由Masoume Gholizade等四位作者完成，系統回顧了FedXAI的現狀。該綜述強調，可解釋性已從事後分析工具轉變為聯邦學習全生命週期的核心組成部分。研究團隊展示了可解釋性在支持模型聚合、個性化、魯棒性提升、客户端協調以及系統級決策中的多重角色。為了系統梳理現有文獻，他們提出了一種新的分類法，將FedXAI方法按六個維度劃分：解釋角色（如全局/局部）、模型與解釋器類型（如模型無關或內在可解釋）、解釋範圍（全局或局部）、集成水平（事後或內在）、FL設置（如水平或垂直FL）以及數據異構性（如非獨立同分布）。
該綜述覆蓋了從模型無關的局部解釋方法（如LIME和SHAP）到可解釋的聯邦模型（如線性模型或決策樹），以及具有解釋意識的聚合機制——例如，聚合時考慮各客户端解釋的一致性。在評估方面，研究者發現當前缺乏用於衡量解釋質量、穩定性、隱私泄露風險和計算開銷的標準化基準與指標，這阻礙了不同方法的公平比較。此外，文章識別出若干關鍵挑戰：非獨立同分布數據下的可解釋性退化問題；以解釋為中心的安全威脅（如解釋被用於逆向攻擊）；通信效率與XAI的平衡；持續FedXAI（即隨時間演變的數據和模型）；以及領域知識與監管約束（如GDPR）的整合。
該綜述整合了現有研究成果並明確指出了關鍵空白，為設計可信、透明且保護隱私的聯邦AI系統提供了寶貴的參考框架。論文原文68頁，包含4張圖，已發表於2026年第331卷的《Expert Systems with Applications》期刊，並可在線獲取。