聯邦學習（FL）作為一種在分散式資料來源上進行協作模型訓練的隱私保護正規化，近年來受到了廣泛關注。然而，FL雖然透過保持原始資料本地化來保障資料機密性，卻未能解決現代機器學習模型的“黑箱”問題。可解釋人工智慧（XAI）的發展為模型透明度、信任和問責制提供瞭解決方案，特別在高風險應用中至關重要。聯邦可解釋人工智慧（FedXAI）應運而生，旨在同時滿足隱私和可解釋性需求。
最新發表在《Expert Systems with Applications》上的一篇全面綜述研究，由Masoume Gholizade等四位作者完成，系統回顧了FedXAI的現狀。該綜述強調，可解釋性已從事後分析工具轉變為聯邦學習全生命週期的核心組成部分。研究團隊展示了可解釋性在支援模型聚合、個性化、魯棒性提升、客戶端協調以及系統級決策中的多重角色。為了系統梳理現有文獻，他們提出了一種新的分類法，將FedXAI方法按六個維度劃分：解釋角色（如全域性/區域性）、模型與直譯器型別（如模型無關或內在可解釋）、解釋範圍（全域性或區域性）、整合水平（事後或內在）、FL設定（如水平或垂直FL）以及資料異構性（如非獨立同分布）。
該綜述覆蓋了從模型無關的區域性解釋方法（如LIME和SHAP）到可解釋的聯邦模型（如線性模型或決策樹），以及具有解釋意識的聚合機制——例如，聚合時考慮各客戶端解釋的一致性。在評估方面，研究者發現當前缺乏用於衡量解釋質量、穩定性、隱私洩露風險和計算開銷的標準化基準與指標，這阻礙了不同方法的公平比較。此外，文章識別出若干關鍵挑戰：非獨立同分布資料下的可解釋性退化問題；以解釋為中心的安全威脅（如解釋被用於逆向攻擊）；通訊效率與XAI的平衡；持續FedXAI（即隨時間演變的資料和模型）；以及領域知識與監管約束（如GDPR）的整合。
該綜述整合了現有研究成果並明確指出了關鍵空白，為設計可信、透明且保護隱私的聯邦AI系統提供了寶貴的參考框架。論文原文68頁，包含4張圖，已發表於2026年第331卷的《Expert Systems with Applications》期刊，並可線上獲取。