联邦可解释人工智能：角色、架构、评估与开放挑战
联邦学习（FL）为分布式异构数据源上的隐私保护协作模型训练提供了关键范式，但无法解决模型黑箱问题。可解释人工智能（XAI）则提升透明度与信任。二者融合催生了联邦可解释人工智能（FedXAI）范式。本文系统综述了FedXAI，展示了可解释性如何从事后工具转变为FL生命周期的核心组件，并提出了分类法，涵盖方法、评估实践及开放挑战。
联邦学习（FL）作为一种在分布式数据源上进行协作模型训练的隐私保护范式，近年来受到了广泛关注。然而，FL虽然通过保持原始数据本地化来保障数据机密性，却未能解决现代机器学习模型的“黑箱”问题。可解释人工智能（XAI）的发展为模型透明度、信任和问责制提供了解决方案，特别在高风险应用中至关重要。联邦可解释人工智能（FedXAI）应运而生，旨在同时满足隐私和可解释性需求。
最新发表在《Expert Systems with Applications》上的一篇全面综述研究，由Masoume Gholizade等四位作者完成，系统回顾了FedXAI的现状。该综述强调，可解释性已从事后分析工具转变为联邦学习全生命周期的核心组成部分。研究团队展示了可解释性在支持模型聚合、个性化、鲁棒性提升、客户端协调以及系统级决策中的多重角色。为了系统梳理现有文献，他们提出了一种新的分类法，将FedXAI方法按六个维度划分：解释角色（如全局/局部）、模型与解释器类型（如模型无关或内在可解释）、解释范围（全局或局部）、集成水平（事后或内在）、FL设置（如水平或垂直FL）以及数据异构性（如非独立同分布）。
该综述覆盖了从模型无关的局部解释方法（如LIME和SHAP）到可解释的联邦模型（如线性模型或决策树），以及具有解释意识的聚合机制——例如，聚合时考虑各客户端解释的一致性。在评估方面，研究者发现当前缺乏用于衡量解释质量、稳定性、隐私泄露风险和计算开销的标准化基准与指标，这阻碍了不同方法的公平比较。此外，文章识别出若干关键挑战：非独立同分布数据下的可解释性退化问题；以解释为中心的安全威胁（如解释被用于逆向攻击）；通信效率与XAI的平衡；持续FedXAI（即随时间演变的数据和模型）；以及领域知识与监管约束（如GDPR）的整合。
该综述整合了现有研究成果并明确指出了关键空白，为设计可信、透明且保护隐私的联邦AI系统提供了宝贵的参考框架。论文原文68页，包含4张图，已发表于2026年第331卷的《Expert Systems with Applications》期刊，并可在线获取。