連合説明可能人工知能：役割、アーキテクチャ、評価、そして未解決の課題
連合学習（FL）は分散データソースでのプライバシー保護型協調モデル訓練を可能にするが、モデルの不透明性は解消されない。説明可能AI（XAI）は透明性を向上させる。両者の融合である連合説明可能AI（FedXAI）を体系的にレビューし、説明可能性が事後ツールからFLライフサイクルの不可欠な要素へと移行したことを示す。分類法に基づき手法を整理し、評価の標準化不足や非IIDデータ下での説明可能性などの課題を特定する。
連合学習（FL）は、分散した異種データソース上でプライバシーを保護しながら協調的にモデルを訓練するための重要なパラダイムとして登場しました。生データをローカルに保持することでデータ機密性に対処する一方、現代の機械学習モデルの不透明性は解消されていません。説明可能AI（XAI）は、特にハイステークス領域において透明性、信頼性、説明責任を向上させるものとして注目されています。これらの交差点として、プライバシーと説明可能性の両方を満たす連合説明可能AI（FedXAI）パラダイムが生まれました。
本サーベイは、Masoume Gholizadeら4名の著者による『Expert Systems with Applications』誌に掲載された包括的なレビューであり、FedXAIの体系的なレビューを提供します。このレビューは、説明可能性が事後的なツールからFLライフサイクルの不可欠な要素へと移行したことを強調しています。説明可能性がどのように集約、個人化、ロバスト性、調整、システムレベルの意思決定を支援するかを示します。文献を整理するために、説明可能性の役割、モデルと説明器のタイプ、説明範囲、統合レベル、FL設定、データ不均一性という6つの次元でFedXAI手法を分類する分類法を導入しています。
レビューでは、モデルに依存しない説明（LIMEやSHAPなど）から解釈可能な連合モデル（線形モデルや決定木など）、説明可能性を考慮した集約メカニズム（各クライアントの説明の一貫性を考慮）に至るまで、さまざまなアプローチをカバーしています。評価手法の検証では、説明品質、安定性、プライバシー漏洩、計算オーバーヘッドを測定するための標準化されたベンチマークと指標が欠如していることが指摘されています。さらに、非IIDデータ下での説明可能性の劣化、説明を利用したセキュリティ脅威（逆推論攻撃など）、通信効率とXAIのバランス、継続的FedXAI、ドメイン知識と規制制約（GDPRなど）の統合など、主要な課題を特定しています。
このサーベイは、既存研究を統合し重要なギャップを特定することで、信頼性が高く透明でプライバシーを保護する連合AIシステムを設計するための参照フレームワークを提供します。論文は68ページ、4図から構成され、2026年第331巻の『Expert Systems with Applications』に掲載され、オンラインで入手可能です。