2026年6月13日、Thinh T. H. Nguyen氏を含む7名の著者による論文「HERO: A Heterogeneity-Aware Benchmark Library for Federated Continual Learning」がarXivで公開されました。本論文は、フェデレーション連続学習(Federated Continual Learning, FCL)における評価の標準化を目的とし、異種性を考慮したベンチマークライブラリHEROを提案しています。
FCLは、分散クライアントが変化するデータストリームから新しい知識を学習しつつ、過去の知識を忘れないようにすることを評価する枠組みです。しかし、既存の評価設定はデータセット、タスク分割、クライアントデータ分割、タスク順序、バックボーンネットワーク、メモリ仮定、報告ルールなど多くの要素を同時に変えてしまうため、研究間の比較が困難でした。HEROの主な貢献は、タスク分割、クライアントデータ分割、およびクライアントタスク順序という三つの選択を分離することで、より公平で比較可能なベンチマークストリームを構築できるようにした点にあります。
HEROの中心となるベンチマークであるHERO-Coreでは、αパラメータがクライアント間のデータ偏りを、ρパラメータがタスク順序の不一致を制御します。著者らはCIFAR-100およびTinyImageNetデータセットを用いて代表的なFCL手法を評価し、最終平均精度、平均忘却率、下位10%クライアント精度を指標としました。また、OGB-MolPCBAデータセットを用いたグラフベースのドメインインクリメンタルラーニング(Domain-IL)の移植性ケーススタディも実施し、スキャフォールドドメインの粒度が入力分布を変化させる一方で予測タスクは固定される設定を扱いました。
実験結果から、手法の振る舞いは簡単な設定と異種設定で異なり、平均精度は弱いクライアントの性能を隠してしまうこと、タスク順序の不一致は同期評価とは異なる戦略を好むこと、そしてHEROの統一インターフェースが画像ベースのFCLを超えたドメインシフトの難しさを明らかにできることが示されました。HEROプロジェクトは、ベンチマークストリーム、設定、手法実装、レポートスクリプトを公開し、再現可能で設定を考慮したFCL評価を支援しています。