HERO:面向联邦持续学习的异构感知基准库
联邦持续学习(FCL)评估分布式客户端如何从变化的数据流中学习同时保留已学知识。现有评估由于同时改变数据集、任务划分、客户端数据划分、任务顺序、骨干网络、内存假设和报告规则而难以比较。本文提出HERO,一个异构感知的FCL基准库,通过解耦任务划分、客户端数据划分和客户端任务序列来构建基准流。HERO-Core引入α控制数据倾斜、ρ控制任务顺序不匹配。在CIFAR-100和TinyImageNet上的评估显示,方法行为在简单和异构设置下会变化,平均准确率可能掩盖底层客户端性能,且HERO接口可暴露域迁移难度。HERO发布基准流、配置、方法实现和报告脚本以支持可复现的、感知设置的FCL评估。
近日,一篇由Thinh T. H. Nguyen等七位作者共同完成的论文《HERO: A Heterogeneity-Aware Benchmark Library for Federated Continual Learning》在arXiv上发布(提交日期为2026年6月13日)。该论文针对联邦持续学习(Federated Continual Learning, FCL)中评估基准缺乏标准化的问题,提出了一个名为HERO的异构感知基准库。
FCL旨在评估分布式客户端如何从持续变化的数据流中学习新知识,同时避免遗忘已学内容。然而,现有的评估设置往往同时改变数据集、任务划分方式、客户端数据分配、任务顺序、骨干网络架构、内存假设以及报告规则等多个维度,导致不同研究之间的结果难以直接比较。HERO的核心创新在于解耦了三个常常被耦合的设计选择:任务划分、客户端数据划分和客户端任务序列。通过这种解耦,HERO能够构建出更为公平、可比的基准测试流。
在HERO的核心基准HERO-Core中,论文引入了两个关键参数:α用于控制客户端数据倾斜的程度,ρ用于控制不同客户端之间任务顺序的不匹配程度。研究团队在CIFAR-100和TinyImageNet两个经典数据集上评估了多种代表性FCL方法,采用了最终平均准确率、平均遗忘率以及底部10%客户端的准确率作为衡量指标。此外,他们还专门在OGB-MolPCBA上开展了一个基于图的域增量学习(Domain-IL)可移植性案例研究,其中支架域粒度改变了输入分布,但预测任务保持不变。
实验结果表明:不同FCL方法在简单设置与异构设置下的表现存在显著差异;平均准确率往往会掩盖底层客户端性能的薄弱环节;任务顺序的不匹配会导致方法偏好与同步评估不同的策略;而HERO统一的接口还能够有效揭示图像域之外的域迁移难度。该论文最后指出,HERO已公开发布基准测试流、配置参数、方法实现以及报告脚本,以支持可复现的、设置感知的FCL评估,从而推动该领域的发展。