跳到主要內容
AI News HubLIVE
站內改寫1 分鐘閱讀

HERO:面向聯邦持續學習的異構感知基準庫

文章摘要

聯邦持續學習(FCL)評估分佈式客户端如何從變化的數據流中學習同時保留已學知識。現有評估由於同時改變數據集、任務劃分、客户端數據劃分、任務順序、骨幹網絡、內存假設和報告規則而難以比較。本文提出HERO,一個異構感知的FCL基準庫,通過解耦任務劃分、客户端數據劃分和客户端任務序列來構建基準流。HERO-Core引入α控制數據傾斜、ρ控制任務順序不匹配。在CIFAR-100和TinyImageNet上的評估顯示,方法行為在簡單和異構設置下會變化,平均準確率可能掩蓋底層客户端性能,且HERO接口可暴露域遷移難度。HERO發佈基準流、配置、方法實現和報告腳本以支持可復現的、感知設置的FCL評估。

來源arXiv Machine Learning作者: Thinh T. H. Nguyen, Le-Tuan Nguyen, Minh-Duong Nguyen, Nhi Trinh, Anh Tran Nam Nguyet, Dung D. Le, Kok-Seng Wong
HERO:面向聯邦持續學習的異構感知基準庫
報告錯誤

更正渠道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

近日,一篇由Thinh T. H. Nguyen等七位作者共同完成的論文《HERO: A Heterogeneity-Aware Benchmark Library for Federated Continual Learning》在arXiv上發佈(提交日期為2026年6月13日)。該論文針對聯邦持續學習(Federated Continual Learning, FCL)中評估基準缺乏標準化的問題,提出了一個名為HERO的異構感知基準庫。

FCL旨在評估分佈式客户端如何從持續變化的數據流中學習新知識,同時避免遺忘已學內容。然而,現有的評估設置往往同時改變數據集、任務劃分方式、客户端數據分配、任務順序、骨幹網絡架構、內存假設以及報告規則等多個維度,導致不同研究之間的結果難以直接比較。HERO的核心創新在於解耦了三個常常被耦合的設計選擇:任務劃分、客户端數據劃分和客户端任務序列。通過這種解耦,HERO能夠構建出更為公平、可比的基準測試流。

在HERO的核心基準HERO-Core中,論文引入了兩個關鍵參數:α用於控制客户端數據傾斜的程度,ρ用於控制不同客户端之間任務順序的不匹配程度。研究團隊在CIFAR-100和TinyImageNet兩個經典數據集上評估了多種代表性FCL方法,採用了最終平均準確率、平均遺忘率以及底部10%客户端的準確率作為衡量指標。此外,他們還專門在OGB-MolPCBA上開展了一個基於圖的域增量學習(Domain-IL)可移植性案例研究,其中支架域粒度改變了輸入分佈,但預測任務保持不變。

實驗結果表明:不同FCL方法在簡單設置與異構設置下的表現存在顯著差異;平均準確率往往會掩蓋底層客户端性能的薄弱環節;任務順序的不匹配會導致方法偏好與同步評估不同的策略;而HERO統一的接口還能夠有效揭示圖像域之外的域遷移難度。該論文最後指出,HERO已公開發布基準測試流、配置參數、方法實現以及報告腳本,以支持可復現的、設置感知的FCL評估,從而推動該領域的發展。

展開要點與分析

文章情報

投資人進階

要點

  • HERO通過解耦任務劃分、客户端數據劃分和客户端任務序列,解決了FCL評估難以比較的問題。
  • HERO-Core使用參數α和ρ分別控制數據傾斜和任務順序不匹配。
  • 實驗表明平均準確率可能掩蓋弱客户端性能,且HERO能暴露圖像域之外的域遷移難度。
  • HERO開源了基準流、配置、實現和腳本,支持可復現的FCL評估。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。