跳到主要內容
AI News HubLIVE
站內改寫2 分鐘閱讀

生成位置至關重要:面向標籤偏斜聯邦學習的預算感知合成增強

文章摘要

聯邦學習中標籤偏斜導致客户端漂移並降低全局精度。合成數據增強可以緩解這一不平衡,但完全類別平衡需要大量計算成本。本文提出FedEAS策略,根據客户端本地標籤分佈為每個客户端分配熵自適應每類生成預算,聯合決定生成數量和樣本分配方向。總生成預算由各客户端預算動態確定,而非預先固定。FedEAS在減少94.1%生成預算的同時恢復了完全類別平衡的大部分精度增益,在相同總預算下,在CIFAR-10和CIFAR-100上比均勻分配方法性能提升高達18.82%。

來源arXiv Machine Learning作者: Sangwoo Lee, Sunghwan Park, Jaewoo Lee
生成位置至關重要:面向標籤偏斜聯邦學習的預算感知合成增強
報告錯誤

更正渠道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

聯邦學習(Federated Learning, FL)是一種分佈式機器學習範式,其中多個客户端在本地數據上協同訓練模型,而無需共享原始數據。然而,實際部署中經常面臨一個嚴峻挑戰:標籤分佈偏斜(Label Skew)。不同客户端可能擁有截然不同的數據分佈,例如,某些客户端只有貓的圖片,而其他客户端只有狗的圖片。這種標籤偏斜會導致客户端漂移(Client Drift),即各客户端模型向局部最優方向過度偏離,最終嚴重損害全局模型的準確率。

為了緩解標籤偏斜,研究者們通常採用合成數據增強技術。通過生成額外樣本來平衡各個類別的數據數量,可以顯著減少客户端漂移。然而,這種方法有一個重大缺陷:實現完全的類別平衡(Full Class Balancing)需要極為高昂的計算成本。因為要對每個客户端在每個類別上生成足夠多的合成樣本,計算開銷隨客户端數量和類別數線性增長。

近日,一項發表於arXiv(編號:2607.06616)的新研究提出了FedEAS(Federated Entropy-Adaptive Synthesis)策略,旨在以極低的計算成本實現與完全類別平衡相近的精度提升。FedEAS的核心思想是“預算感知”合成數據生成。它並非對所有客户端一視同仁地分配生成預算,而是根據每個客户端的本地標籤分佈,計算一個熵自適應的每類生成預算(Entropy-Adaptive Per-Class Generation Budget)。這個預算同時控制兩個關鍵決策:每個客户端需要生成多少合成樣本(How Much),以及這些樣本應該被髮送到哪些客户端(WHERE)。

具體而言,FedEAS首先衡量每個客户端的標籤分佈熵。熵較低表示分佈極端不平衡,熵較高則相對平衡。對於熵較低(即更偏斜)的客户端,FedEAS會分配更高的生成預算,因為它們需要更多合成樣本來修正分佈。反之,對於熵較高(相對平衡)的客户端,分配較少的預算。通過這種方式,總生成預算不再是一個預先固定的數字,而是由各個客户端的預算動態累積而成。這種方法避免了傳統均勻分配預算的浪費,將資源集中在最需要的地方。

實驗結果表明,FedEAS在標準圖像分類數據集CIFAR-10和CIFAR-100上表現極為出色。僅使用完全類別平衡所需預算的5.9%(即減少了94.1%),就恢復了通過完全平衡實現的大部分精度增益。更令人振奮的是,在相同的總生成預算下,FedEAS相比均勻分配預算的方案,性能提升高達18.82%。

這項工作的意義不僅在於技術層面的突破,更在於它為資源受限的聯邦學習場景提供了一種實用的解決方案。在移動設備、物聯網端側等計算資源有限的環境中,FedEAS能夠大幅降低合成數據生成的計算和通信開銷,同時保持模型的高精度。此外,該策略的熵自適應機制有望推廣到其他隱私保護場景,如混淆數據增強或梯度壓縮。隨着聯邦學習在醫療、金融等敏感領域的廣泛應用,FedEAS的出現無疑將推動這一技術向更高效、更平衡的方向發展。論文由Sangwoo Lee等三位作者完成,目前以預印本形式公開供學界討論。

展開要點與分析

文章情報

研究者進階

要點

  • FedEAS通過熵自適應預算分配,顯著降低合成數據生成成本。
  • 該方法在CIFAR-10和CIFAR-100上以94.1%的預算減少實現了接近完全類別平衡的精度。
  • 與均勻預算分配相比,FedEAS在相同總預算下精度提升達18.82%。

技術影響

可能影響合規要求、模型發佈節奏、數據治理和企業採購。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。