聯邦學習(Federated Learning, FL)是一種分佈式機器學習範式,其中多個客户端在本地數據上協同訓練模型,而無需共享原始數據。然而,實際部署中經常面臨一個嚴峻挑戰:標籤分佈偏斜(Label Skew)。不同客户端可能擁有截然不同的數據分佈,例如,某些客户端只有貓的圖片,而其他客户端只有狗的圖片。這種標籤偏斜會導致客户端漂移(Client Drift),即各客户端模型向局部最優方向過度偏離,最終嚴重損害全局模型的準確率。
為了緩解標籤偏斜,研究者們通常採用合成數據增強技術。通過生成額外樣本來平衡各個類別的數據數量,可以顯著減少客户端漂移。然而,這種方法有一個重大缺陷:實現完全的類別平衡(Full Class Balancing)需要極為高昂的計算成本。因為要對每個客户端在每個類別上生成足夠多的合成樣本,計算開銷隨客户端數量和類別數線性增長。
近日,一項發表於arXiv(編號:2607.06616)的新研究提出了FedEAS(Federated Entropy-Adaptive Synthesis)策略,旨在以極低的計算成本實現與完全類別平衡相近的精度提升。FedEAS的核心思想是“預算感知”合成數據生成。它並非對所有客户端一視同仁地分配生成預算,而是根據每個客户端的本地標籤分佈,計算一個熵自適應的每類生成預算(Entropy-Adaptive Per-Class Generation Budget)。這個預算同時控制兩個關鍵決策:每個客户端需要生成多少合成樣本(How Much),以及這些樣本應該被髮送到哪些客户端(WHERE)。
具體而言,FedEAS首先衡量每個客户端的標籤分佈熵。熵較低表示分佈極端不平衡,熵較高則相對平衡。對於熵較低(即更偏斜)的客户端,FedEAS會分配更高的生成預算,因為它們需要更多合成樣本來修正分佈。反之,對於熵較高(相對平衡)的客户端,分配較少的預算。通過這種方式,總生成預算不再是一個預先固定的數字,而是由各個客户端的預算動態累積而成。這種方法避免了傳統均勻分配預算的浪費,將資源集中在最需要的地方。
實驗結果表明,FedEAS在標準圖像分類數據集CIFAR-10和CIFAR-100上表現極為出色。僅使用完全類別平衡所需預算的5.9%(即減少了94.1%),就恢復了通過完全平衡實現的大部分精度增益。更令人振奮的是,在相同的總生成預算下,FedEAS相比均勻分配預算的方案,性能提升高達18.82%。
這項工作的意義不僅在於技術層面的突破,更在於它為資源受限的聯邦學習場景提供了一種實用的解決方案。在移動設備、物聯網端側等計算資源有限的環境中,FedEAS能夠大幅降低合成數據生成的計算和通信開銷,同時保持模型的高精度。此外,該策略的熵自適應機制有望推廣到其他隱私保護場景,如混淆數據增強或梯度壓縮。隨着聯邦學習在醫療、金融等敏感領域的廣泛應用,FedEAS的出現無疑將推動這一技術向更高效、更平衡的方向發展。論文由Sangwoo Lee等三位作者完成,目前以預印本形式公開供學界討論。