聯邦學習（Federated Learning, FL）是一種分散式機器學習正規化，其中多個客戶端在本地資料上協同訓練模型，而無需共享原始資料。然而，實際部署中經常面臨一個嚴峻挑戰：標籤分佈偏斜（Label Skew）。不同客戶端可能擁有截然不同的資料分佈，例如，某些客戶端只有貓的圖片，而其他客戶端只有狗的圖片。這種標籤偏斜會導致客戶端漂移（Client Drift），即各客戶端模型向區域性最優方向過度偏離，最終嚴重損害全域性模型的準確率。
為了緩解標籤偏斜，研究者們通常採用合成資料增強技術。透過生成額外樣本來平衡各個類別的資料數量，可以顯著減少客戶端漂移。然而，這種方法有一個重大缺陷：實現完全的類別平衡（Full Class Balancing）需要極為高昂的計算成本。因為要對每個客戶端在每個類別上生成足夠多的合成樣本，計算開銷隨客戶端數量和類別數線性增長。
近日，一項發表於arXiv（編號：2607.06616）的新研究提出了FedEAS（Federated Entropy-Adaptive Synthesis）策略，旨在以極低的計算成本實現與完全類別平衡相近的精度提升。FedEAS的核心思想是“預算感知”合成資料生成。它並非對所有客戶端一視同仁地分配生成預算，而是根據每個客戶端的本地標籤分佈，計算一個熵自適應的每類生成預算（Entropy-Adaptive Per-Class Generation Budget）。這個預算同時控制兩個關鍵決策：每個客戶端需要生成多少合成樣本（How Much），以及這些樣本應該被髮送到哪些客戶端（WHERE）。
具體而言，FedEAS首先衡量每個客戶端的標籤分佈熵。熵較低表示分佈極端不平衡，熵較高則相對平衡。對於熵較低（即更偏斜）的客戶端，FedEAS會分配更高的生成預算，因為它們需要更多合成樣本來修正分佈。反之，對於熵較高（相對平衡）的客戶端，分配較少的預算。透過這種方式，總生成預算不再是一個預先固定的數字，而是由各個客戶端的預算動態累積而成。這種方法避免了傳統均勻分配預算的浪費，將資源集中在最需要的地方。
實驗結果表明，FedEAS在標準影像分類資料集CIFAR-10和CIFAR-100上表現極為出色。僅使用完全類別平衡所需預算的5.9%（即減少了94.1%），就恢復了透過完全平衡實現的大部分精度增益。更令人振奮的是，在相同的總生成預算下，FedEAS相比均勻分配預算的方案，效能提升高達18.82%。
這項工作的意義不僅在於技術層面的突破，更在於它為資源受限的聯邦學習場景提供了一種實用的解決方案。在移動裝置、物聯網端側等計算資源有限的環境中，FedEAS能夠大幅降低合成資料生成的計算和通訊開銷，同時保持模型的高精度。此外，該策略的熵自適應機制有望推廣到其他隱私保護場景，如混淆資料增強或梯度壓縮。隨著聯邦學習在醫療、金融等敏感領域的廣泛應用，FedEAS的出現無疑將推動這一技術向更高效、更平衡的方向發展。論文由Sangwoo Lee等三位作者完成，目前以預印本形式公開供學界討論。