共置的人工智能訓練任務會同步嗎？

一篇新論文探討了大規模人工智能訓練任務在共享功率限制下是否會發生同步現象。AI訓練設施消耗大量電力，其功率波動呈週期性——數萬個加速器在計算密集型階段接近峯值功率，而在通信密集型階段則處於空閒狀態。這種週期性波動對電網構成了挑戰。

當多個獨立的訓練任務共享一個過訂閲的功率包絡時，它們的週期可能不再獨立。如果出現同步，聚合波動將從平方根增長變為線性增長，對電網穩定性產生更大影響。論文作者Brieuc Le Roux Tardif將其視為非線性振盪器羣體中的湧現同步問題，但經典耦合機制並不存在，因為加速器時鐘與電網頻率解耦。

研究的關鍵洞察是，耦合通道存在於負載相關限流機制中。當總功率需求高時，功率上限、電壓下降以及共享冷卻系統會迫使加速器降低計算速度。通過將整個集羣形式化為廣義Kuramoto系統，作者得出了三個操作相關的結論。首先，從維度上看，耦合在主導階是排斥性的，只有當控制環路相位滯後超過半週期時才變為吸引性；因此保護是模式選擇的，需要速率多樣性。其次，頻率相關的失諧使同步的開始呈現一階和滯後特性，這為檢測提供了線索。最後，相位分散調度可以同時提高所有模式的門限，從而有效緩解同步。

該預測可以通過兩任務共限流測量進行驗證，論文中給出了具體的實驗規範。這項研究為數據中心運營者提供了理論工具來理解和減輕AI訓練任務同步對電網的潛在影響。未來，隨着AI訓練規模不斷擴大，這一發現對於確保電網穩定性和優化能源管理具有重要意義。