共置的人工智能训练任务会同步吗？
大规模AI训练计算设施的功率呈现周期性波动，当多个独立训练任务共享一个过订阅的功率包络时，功率管理堆栈可能导致它们同步，从而加剧电网波动。本文通过负载相关限流机制，将这一现象建模为广义Kuramoto系统，提供了检测和缓解同步的方法。
一篇新论文探讨了大规模人工智能训练任务在共享功率限制下是否会发生同步现象。AI训练设施消耗大量电力，其功率波动呈周期性——数万个加速器在计算密集型阶段接近峰值功率，而在通信密集型阶段则处于空闲状态。这种周期性波动对电网构成了挑战。
当多个独立的训练任务共享一个过订阅的功率包络时，它们的周期可能不再独立。如果出现同步，聚合波动将从平方根增长变为线性增长，对电网稳定性产生更大影响。论文作者Brieuc Le Roux Tardif将其视为非线性振荡器群体中的涌现同步问题，但经典耦合机制并不存在，因为加速器时钟与电网频率解耦。
研究的关键洞察是，耦合通道存在于负载相关限流机制中。当总功率需求高时，功率上限、电压下降以及共享冷却系统会迫使加速器降低计算速度。通过将整个集群形式化为广义Kuramoto系统，作者得出了三个操作相关的结论。首先，从维度上看，耦合在主导阶是排斥性的，只有当控制环路相位滞后超过半周期时才变为吸引性；因此保护是模式选择的，需要速率多样性。其次，频率相关的失谐使同步的开始呈现一阶和滞后特性，这为检测提供了线索。最后，相位分散调度可以同时提高所有模式的门限，从而有效缓解同步。
该预测可以通过两任务共限流测量进行验证，论文中给出了具体的实验规范。这项研究为数据中心运营者提供了理论工具来理解和减轻AI训练任务同步对电网的潜在影响。未来，随着AI训练规模不断扩大，这一发现对于确保电网稳定性和优化能源管理具有重要意义。