闭环控制:规则对齐的小语言模型与多智能体自我修正
本文研究了一种基于小型语言模型(SLM)的闭环控制框架,通过GRPO对齐的Qwen2.5-1.5B模型,结合动作智能体、数字孪生验证层和重提示智能体,实现了从自然语言需求规范生成控制策略。在随机热控制模拟中,该框架达到91.5%的动作对齐准确率,平均推理延迟3.84秒,展示了在边缘设备上实现可重构自主控制的可行性。
迈向自主工业运营的关键一步是能够根据自然语言需求规范创建和重新配置控制策略,且只需极少或无需手动重新设计。在这一背景下,当与能够执行前检查候选动作的工厂感知验证器(例如数字孪生)配对时,由AI代理生成策略成为一种可行的路径。然而,实际部署受到推理延迟和计算开销的限制:大型云模型对于边缘闭环应用往往速度过慢、不够透明或对数据敏感。
本研究探讨了是否可以将紧凑的小型语言模型(SLM)重新训练用于控制推理,并将其嵌入验证器引导的修正循环中。研究团队使用了通过组相对策略优化(GRPO)对齐的Qwen2.5-1.5B模型,结合了三个组件:(i)动作代理,负责生成候选动作;(ii)符号/数字孪生风格的验证层,用于检查动作是否符合物理规则和约束;(iii)重提示代理,它根据验证结果迭代地引导模型输出朝向有效动作。这种多智能体架构实现了自我修正的闭环控制。
实验在随机热控制模拟中进行,共30次独立实验,每次包含500个控制步骤。结果显示,该框架实现了平均91.5%的动作对齐准确率,各案例范围从86.3%到100%。更重要的是,平均推理延迟仅为3.84秒,这对于边缘部署至关重要。在符号重映射测试中,模型保持了95%的在范围率,表明即使令牌级一致性有所下降,物理调节仍然稳健。
该研究已被IEEE CCTA 2026接收,表明其学术价值。这些结果支持SLM加验证器架构作为在边缘实现可重构自主控制的实用路径,为工业自动化和智能控制领域提供了新的思路。