近日,一篇题为《稳定智能体控制:用于自主网络防御的工具中介LLM架构》的论文由Kerri Prinos等八位作者共同提交至arXiv(编号2605.03034),提出了一种新颖的框架,旨在为安全运营中心(SOC)在对抗压力下配置端点检测与响应(EDR)策略提供形式化保证。该工作针对现有智能体系统在高风险对抗决策中缺乏形式化保证的痛点,创新性地设计了工具中介的LLM架构,将确定性工具与有限动作目录结合,从而在理论层面确保了系统的稳定性。
架构的核心在于让LLM代理使用三类确定性工具:Stackelberg最佳响应、贝叶斯观测更新和攻击图基元。这些工具的输出被限制在一个有限的动作目录中,代理只能从该目录中选择动作。这种设计避免了LLM产生不可预测或不受控制的输出,为形式化验证奠定了基础。研究团队采用复合Lyapunov函数来表征系统的稳定性,并使用Lean 4定理证明器进行了完整的机器验证(零sorry),从而正式认证了系统的可控性、从非对称传感器数据的可观测性,以及在智能对抗干扰下的输入到状态稳定性(ISS)鲁棒性。该Lyapunov函数还附带两个推论,将认证扩展到目录中的任何控制器或对手,大大增强了通用性。
实验部分,团队在282个真实企业攻击图上对上述理论声明进行了验证,结果以充分余量支持了理论。在配对攻防遥测中,使用工具中介的Claude Sonnet 4控制器相比确定性的贪婪基线,将攻击者的预期收益(博弈值)降低了59%,并且在四个不同温度下的40次运行中方差保持为零。即使使用能力较弱的Claude Haiku 4.5控制器,虽然收敛到次优博弈值,但在额外40次运行中仍保持了目录有界性,这强有力地表明架构的稳定性并不依赖于控制器的具体能力。
论文最后强调,LLM代理的非确定性实际上促进了策略的创造性探索,而工具中介架构则确保了系统整体稳定性。这一工作为自主网络防御系统的可靠性提供了新的理论基石和实验证据,有望推动智能体系统在高风险领域的安全应用。