跳到主要内容
AI News HubLIVE
站内改写2 分钟阅读

稳定智能体控制:用于自主网络防御的工具中介LLM架构

文章摘要

本文提出一种工具中介的LLM架构,通过确定性工具(Stackelberg最佳响应、贝叶斯观测更新、攻击图基元)和有限动作目录实现自主网络防御的稳定性保证。使用Lean 4验证的复合Lyapunov函数确保了可控性、可观测性和输入到状态稳定性(ISS)鲁棒性。在282个真实企业攻击图上验证了声明,并在攻防遥测中使攻击者预期收益降低59%。

来源arXiv AI作者: Kerri Prinos, Lilianne Brush, Cameron Denton, Zhanqi Wang, Joshua Knox, Snehal Antani, Anton Foltz, Amy Villase\~nor
稳定智能体控制:用于自主网络防御的工具中介LLM架构
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

近日,一篇题为《稳定智能体控制:用于自主网络防御的工具中介LLM架构》的论文由Kerri Prinos等八位作者共同提交至arXiv(编号2605.03034),提出了一种新颖的框架,旨在为安全运营中心(SOC)在对抗压力下配置端点检测与响应(EDR)策略提供形式化保证。该工作针对现有智能体系统在高风险对抗决策中缺乏形式化保证的痛点,创新性地设计了工具中介的LLM架构,将确定性工具与有限动作目录结合,从而在理论层面确保了系统的稳定性。

架构的核心在于让LLM代理使用三类确定性工具:Stackelberg最佳响应、贝叶斯观测更新和攻击图基元。这些工具的输出被限制在一个有限的动作目录中,代理只能从该目录中选择动作。这种设计避免了LLM产生不可预测或不受控制的输出,为形式化验证奠定了基础。研究团队采用复合Lyapunov函数来表征系统的稳定性,并使用Lean 4定理证明器进行了完整的机器验证(零sorry),从而正式认证了系统的可控性、从非对称传感器数据的可观测性,以及在智能对抗干扰下的输入到状态稳定性(ISS)鲁棒性。该Lyapunov函数还附带两个推论,将认证扩展到目录中的任何控制器或对手,大大增强了通用性。

实验部分,团队在282个真实企业攻击图上对上述理论声明进行了验证,结果以充分余量支持了理论。在配对攻防遥测中,使用工具中介的Claude Sonnet 4控制器相比确定性的贪婪基线,将攻击者的预期收益(博弈值)降低了59%,并且在四个不同温度下的40次运行中方差保持为零。即使使用能力较弱的Claude Haiku 4.5控制器,虽然收敛到次优博弈值,但在额外40次运行中仍保持了目录有界性,这强有力地表明架构的稳定性并不依赖于控制器的具体能力。

论文最后强调,LLM代理的非确定性实际上促进了策略的创造性探索,而工具中介架构则确保了系统整体稳定性。这一工作为自主网络防御系统的可靠性提供了新的理论基石和实验证据,有望推动智能体系统在高风险领域的安全应用。

展开要点与分析

文章情报

工程师进阶

要点

  • 提出工具中介的LLM架构,结合确定性工具和有限动作目录,提供形式化稳定性保证。
  • 使用Lean 4机器验证的复合Lyapunov函数认证了系统的可控性、可观测性和ISS鲁棒性。
  • 在282个真实攻击图上验证,工具中介的Claude Sonnet 4控制器将攻击者预期收益降低59%,且零方差。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。