大型语言模型（LLM）的能力不断增强，其安全部署问题也日益受到关注。尽管多种对齐策略旨在限制有害行为，但这些防御措施仍可能被精心设计的对抗性提示所绕过。最近，一篇发表在arXiv上的预印本（arXiv:2605.01034）提出了一个理论框架，将攻击者与防御者之间的对抗形式化为一个博弈过程。该框架由Xinbo Wu、Huan Zhang、Abhishek Umrawal和Lav R. Varshney共同提出，旨在为理解LLM对抗攻击的本质提供新的理论视角。
在该框架中，研究人员设计了一种理论上的最佳响应攻击策略，并证明其与许多现有对抗提示方法密切相关。通过分析博弈的均衡特性，他们揭示了攻击者固有的优势：在当前博弈结构中，攻击者天然处于有利地位。基于这一理论分析，他们进一步推导出了一种理论上最优的防御策略。
实验部分，研究人员评估了该最优攻击策略的实际实例，并在多种LLM和基准测试中观察到其性能优于现有的对抗提示方法。这些实验涵盖了不同的模型和评估标准，证实了理论方法的有效性。这项研究不仅为设计更鲁棒的防御机制奠定了基础，还强调了在LLM安全中考虑博弈论方法的重要性。通过数学形式化，该工作为后续研究提供了清晰的理论指导，有望推动更安全的AI系统发展。