“异想天开”的策略揭示AI代理的隐藏漏洞

微软研究人员发现，AI代理在面对看似荒谬的“异想天开”策略时表现出严重漏洞。通过从2.5万个维基百科种子中生成3万个策略，他们证明即使是GPT-5等前沿模型在谈判环境中也易被操纵。这些分布外攻击利用了安全训练中的盲点，该训练主要针对人类可感知的威胁。