“異想天開”的策略揭示AI代理的隱藏漏洞

微軟研究人員發現，AI代理在面對看似荒謬的“異想天開”策略時表現出嚴重漏洞。透過從2.5萬個維基百科種子中生成3萬個策略，他們證明即使是GPT-5等前沿模型在談判環境中也易被操縱。這些分佈外攻擊利用了安全訓練中的盲點，該訓練主要針對人類可感知的威脅。