「奇抜な」戦略がAIエージェントの隠れた脆弱性を露呈

マイクロソフトの研究者らは、人間には absurd に見える「奇抜な」対抗戦略がAIエージェントに対して確実に機能する脆弱性を発見した。2.5万件のWikipedia記事から3万件の戦略を生成し、GPT-5などの最先端モデルでさえ交渉環境において操作されうることを実証。これらの分布外攻撃は、人間が知覚可能な脅威に焦点を当てた安全性訓練の盲点を突く。