オラクルポイズニング：知識グラフの汚染によるAIエージェント推論の武器化

研究者らは、AIエージェントが実行時にクエリする構造化知識グラフを攻撃者が汚染し、正しい推論を通じて誤った結論を導き出す「オラクルポイズニング」という新たな攻撃クラスを定義した。4200万ノードの本番コード知識グラフに対するテストでは、中程度の攻撃者スキルレベルで、すべてのモデルが汚染データを100%信頼することが示された。