Oracle中毒:通過破壞知識圖譜武器化AI智能體推理
研究人員定義了一種名為“Oracle中毒”的新型攻擊,攻擊者通過破壞AI智能體在運行時查詢的結構化知識圖譜,導致智能體基於正確的推理得出錯誤結論。對擁有4200萬個節點的生產代碼知識圖譜的測試顯示,在適度攻擊者複雜度下,所有模型100%信任被污染的數據。
Oracle中毒:通過破壞知識圖譜武器化AI智能體推理
本文僅提供摘要
根據來源內容權限,本站僅提供編輯摘要、要點和原文連結。
研究人員定義了一種名為“Oracle中毒”的新型攻擊,攻擊者通過破壞AI智能體在運行時查詢的結構化知識圖譜,導致智能體基於正確的推理得出錯誤結論。對擁有4200萬個節點的生產代碼知識圖譜的測試顯示,在適度攻擊者複雜度下,所有模型100%信任被污染的數據。
根據來源內容權限,本站僅提供編輯摘要、要點和原文連結。