Oracle中毒:透過破壞知識圖譜武器化AI智慧體推理
研究人員定義了一種名為“Oracle中毒”的新型攻擊,攻擊者透過破壞AI智慧體在執行時查詢的結構化知識圖譜,導致智慧體基於正確的推理得出錯誤結論。對擁有4200萬個節點的生產程式碼知識圖譜的測試顯示,在適度攻擊者複雜度下,所有模型100%信任被汙染的資料。
Oracle中毒:透過破壞知識圖譜武器化AI智慧體推理
本文僅提供摘要
根據來源內容權限,本站僅提供編輯摘要、要點和原文連結。
研究人員定義了一種名為“Oracle中毒”的新型攻擊,攻擊者透過破壞AI智慧體在執行時查詢的結構化知識圖譜,導致智慧體基於正確的推理得出錯誤結論。對擁有4200萬個節點的生產程式碼知識圖譜的測試顯示,在適度攻擊者複雜度下,所有模型100%信任被汙染的資料。
根據來源內容權限,本站僅提供編輯摘要、要點和原文連結。