跳到主要內容
AI News HubLIVE
更多
僅摘要

語音AI系統易受隱藏音訊攻擊

研究顯示,透過人耳無法察覺的音訊訊號可以劫持AI語音系統,成功率高達96%。這種名為AudioHijack的攻擊針對大型音訊語言模型(LALM),可引發多種惡意行為,包括資料竊取和未經授權的工具使用。

來源IEEE Spectrum AI作者: Edd Gent
語音AI系統易受隱藏音訊攻擊
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明

本文僅提供摘要

根據來源內容權限,本站僅提供編輯摘要、要點和原文連結。

展開要點與分析

文章情報

工程師進階

要點

  • AudioHijack利用人耳無法察覺的音訊修改操控AI語音模型,平均成功率為79%-96%。
  • 攻擊可作用於開放模型及微軟、Mistral等商業模型,且能跨場景複用。
  • 研究人員演示了六種攻擊型別,包括拒絕服務、虛假資訊注入和工具濫用。
  • 常見防禦措施(如提示過濾)效果有限;注意力監控雖有效但可被繞過。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。