语音AI系统易受隐藏音频攻击

要点

• AudioHijack利用人耳无法察觉的音频修改操控AI语音模型，平均成功率为79%-96%。
• 攻击可作用于开放模型及微软、Mistral等商业模型，且能跨场景复用。
• 研究人员演示了六种攻击类型，包括拒绝服务、虚假信息注入和工具滥用。
• 常见防御措施（如提示过滤）效果有限；注意力监控虽有效但可被绕过。