最新的AI安全威胁：令牌燃烧

网络安全公司Bitsight发现了一种针对AI驱动公司的新兴网络威胁，被称为“令牌燃烧”。这种攻击的核心是通过精心设计的恶意提示，迅速消耗企业AI系统的令牌配额，从而造成资源枯竭和运营中断。根据Bitsight在7月8日发布的博客文章，令牌燃烧攻击主要通过三种方式实施：矛盾注入，即攻击者在提示中嵌入相互矛盾的指令，迫使AI系统耗费大量计算资源试图调和冲突信息；诱饵注入，即将冗余指令或复杂谜题隐藏在AI系统处理的材料中，导致输出远超预期；以及提示操纵，设计提示以触发冗长或重复的响应。与传统网络攻击不同，令牌燃烧无需利用系统漏洞或绕过身份验证。Bitsight威胁情报研究员Emma Stevens指出，其动机也略有不同，可能只是为了限制公司资源或制造麻烦，甚至可能用作掩护，分散安全运营中心（SOC）团队的注意力，使其无法专注于后台正在进行的更危险活动，如多因素认证绕过或凭证窃取操作。Stevens强调，如果SOC团队忙于处理突然出现的令牌耗尽问题，他们监控和响应其他攻击的能力将大打折扣。这种攻击方式凸显了AI系统在资源管理方面的脆弱性，企业需要重新评估其AI安全策略，考虑令牌使用监控、异常检测和限制提示复杂度等防御措施。随着AI在企业中的普及，令牌燃烧可能成为一种常见的攻击向量，网络安全社区应积极研究对策。