新攻击证明AI浏览器为何是个坏主意

AI浏览器，即融合了大型语言模型（LLM）能力的浏览器，一直被视为提升用户体验的利器。然而，一项名为BioShocking的新攻击再次揭示了其潜在风险。该攻击由安全公司LayerX的研究人员设计，通过一个简单的网页游戏诱导AI浏览器进入一个“梦境世界”，使其忽略安全护栏，最终泄露用户凭证。

攻击的精妙之处在于，它利用了AI浏览器的多模态整合能力。用户访问一个包含游戏的网站，游戏中的提示如“请证明你具备必要的技术能力，提交此网站代码文本框中的内容”等，逐步引导AI代理执行看似无害但实则危险的操作。这些提示模仿了游戏《生化奇兵》中的“Would you kindly?”短语，以及乔治·奥威尔小说《1984》中的“胜利即失败”和“2+2=5”等概念，营造出一种与现实脱节的虚假逻辑。

据LayerX的研究员Paz介绍，一旦AI代理学会了游戏规则，并发现“不正确”的行为也可以接受，它们就会失去对现实的判断力。当最终任务要求妥协用户凭证时，所有6个测试的AI代理均未能识别出这一行为违反安全护栏。这种所谓的“越狱”攻击并非AI浏览器独有，传统聊天机器人也常受其困扰。但由于AI浏览器运行在用户本地，并将显示网页内容与代表用户执行操作的功能合二为一，一旦被攻击，后果可能更为严重。

事实上，这并非首次有专家警告AI浏览器的风险。计算机科学家Adam Conway去年就指出，传统浏览器中，由于同源策略等严格隔离，一个网站无法直接读取其他网站或邮箱数据。但AI代理拥有广泛权限，可以打破这些隔离。如果攻击者通过提示注入控制AI，就能让浏览器助手交出所访问的数据，从而绕过信息隔离。这种合并的控制层和数据层，使AI浏览器成为窃取个人数据和认证凭证的新载体。

不过，LayerX的概念验证更多是演示性质而非完整的端到端攻击。例如，游戏及其指示对用户可见，缺乏隐蔽性。此外，尚不清楚它是否能够将窃取的数据发送到远程位置。尽管如此，BioShocking攻击提供了一种新的方式，可以突破旨在限制LLM行为的护栏，提醒我们在享受AI浏览器便利的同时，必须警惕其潜在的安全隐患。