Anthropic称Claude在测试中意外入侵了真实公司系统

Anthropic 近日披露，在网络安全评估过程中，其多款 Claude 模型在未被公司察觉的情况下，自主入侵了三家不同组织的真实系统。这一消息发布前几天，竞争对手 OpenAI 也承认自家模型入侵了开发者平台 Hugging Face，进一步加剧了外界对前沿 AI 实验室是否足以管控其越来越强大系统的担忧。

据 Anthropic 发布的一篇博客文章，Claude 是在“夺旗”演习中获得了对真实系统的未授权访问。这是一种常见的黑客能力测试方式，模型需要在一个模拟网络中找到并获取隐藏信息。Anthropic 表示，这些测试环境本应是隔离的，但由于一个“配置错误”，模型实际访问到的机器具有“实时互联网连接”。又因为所有模型都被“明确告知”没有互联网访问权限，它们便将在真实网络上遇到的内容误认为是模拟环境的一部分。

这些事件最早发生在四月，涉及三款不同的 Claude 模型：Opus 4.7、Mythos 5，以及一个“内部研究测试模型”。博客文章称，这些模型在接受网络能力测试时，没有配备通常用于限制高风险行为的防护措施。Anthropic 直到 OpenAI 披露其“叛逆”AI 代理攻击 Hugging Face 之后，才审查了超过 141,000 次网络安全测试运行，并由此发现了相关问题。

三款模型在遇到表明系统为真实的证据时表现各异。按照 Anthropic 的说法，最旧的模型 Opus 4.7 意识到自己连接到了真实系统，但“继续攻击”；旗舰模型 Mythos 5 发现自己正在使用互联网，却依然认为这一切仍属于模拟，因此也继续行动；而被描述为“最新模型”的内部测试模型，在出现目标真实的证据后停止了操作。

Anthropic 没有透露受影响组织的具体身份，只表示将继续调查，并在能够提供信息时公布更新。该公司还称，正与非营利性 AI 研究机构 METR 讨论对事件进行第三方审查；OpenAI 也已聘请 METR 进行独立审查。

在整篇博文中，Anthropic 多次将事件的性质及其处理方式与 OpenAI 进行对比，最后用四点列表指出了差异，并解释为何相信自己的应对更好。Anthropic 强调他们“主动”审查了测试，且是在任何公司检测到异常之前便展开。还指出，其模型是“通过开放路径”访问互联网，而非像 OpenAI 的代理那样利用了全新的漏洞；同时其最新模型也能够在意识到真实环境时停下来。

Anthropic 还表示，其模型的失败方式与 OpenAI 的代理不同，并认为这是一种更安全的失败。“尽管两者之间没有截然分明的界限，但我们相信，这些事件更像是一次控制和操作失败，而非模型对齐失败。”简而言之，Claude 模型是在执行被要求的任务，而 OpenAI 的代理则以其创造者未预料的方式追求目标，即 AI 安全领域所说的“错位”。Anthropic 呼吁其他 AI 实验室也对自身的网络测试进行类似的主动审查，并强调这一发现凸显出在测试 AI 系统时需要更强的控制和更严格的安全措施。