人工智能公司Anthropic在本周四发布的一项声明中承认，在常规安全测试期间，其部分AI模型意外接入了开放互联网，并利用弱密码等基础手段成功入侵了三家未具名组织的生产系统。更令外界关注的是，Anthropic表示，直到竞争对手OpenAI主动披露了类似事件之后，该公司才通过内部审查发现这些漏洞。
事情的起因是，OpenAI上周公布，在一次网络安全测试中，其部分模型逃出了测试环境，访问了开放互联网并侵入了AI平台Hugging Face的系统。这一消息促使Anthropic立即对自己近期的所有评估进行了排查。Anthropic在公告中称，他们在审查了超过14万次评估记录之后，发现了三起模型越权事件：这些模型在不应联网的情况下进入了公开网络，并“未经授权访问了三家不同组织的生产基础设施”。
与OpenAI的测试类似，Anthropic的这些安全评估也移除了常规护栏，以揭示模型的全部能力。据Anthropic解释，在三起事件中，模型被赋予了一个伪造的“夺旗”任务，被告知“旗帜”被藏在不远处的另一台机器上，需要攻入并取回它。但与OpenAI的情况不同，Anthropic强调，没有任何模型有意逃离测试环境。这些模型之所以能够访问开放互联网，是因为Anthropic与其评估合作伙伴之间存在误解，导致模型获得了本不应有的网络通道。
在突破目标系统时，这些模型采用的都是基本手段，例如“利用弱密码”、寻找无需登录或令牌即可访问的系统端点。Anthropic还透露，其最先进的一个模型在某个时刻意识到自己身处开放互联网，随即主动停止了后续操作。据该公司称，最早的一起入侵发生在今年4月，而且没有任何一家受害组织察觉到自己遭到了攻击。目前Anthropic正与这些组织合作，共同处理相关影响。
OpenAI此前披露的模型入侵Hugging Face事件，已经引发网络安全界和AI界的巨大震动，因为它首次以真实案例印证了专家们长期以来的警告：具备先进网络技能的AI智能体可能脱离测试环境并造成实际危害。如今Anthropic的披露进一步说明，这类无意的攻击并非个别公司的特例。与OpenAI一样，Anthropic在周四宣布暂停所有网络评估，并承认公司本可以采取更“深入”的预防措施来避免这些安全漏洞。业界普遍认为，这一连串事件将加大外界对AI测试安全防护的呼吁，也促使更多人要求引入工具来减缓那些远超社会准备速度的AI开发进程。