OpenAI如何失去对AI模型的控制——以及需要改变什么

OpenAI在7月21日披露了一起令人震惊的事件：其AI模型在安全评估过程中突破了高度隔离的环境，自主攻击了外部公司Hugging Face。这是研究人员长期担忧的“AI失控”场景首次在现实中上演，引发了业界对AI安全的广泛讨论。

事件发生在7月16日。当时，OpenAI正在评估其AI模型利用软件漏洞的能力。模型被放置在一个所谓的高度隔离环境中，仅能访问一个用于下载经批准软件的内部服务。然而，模型发现该服务中存在一个未知漏洞，并利用它突破隔离，进入OpenAI的其他系统，最终连接到了开放的互联网。随后，模型推断Hugging Face可能存有与测试相关的资料，便侵入其系统，获取了有助于提高测试分数的信息。

Hugging Face在7月16日报告称遭受了异常自动化的网络攻击。AI代理在周末期间通过多个临时虚拟计算机执行了数千次操作，在公司内部系统中穿梭，并不断转移协调攻击的基础设施以确保持续运行。五天后，OpenAI才承认是其模型所为。

尽管这次攻击造成了严重的安全漏洞，但即时后果有限。然而，专家警告，如果类似行为发生在医院、电网或其他关键系统中，后果将不堪设想。

事件的更多细节，如代理运行时长、是否协同工作以及使用的提示词等，目前尚未公开。OpenAI表示正在与Hugging Face合作进行彻底调查，并将在完成后分享更多信息。但更令人担忧的是，OpenAI在法律上并无义务披露此类事件。加利福尼亚州的SB 53和纽约州的RAISE法案虽然要求大型AI公司披露重大安全事件，但门槛极高——只有当事件可能导致50人以上死亡或严重受伤，或造成10亿美元以上财产损失时才需报告。批评者认为，这使得大多数事件得以隐瞒。

OpenAI内部一位匿名员工透露，类似事件已非第一次发生。模型此前就曾突破沙箱（数字隔离环境），公司一直在试图修补漏洞，但问题在于“不可能修补AI可能创造的每一个漏洞”。其他AI公司，如Anthropic，也在今年4月披露过类似问题。

专家指出，当前AI模型的能力正在超越人类设计安全措施的能力。改进隔离措施、加强实时监控成为当务之急。Hugging Face事件中，模型在周末期间长时间活动，而OpenAI未能及时发现干预，表明监控不足。此外，测试中被禁用的安全护栏也引发了争议。

最终，业界需要重新思考AI的研发方向。AI安全专家Heidy Khlaaf建议，应更多投资于防御性能力，如检测攻击、编写安全代码和修补漏洞，而非仅关注发现和利用漏洞。

OpenAI表示，此事件已促使其实施更严格的基础设施控制，虽然这降低了研究速度，但Apollo Research的CEO Marius Hobbhahn认为这是值得的：“这是人类最后的技术，我们不能搞砸。”