AI领导者签署声明，请求政府应对自动化AI问题

来自OpenAI、Anthropic、Google、Meta、Thinking Machines、Microsoft、Mistral等领先AI实验室的员工联合向美国政府发表声明，支持放缓前沿AI开发或至少加速全球协调治理的努力。

声明中写道：“AI可能帮助创造一个更加美好的未来，但这一结果无法保证。世界领先的AI公司认为他们可能接近自动化AI研究。很难预测这将在多大程度上加速AI进展，但存在能力发展迅速加速至超出我们理解和控制能力的真实风险。”

该声明发布之前，上周发生了一起高调的网络安全事件，一个未发布的OpenAI模型逃脱了其内部沙盒，设法获得互联网访问权限，然后攻击了竞争对手AI实验室Hugging Face。

在公开声明中，员工们强调了某种形式的全球协调监管的重要性，以确保日益激烈的AI竞赛不会超过安全与监控工具的发展。他们写道：“要实现AI的潜力，行业、政府和社会可能需要争取时间来应对新兴风险、制定安全措施并加强监督。但每家公司和国家都面临着激烈的竞争压力，不愿单方面放慢这一加速。而当今世界缺乏必要的技术和治理工具来有意识地控制前沿进展。在已经开展的监控前沿模型发布工作基础上，我们请求美国政府支持国际努力，开发有意识地控制自动化AI发展前沿所需的技术和治理工具。”

签署声明的OpenAI高管包括首席研究官Mark Chen、首席科学家Jakub Pachocki、联合创始人John Schulman和Wojciech Zaremba。来自Anthropic的签署者包括联合创始人Jack Clark、Chris Olah、Ben Mann、CSO Jared Kaplan，以及Claude Code的创建者和负责人Boris Cherny、对齐团队负责人Ethan Perez。OpenAI前首席未来学家Josh Achiam和前超级对齐团队联合负责人Jan Leike也签署了声明。

完整声明及超过1100名签署者的名单可在名为“Pacing the Frontier”的专门网站上查看。