Anthropic称Claude现在编写了80%以上的代码，并主张全球AI暂停按钮
Anthropic公布内部数据，显示Claude已生成超过80%的生产代码，工程师每日代码提交量是2024年的八倍。公司目标是实现自我改进的AI，可能引发开发速度急剧加速，因此推动可验证的全球开发暂停选项，并承诺若其他前沿实验室同样暂停也会停止。
Anthropic近日公开了其内部数据，揭示了Claude在加速自身AI开发方面的惊人成效。数据显示，目前公司超过80%的生产代码由Claude生成，工程师每天提交的代码量相比2024年增长了整整八倍。这一成就标志着Anthropic在利用AI辅助开发上迈出了重要一步——他们正在实现一种自我强化的循环：AI帮助构建更好的AI。然而，公司也意识到这种加速可能带来巨大风险。一旦AI能够自主改进自身能力，开发速度可能呈指数级增长，使得人类难以跟上并控制。为此，Anthropic正积极推动建立一种可验证的全球开发暂停机制。公司明确表示，如果其他前沿AI实验室也能以可核查的方式承诺并实施同样的暂停，他们愿意停止开发。这一倡议旨在为整个领域争取评估和防范潜在风险的时间。Anthropic强调，安全必须优先于速度，而全球协调是确保AI发展稳健的关键。