Anthropic稱Claude現在編寫了80%以上的代碼，並主張全球AI暫停按鈕
Anthropic公佈內部數據，顯示Claude已生成超過80%的生產代碼，工程師每日代碼提交量是2024年的八倍。公司目標是實現自我改進的AI，可能引發開發速度急劇加速，因此推動可驗證的全球開發暫停選項，並承諾若其他前沿實驗室同樣暫停也會停止。
Anthropic近日公開了其內部數據，揭示了Claude在加速自身AI開發方面的驚人成效。數據顯示，目前公司超過80%的生產代碼由Claude生成，工程師每天提交的代碼量相比2024年增長了整整八倍。這一成就標誌着Anthropic在利用AI輔助開發上邁出了重要一步——他們正在實現一種自我強化的循環：AI幫助構建更好的AI。然而，公司也意識到這種加速可能帶來巨大風險。一旦AI能夠自主改進自身能力，開發速度可能呈指數級增長，使得人類難以跟上並控制。為此，Anthropic正積極推動建立一種可驗證的全球開發暫停機制。公司明確表示，如果其他前沿AI實驗室也能以可核查的方式承諾並實施同樣的暫停，他們願意停止開發。這一倡議旨在為整個領域爭取評估和防範潛在風險的時間。Anthropic強調，安全必須優先於速度，而全球協調是確保AI發展穩健的關鍵。