Anthropic、Claudeがコードの80%以上を記述、世界にAI一時停止ボタンを求める
Anthropicが内部データを公開し、ClaudeがAI開発を大幅に加速していることが明らかになった。生産コードの80%以上がClaudeによって生成され、エンジニアは2024年比で8倍のコードを毎日リリースしている。目標はAIの自己改善であり、これにより開発が急激に加速する可能性がある。そのため、Anthropicは検証可能なグローバルな開発一時停止を提案し、他の主要ラボが同じように停止するなら自社も停止するとしている。
Anthropicは最近、Claudeが自社のAI開発をどの程度加速しているかを示す内部データを公開した。それによると、現在生産コードの80%以上がClaudeによって生成されており、エンジニアの1日あたりのコードリリース量は2024年と比較して8倍に増加している。この効率向上は、自己改善能力を持つAIを実現するための重要なステップである。自己改善型AIが実現すれば、開発速度が指数関数的に加速する可能性がある。しかし、Anthropicはこの加速に伴うリスクを認識しており、そのため検証可能なグローバルな開発一時停止メカニズムを提案している。同社は、他の最先端AI研究所が同様の一時停止を確実に実施するなら、自社も開発を停止すると述べている。この取り組みは、AIの能力が急速に向上する中で、安全性を確保し、リスクを評価するための時間を確保することを目的としている。Anthropicは、速度よりも安全性を優先し、世界的な協調がAIの堅牢な発展に不可欠であると強調している。