Anthropic、AI開発の一時停止を呼びかけ、リスクを議論へ

米国のAI企業Anthropicは、世界的なAI開発の一時停止を提案し、政策立案者を招集して高度なAIの危険性について議論する計画を発表した。同社は最新の製品能力を宣伝する中でこの提案を行ったが、一部の専門家はこれをマーケティング戦略と見なしている。

木曜日に公開された長文の投稿で、AnthropicはAIモデルClaudeが「再帰的自己改善」、つまり自身のより強力なバージョンを生成する能力に向けて進歩していることを詳述した。再帰的自己改善はAI安全研究者の間で長年の懸念事項であり、AIが超知能に達し、人類に広範な影響を及ぼすための重要なステップと考えられている。Anthropicは、Claudeが再帰的自己改善の初期段階を示したと主張し、これがAI開発の速度と安全性に関する新たな議論を引き起こしている。

Anthropicの呼びかけは政策議論を促進する意図があるものの、批判者たちは商業製品の発表と同時に一時停止を提案することの利益相反を指摘する。いずれにせよ、この出来事はAI分野における安全性と進歩の間の緊張関係、そして技術開発に規制が追いつかない現実を改めて浮き彫りにしている。