Anthropic共同創業者、再帰的AI改善が人間の監督を超える可能性を描く

Anthropicの共同創業者Jack Clarkは長文のエッセイで、AIシステムが自らの後継を訓練するための基盤がほぼ整っていると主張し、2028年末までに60%の確率で実現すると予測。ベンチマークの進展を示す一方、再帰的自己改善におけるアライメントリスクの急激な蓄積を警告。経済的には「機械経済」の出現を見込み、一方でAI研究者Herbie Bradleyは高次の研究スキルは依然として人間に依存すると反論している。