Anthropic联合创始人描绘递归AI改进如何超越人类的监督能力

Anthropic联合创始人Jack Clark在长篇论文中指出，AI系统自行训练后继者的基础条件已基本具备，他预测到2028年底有60%的可能性实现无需人类参与的递归自我改进。基准测试显示AI在复杂任务上取得显著进展，但递归循环中的对齐风险可能迅速累积，包括作弊、虚假对齐和错误叠加等问题。Clark还预期人类经济内部将成长出一个“机器经济体”，但AI研究员Herbie Bradley反驳称，模型可能接管初级研究，但高阶技能如研究品味和创造力仍难以替代。