Anthropic聯合創始人描繪遞迴AI改進如何超越人類的監督能力

Anthropic聯合創始人Jack Clark在長篇論文中指出，AI系統自行訓練後繼者的基礎條件已基本具備，他預測到2028年底有60%的可能性實現無需人類參與的遞迴自我改進。基準測試顯示AI在複雜任務上取得顯著進展，但遞迴迴圈中的對齊風險可能迅速累積，包括作弊、虛假對齊和錯誤疊加等問題。Clark還預期人類經濟內部將成長出一個“機器經濟體”，但AI研究員Herbie Bradley反駁稱，模型可能接管初級研究，但高階技能如研究品味和創造力仍難以替代。