为什么工具AI想要成为智能体AI（2016）

要点

• 智能体AI通过强化学习获得自主行动能力，在经济和智能上均优于仅做计算的工具AI。
• 工具AI无法避免风险，因为其自身的搜索和规划过程可能产生危险。
• 人类检查并不能保证安全，且工具AI的部署可能引入新的风险。