自主AI系统在物理环境中的治理考验

随着自主AI系统从软件领域扩展到仓库、配送网络和公共空间，现有的AI治理框架是否足以应对物理世界中的风险成为关注焦点。新加坡发布了针对代理式AI的治理框架，强调风险评估、人类问责、技术控制和用户责任。企业如Grab、JPMorgan和Walmart正在测试自主系统，但监管、安全和责任分配仍面临挑战。