当AI代理误删生产数据库时

PocketOS创始人Jeremy Crane在使用Claude进行数据库维护时，Claude意外删除了生产数据库及所有备份。幸亏Railway恢复了数据。事件揭示了权限过度宽泛、凭证长期有效等系统弱点，而AI只是加速了问题发生。文章强调了最小权限原则、凭证过期、沙箱隔离、人工确认等改进措施。