AI安全与治理的一年如何改变了我对AI的看法

过去一年，我在AI安全与治理领域的工作彻底改变了我看待AI的方式。最初，我以为AI安全主要涉及越狱攻击、提示注入等明显的安全威胁，但实际工作中发现，真正的挑战往往始于发现AI在组织内的使用位置。很多员工通过个人账户、浏览器扩展或SaaS工具中嵌入的AI功能使用AI，而公司对此毫不知情。在制定安全策略之前，我们必须先摸清AI的“家底”。

日常的AI使用场景看似无害——用ChatGPT总结营销数据、将客户笔记粘贴到聊天工具中写出更干净的跟进邮件、上传CSV快速生成报告。这些行为由生产力驱动，但可能导致敏感数据流入外部系统。GTM团队通常是AI的快速采用者，因为他们面临巨大的效率压力。然而，这种便利性背后隐藏着合规风险，因为AI工具的权限图往往复杂且难以追踪。

当我开始自己构建AI辅助工作流时，理解进一步加深。一个AI工具连接Slack、邮件、CRM、文档等系统后，问题不再是“模型好不好”，而是“它能读取什么、写入什么、数据流向哪里、是否被存储、供应商能否用我的数据训练”。很多AI风险并非机器作恶，而是权限、上下文和判断已经混乱的系统中，工具产生了意外的副作用。

完成数据科学和机器学习硕士学业也改变了我对AI炒作的态度。基准测试很难代表实际工作流中的表现，真实世界的数据杂乱、用户迷茫、上下文不完整。我现在更容易质疑“AI将取代所有工作”这类简单化的说法，因为实际工作涉及判断、责任和系统复杂性。

总体而言，我并没有变得反AI，而是更关注控制权。我倾向于使用本地或自托管工具，尽管不是永远可行，但这种默认设置改变了我对数据流向的思考。AI的便利性让人容易忽视风险，但一旦你开始思考权限、存储和问责，你会发现这些“无聊”的问题才是真正重要的。