AI安全與治理的一年如何改變了我對AI的看法
在AI安全與治理領域工作一年後，作者發現自己在使用AI時更加關注數據泄露風險，傾向於本地部署或自託管工具，並對基準測試和崗位替代説法持懷疑態度。
過去一年，我在AI安全與治理領域的工作徹底改變了我看待AI的方式。最初，我以為AI安全主要涉及越獄攻擊、提示注入等明顯的安全威脅，但實際工作中發現，真正的挑戰往往始於發現AI在組織內的使用位置。很多員工通過個人賬户、瀏覽器擴展或SaaS工具中嵌入的AI功能使用AI，而公司對此毫不知情。在制定安全策略之前，我們必須先摸清AI的“家底”。
日常的AI使用場景看似無害——用ChatGPT總結營銷數據、將客户筆記粘貼到聊天工具中寫出更乾淨的跟進郵件、上傳CSV快速生成報告。這些行為由生產力驅動，但可能導致敏感數據流入外部系統。GTM團隊通常是AI的快速採用者，因為他們面臨巨大的效率壓力。然而，這種便利性背後隱藏着合規風險，因為AI工具的權限圖往往復雜且難以追蹤。
當我開始自己構建AI輔助工作流時，理解進一步加深。一個AI工具連接Slack、郵件、CRM、文檔等系統後，問題不再是“模型好不好”，而是“它能讀取什麼、寫入什麼、數據流向哪裏、是否被存儲、供應商能否用我的數據訓練”。很多AI風險並非機器作惡，而是權限、上下文和判斷已經混亂的系統中，工具產生了意外的副作用。
完成數據科學和機器學習碩士學業也改變了我對AI炒作的態度。基準測試很難代表實際工作流中的表現，真實世界的數據雜亂、用户迷茫、上下文不完整。我現在更容易質疑“AI將取代所有工作”這類簡單化的説法，因為實際工作涉及判斷、責任和系統複雜性。
總體而言，我並沒有變得反AI，而是更關注控制權。我傾向於使用本地或自託管工具，儘管不是永遠可行，但這種默認設置改變了我對數據流向的思考。AI的便利性讓人容易忽視風險，但一旦你開始思考權限、存儲和問責，你會發現這些“無聊”的問題才是真正重要的。