AI安全與治理的一年如何改變了我對AI的看法
在AI安全與治理領域工作一年後，作者發現自己在使用AI時更加關注資料洩露風險，傾向於本地部署或自託管工具，並對基準測試和崗位替代說法持懷疑態度。
過去一年，我在AI安全與治理領域的工作徹底改變了我看待AI的方式。最初，我以為AI安全主要涉及越獄攻擊、提示注入等明顯的安全威脅，但實際工作中發現，真正的挑戰往往始於發現AI在組織內的使用位置。很多員工透過個人賬戶、瀏覽器擴充套件或SaaS工具中嵌入的AI功能使用AI，而公司對此毫不知情。在制定安全策略之前，我們必須先摸清AI的“家底”。
日常的AI使用場景看似無害——用ChatGPT總結營銷資料、將客戶筆記貼上到聊天工具中寫出更乾淨的跟進郵件、上傳CSV快速生成報告。這些行為由生產力驅動，但可能導致敏感資料流入外部系統。GTM團隊通常是AI的快速採用者，因為他們面臨巨大的效率壓力。然而，這種便利性背後隱藏著合規風險，因為AI工具的許可權圖往往復雜且難以追蹤。
當我開始自己構建AI輔助工作流時，理解進一步加深。一個AI工具連線Slack、郵件、CRM、文件等系統後，問題不再是“模型好不好”，而是“它能讀取什麼、寫入什麼、資料流向哪裡、是否被儲存、供應商能否用我的資料訓練”。很多AI風險並非機器作惡，而是許可權、上下文和判斷已經混亂的系統中，工具產生了意外的副作用。
完成資料科學和機器學習碩士學業也改變了我對AI炒作的態度。基準測試很難代表實際工作流中的表現，真實世界的資料雜亂、使用者迷茫、上下文不完整。我現在更容易質疑“AI將取代所有工作”這類簡單化的說法，因為實際工作涉及判斷、責任和系統複雜性。
總體而言，我並沒有變得反AI，而是更關注控制權。我傾向於使用本地或自託管工具，儘管不是永遠可行，但這種預設設定改變了我對資料流向的思考。AI的便利性讓人容易忽視風險，但一旦你開始思考許可權、儲存和問責，你會發現這些“無聊”的問題才是真正重要的。