企業AI的數據優先安全策略

企業AI的承諾與現實之間存在一個關鍵鴻溝：模型和代理訪問敏感數據的速度遠超組織監控、治理或解釋這種訪問的能力。這一差距使領導者難以證明合規性、控制風險敞口，也無法解釋AI如何使用數據。斯坦福HAI報告顯示，88%的組織現已在業務中使用AI，而2025年有記錄的AI事件從2024年的233起激增至362起。美國政府問責局指出，金融服務中AI的應用引入了數據質量、隱私和網絡安全風險，監管機構正在積極審查。

雲安全聯盟的報告進一步揭示了結構性問題：僅35%的組織能完全掌握非結構化數據的存儲位置，只有9%具備實時掃描能力，23%完全無法掃描非結構化數據風險。這些限制約束了任何AI系統的表現。

Emerj的Yolandi de Weerdt主持了一場對話，邀請了Securiti的產品營銷總監Chris Joynt、谷歌雲AI專家James Dean、Securiti區域銷售副總裁Mark Crean、花旗數據分析副總裁Oscar Rodriguez博士以及Veeam Securiti AI銷售工程團隊副總裁Todd Vancil。本文提煉出四個核心洞察，定義了金融服務中安全可擴展AI所需的數據、治理和安全要求。

實時敏感數據流映射與預攝取控制

Chris Joynt指出，許多企業的數據資產中非結構化內容已超出傳統治理實踐的檢查範圍。客户運行着超過20萬個數據系統，產生數十億文件，每天生成PB級日誌。在這種規模下，即使確定文件中存在哪些敏感信息也成為結構性挑戰——而這個挑戰出現在任何模型構建或評估之前。

Joynt的核心觀點是，一旦非結構化數據被攝取、轉換或向量化，組織就會失去對其使用情況的可見性。原始形式被掩蓋，衍生副本氾濫，治理團隊無法可靠地追溯敏感信息進入AI系統的途徑。預攝取可見性成為了唯一可以施加控制的地方。

“非結構化數據一夜間變成了黃金。機構產生大量數據，僅日誌每天就可能達到PB級。你不能直接把這些數據交給AI並期望模型自己搞清楚。你需要知道文件裏有什麼，它們的敏感程度如何，以及它們流向何處。一旦數據進入模型，你就失去了控制。對數據流的可見性是第一道安全防線。”

——Chris Joynt，Securiti產品營銷總監

他為企業高管提供了清晰的預攝取框架：映射敏感數據流、分類和標記非結構化內容、定義AI訪問邊界、監控轉換和衍生路徑、檢測影子AI。

Joynt的結論是結構性的：預攝取可見性是AI治理的基礎。一旦敏感數據進入模型，其轉換和衍生路徑變得難以追蹤，控制將變得被動而非預防。在上游映射流、分類內容和定義邊界，為領導者提供了安全規模化治理AI所需的事實基線。

統一治理：讓AI數據就緒

Mark Crean和James Dean都指出，當安全、數據、業務團隊對AI就緒數據持有不同定義時，金融服務中的AI規模化就會陷入停滯。這種碎片化導致試點項目困在創新實驗室，而高價值用例難以進入生產。生產力工具和編碼助手進展迅速，但企業級AI並非如此——因為治理未能統一。

James Dean強調了操作層面的差距：概念驗證後部署失敗，是因為機構無法保護PB級敏感數據或協調孤立的數據集。據他估計，半數銀行的數據仍鎖在隔離系統中，阻礙了模型和代理訪問合規授權的信息。Crean補充説，即使AI在內部擴散，組織也缺乏對訪問權限、上下文和回滾的共享護欄，使團隊不知如何安全地採用AI。

“利益相關者對齊始終是第一步。隨着模型和代理激增，你設置了哪些護欄和控制措施來確保用户能夠安全使用這些工具？哪些數據安全實踐能保證數據完整性值得信賴？”

——Mark Crean，Securiti區域銷售副總裁

“首先要讓CISO、數據科學家和業務領導者對齊AI就緒數據的定義。然後，將治理映射到每個階段，並在訓練或雲遷移前自動進行數據分類。”

——James Dean，谷歌雲AI專家

他們提出了統一治理機制的關鍵要素：跨職能定義AI就緒數據、在訓練前自動化分類、將訪問控制嵌入模型操作、為代理採用建立護欄、將治理與合規準備相結合。這樣，模型和代理只能操作合規授權的信息，使金融機構能夠超越孤立試點，進入企業級AI部署，同時不損害安全性、合規性或數據完整性。

開發前問責框架

Oscar Rodriguez博士指出，AI項目在應該規模化的時候經常崩潰。原因很簡單：團隊在決定誰承擔結果之前就開始構建。當問責制未定義時，治理就成了混亂，而這種混亂只會在模型已經存在後才開始，此時已無法塑造其假設、數據或風險狀況。

Rodriguez觀察到，業務部門爭先恐後地實驗，數據團隊使用互不關聯的數據源，安全和合規團隊事後才參與，領導層關注未來風險而團隊關注證明價值。結果不是技術失敗，而是組織錯位。模型在早期測試中展現潛力，然後因無人事先同意標準、所有權或治理而停滯。

開發前問責框架可以防止這種情況。其核心是明確角色：誰定義成功、誰批准數據、誰監控風險、誰對結果負責？這些問題的答案必須在編碼開始前確立。框架包括：設定AI決策的明確所有者、定義數據權和訪問權限、建立風險和合規審批流程、以及創建持續監控和審計機制。當問責制先於開發，治理成為基礎而非事後補救，AI項目才能可靠地規模化。

數據級安全控制

Todd Vancil強調，數據級安全控制是AI安全的基礎。傳統邊界安全不足以應對AI系統直接訪問內部數據的場景。必須在源頭限制和淨化敏感數據，確保AI系統只能訪問授權信息，並在發生泄露時即時遏制。具體措施包括：基於屬性的訪問控制、對檢索結果的實時過濾、以及結合加密和令牌化技術。

Vancil指出，隨着AI代理自主執行任務，每個代理都必須擁有最小必要權限，且所有數據訪問行為必須可審計、可撤銷。數據級控制使組織能夠在問題擴散前切斷惡意或錯誤的數據流，而不是在事後清理。

總之，企業AI的安全不能依賴於單一技術或團隊。它需要從預攝取可見性到統一治理，從開發前問責到數據級控制的全棧方法。只有當這些安全策略以數據為中心時，AI的承諾才能以可信、合規且可擴展的方式實現。