企業AI的資料優先安全策略

企業AI的承諾與現實之間存在一個關鍵鴻溝：模型和代理訪問敏感資料的速度遠超組織監控、治理或解釋這種訪問的能力。這一差距使領導者難以證明合規性、控制風險敞口，也無法解釋AI如何使用資料。斯坦福HAI報告顯示，88%的組織現已在業務中使用AI，而2025年有記錄的AI事件從2024年的233起激增至362起。美國政府問責局指出，金融服務中AI的應用引入了資料質量、隱私和網路安全風險，監管機構正在積極審查。

雲安全聯盟的報告進一步揭示了結構性問題：僅35%的組織能完全掌握非結構化資料的儲存位置，只有9%具備即時掃描能力，23%完全無法掃描非結構化資料風險。這些限制約束了任何AI系統的表現。

Emerj的Yolandi de Weerdt主持了一場對話，邀請了Securiti的產品營銷總監Chris Joynt、谷歌雲AI專家James Dean、Securiti區域銷售副總裁Mark Crean、花旗資料分析副總裁Oscar Rodriguez博士以及Veeam Securiti AI銷售工程團隊副總裁Todd Vancil。本文提煉出四個核心洞察，定義了金融服務中安全可擴充套件AI所需的資料、治理和安全要求。

即時敏感資料流對映與預攝取控制

Chris Joynt指出，許多企業的資料資產中非結構化內容已超出傳統治理實踐的檢查範圍。客戶執行著超過20萬個資料系統，產生數十億檔案，每天生成PB級日誌。在這種規模下，即使確定檔案中存在哪些敏感資訊也成為結構性挑戰——而這個挑戰出現在任何模型構建或評估之前。

Joynt的核心觀點是，一旦非結構化資料被攝取、轉換或向量化，組織就會失去對其使用情況的可見性。原始形式被掩蓋，衍生副本氾濫，治理團隊無法可靠地追溯敏感資訊進入AI系統的途徑。預攝取可見性成為了唯一可以施加控制的地方。

“非結構化資料一夜間變成了黃金。機構產生大量資料，僅日誌每天就可能達到PB級。你不能直接把這些資料交給AI並期望模型自己搞清楚。你需要知道檔案裡有什麼，它們的敏感程度如何，以及它們流向何處。一旦資料進入模型，你就失去了控制。對資料流的可見性是第一道安全防線。”

——Chris Joynt，Securiti產品營銷總監

他為企業高管提供了清晰的預攝取框架：對映敏感資料流、分類和標記非結構化內容、定義AI訪問邊界、監控轉換和衍生路徑、檢測影子AI。

Joynt的結論是結構性的：預攝取可見性是AI治理的基礎。一旦敏感資料進入模型，其轉換和衍生路徑變得難以追蹤，控制將變得被動而非預防。在上游對映流、分類內容和定義邊界，為領導者提供了安全規模化治理AI所需的事實基線。

統一治理：讓AI資料就緒

Mark Crean和James Dean都指出，當安全、資料、業務團隊對AI就緒資料持有不同定義時，金融服務中的AI規模化就會陷入停滯。這種碎片化導致試點專案困在創新實驗室，而高價值用例難以進入生產。生產力工具和編碼助手進展迅速，但企業級AI並非如此——因為治理未能統一。

James Dean強調了操作層面的差距：概念驗證後部署失敗，是因為機構無法保護PB級敏感資料或協調孤立的資料集。據他估計，半數銀行的資料仍鎖在隔離系統中，阻礙了模型和代理訪問合規授權的資訊。Crean補充說，即使AI在內部擴散，組織也缺乏對訪問許可權、上下文和回滾的共享護欄，使團隊不知如何安全地採用AI。

“利益相關者對齊始終是第一步。隨著模型和代理激增，你設定了哪些護欄和控制措施來確保使用者能夠安全使用這些工具？哪些資料安全實踐能保證資料完整性值得信賴？”

——Mark Crean，Securiti區域銷售副總裁

“首先要讓CISO、資料科學家和業務領導者對齊AI就緒資料的定義。然後，將治理對映到每個階段，並在訓練或雲遷移前自動進行資料分類。”

——James Dean，谷歌雲AI專家

他們提出了統一治理機制的關鍵要素：跨職能定義AI就緒資料、在訓練前自動化分類、將訪問控制嵌入模型操作、為代理採用建立護欄、將治理與合規準備相結合。這樣，模型和代理只能操作合規授權的資訊，使金融機構能夠超越孤立試點，進入企業級AI部署，同時不損害安全性、合規性或資料完整性。

開發前問責框架

Oscar Rodriguez博士指出，AI專案在應該規模化的時候經常崩潰。原因很簡單：團隊在決定誰承擔結果之前就開始構建。當問責制未定義時，治理就成了混亂，而這種混亂只會在模型已經存在後才開始，此時已無法塑造其假設、資料或風險狀況。

Rodriguez觀察到，業務部門爭先恐後地實驗，資料團隊使用互不關聯的資料來源，安全和合規團隊事後才參與，領導層關注未來風險而團隊關注證明價值。結果不是技術失敗，而是組織錯位。模型在早期測試中展現潛力，然後因無人事先同意標準、所有權或治理而停滯。

開發前問責框架可以防止這種情況。其核心是明確角色：誰定義成功、誰批准資料、誰監控風險、誰對結果負責？這些問題的答案必須在編碼開始前確立。框架包括：設定AI決策的明確所有者、定義資料權和訪問許可權、建立風險和合規審批流程、以及建立持續監控和審計機制。當問責制先於開發，治理成為基礎而非事後補救，AI專案才能可靠地規模化。

資料級安全控制

Todd Vancil強調，資料級安全控制是AI安全的基礎。傳統邊界安全不足以應對AI系統直接訪問內部資料的場景。必須在源頭限制和淨化敏感資料，確保AI系統只能訪問授權資訊，並在發生洩露時即時遏制。具體措施包括：基於屬性的訪問控制、對檢索結果的即時過濾、以及結合加密和令牌化技術。

Vancil指出，隨著AI代理自主執行任務，每個代理都必須擁有最小必要許可權，且所有資料訪問行為必須可審計、可撤銷。資料級控制使組織能夠在問題擴散前切斷惡意或錯誤的資料流，而不是在事後清理。

總之，企業AI的安全不能依賴於單一技術或團隊。它需要從預攝取可見性到統一治理，從開發前問責到資料級控制的全棧方法。只有當這些安全策略以資料為中心時，AI的承諾才能以可信、合規且可擴充套件的方式實現。