當資料曝光導致AI部署緊急暫停——以及如何應對

AI的代理和生成式能力為企業專業人士開啟了資訊和洞察的大門，然而，這種趨勢可能過度了。最近的一次會議上，企業AI部署的資深人士向考慮全面投入AI的專業人士發出了警告。這些專業人士遇到的問題甚至導致旨在提高員工生產力的AI部署暫時停止，因為高管們重新評估了可能內部暴露的資訊。同時，在紐約市舉行的Veeam會議小組討論中，高管們強調AI並非挑戰的根源。兩家小組成員的組織都積累了海量資料，其中一家需要新的治理結構。

富達投資高階副總裁史蒂夫·麥金泰爾描述稱，他所在擁有40萬名員工的公司發現，長期隱藏在組織角落的資料——例如在SharePoint網站或網路附加儲存中——突然透過AI提示浮現出來。麥金泰爾說：“這不是AI問題，而是AI快速查詢東西的生產力和能力的問題。”安永（EY）企業技術首席架構師維姆·格爾登則描述了他們公司的挑戰：在全球獨立附屬公司網路中確定資料所有權，這些資料也透過其AI引擎浮現。格爾登說：“當大型企業搜尋啟動時，各種東西開始出現在人們訪問的地方。”他補充說，EY Global不擁有任何資料，每個成員公司擁有自己的資料，這引發了第一個問題。他們擁有數PB的資料，就像“狂野西部”，沒有生命週期管理，一半的站點沒有所有者。

在富達，資訊從大量的PowerPoint和PDF報告中浮現出來。麥金泰爾說：“我們有幾十年的研究筆記，例如PDF。我們發放了幾個Copilot許可證，兩天後法務就來說我們有了AI問題。一名團隊成員搜尋時，AI找回了多年前SharePoint上的所有PowerPoint。”麥金泰爾繼續指出，AI是一個“極快的搜尋引擎”，突然搜尋了所有它能訪問的內容，並以有意義的方式呈現出來。大家都以為這是AI問題，但實際上暴露的是資料安全問題。當意識到所有以前不關心的非結構化資料突然變成黃金時，問題就凸顯了。

建立防護欄：在安永，當龐大數據庫的大門向AI開啟時，優先任務是“找到資料的所有者”，格爾登說。第二步是關閉所有許可權，只有獲得許可的使用者才能訪問Copilot工具。資料所有權驗證過程包括識別和標記整個安永企業中發現的資料，例如“機密”或“金融服務”標籤。AI本身也幫助標記非結構化資料的知識庫，但由於每年25%的人員流動率，人工標記面臨挑戰。然而，標籤需要比簡單的高階標籤更深入。格爾登說，首先要知道AI執行時資料的存在，需要歷史影像和版本。其次，需要超越機密資訊的標籤，包括地理限制、地理標籤、業務線標籤，並與合同關聯，因為公司處理大量客戶資料，指定了可以使用和不能使用的內容。所有這些後設資料必須編入合同，然後編入技術結構，但這仍然非常繁瑣。

治理是AI實施成功的關鍵。麥金泰爾說，必須知道什麼正在被使用，這涉及影子AI和影子IT等問題，並追溯到終端資料。資產清單必須準確，並與註冊批准的用例對齊。接下來，要考慮代理執行的安全環境，以及如何與基礎模型互動，建立合適的架構以提供可見性和遙測，確保代理按預期行為。此外，最棘手的問題之一是建立代理身份。麥金泰爾說：“如何賦予代理身份？它們成為了員工。但如果我的代理只活幾秒鐘呢？這是一個非常有趣的問題，我不知道是否有人已經很好地解決了。”