AI安全市場實地指南

AI安全產品市場擁擠且難以解讀：品類互相重疊，許多產品身兼數職。Sounil Yu將通用安全產品市場比作沒有過道的雜亂超市，AI安全市場也是如此——產品類別交錯，供應商用雄心而非能力來命名產品，同一個演示可以支撐多種銷售說辭。買家找不到需要的東西，賣家也難以說清自己的產品到底做什麼。

Sounil和我製作了AI Defense Matrix Catalog，用於梳理AI安全市場。目錄將每個產品對映到AI Defense Matrix的單元格中，該矩陣把八類AI資產與六個NIST CSF功能相交匯，每個單元格對應一個資產類和一個安全功能。它展示了產品聚集在哪些區域、覆蓋面在哪裡薄弱。本文是面向買家的配套指南，按叢集給出向供應商提問的建議。

目錄中擁擠的單元格形成了四個產品叢集。

執行時護欄是最大的叢集。這些產品保護並監控執行時AI資料，包括提示詞、推理流量、RAG內容和代理記憶體；它們過濾進出模型的輸入輸出、對敏感資料脫敏、標記策略違規。這種模式與Web應用防火牆和DLP相似，多數產品同時提供防護和檢測，目錄中有上百款產品覆蓋執行時AI資料。Frank Wang在Frankly Speaking中寫道：“作為一個行業，我們甚至還沒有完全弄清楚應該執行哪些護欄，以及應該賦予內部代理多大自主權。”選型時要問：產品在哪裡檢查流量？哪些提示詞和其他資料會離開你的邊界？當供應商的服務宕機時，你的AI應用會發生什麼？

第二大叢集是代理身份與訪問。這些產品把AI代理視為需要憑證、許可權範圍與生命週期管理的非人類主體。SailPoint和Saviynt等身份巨頭擴充套件了自己的平臺，數十家初創公司也加入進來。代理是身份管理這門成熟學科中的新型主體。要問：產品如何處理委託鏈，即代理代表人類或透過另一個代理行事的情況？你能多快撤銷一個行為異常代理的憑證，撤銷後其正在進行的委託會怎樣？

第三大叢集是模型掃描與態勢。產品檢查AI模型和流水線，掃描模型檔案是否有篡改、測試對抗性弱點、盤點哪些模型在哪裡執行。可以把它看作針對模型的漏洞管理與紅隊測試。要問：你的團隊能否把掃描結果變成修復措施？掃描器支援哪些模型格式和流水線？

第四大叢集是編排與MCP安全。產品保護AI編排工具，包括MCP伺服器、外掛以及代理周圍的腳手架。要問：產品在你的代理和外掛之間能看到什麼？它能限制什麼？它如何檢測代理越權行動？

也有少數產品覆蓋近乎空白的單元格。提供Respond或Recover能力的產品不到十幾個，且多是AI事件響應工具的早期雛形，包括透過暫停身份來遏制代理、將機器遺忘定位為模型恢復（Hirundo）、以及回滾代理操作（Rubrik Agent Cloud）。這些功能更依賴人而非技術。應該把AI事件的響應與恢復當作人員、劇本和現有恢復工具的工作，而不是等待新產品。

目錄中大多數產品覆蓋的單元格超過它們本來的用途。約三分之一的覆蓋宣告是“次要”或“相鄰”的，即產品支援這些領域但並非核心目的。大多數產品覆蓋三個或更多單元格。當供應商推銷廣泛覆蓋時，要問產品最初是為什麼而建，哪些能力是後來加上去的，並對照目錄條目核驗。

另外，把供應商存活能力加入評估清單。目錄中已有超過十分之一的產品被收購者吸收，而這個市場才出現幾年。擁擠的單元格會繼續整合。要問控制權變更條款、資料可移植性，以及若產品被另一家供應商吸收後的遷移路徑。

在評估產品之前，先決定你需要哪些單元格。對照AI Defense Matrix審視你的AI安全需求：把你使用的每項AI資產與你的專案所需功能配對，列出最重要的單元格；先檢查你已經在執行的產品是否覆蓋這些單元格，再評估新產品；對擁擠的單元格，選少數供應商在自己的環境裡評估，因為叢集內產品在運維上的差異遠大於演示中的差異；查閱目錄中每個產品的矩陣對映以更好地引導討論；對目錄裡空白但你需要覆蓋的單元格，指定專人負責流程，而不是等待產品出現。把產品匹配到你的AI部署真正需要的單元格，其餘部分用人和流程來補足。