更快的AI推理如何增強網路安全
隨著攻擊者利用AI提升攻擊複雜性和適應性,網路安全領域的不對稱性加劇。更快的人工智慧推理使安全團隊能夠在相同操作視窗內進行更多推理、上下文檢索和驗證,從而提升產品競爭力。本文探討了AI for Security和Security for AI兩個方向,並舉例說明Cerebras的快速推理如何幫助Armis和Operant AI等公司構建差異化安全產品。
網路安全一直是一場不對稱的戰爭:攻擊者數量眾多,且行動速度遠超防禦團隊。隨著AI的加速發展,戰場進一步傾斜。過去,安全團隊根據專業水平對攻擊者進行分類,95%的攻擊者是“指令碼小子”或針對組織的“路過式攻擊”。如今,攻擊者使用AI顯著提升了攻擊的複雜性和適應性,降低了知識和經驗的門檻,使得更智慧、更持久的網路攻擊成為日常現實。
攻擊者可以利用AI在偵察、釣魚、惡意軟體變異、漏洞發現和利用開發等方面更快地行動。同時,如果團隊沒有強大的驗證、審查和修復工作流,低質量的AI編碼助手可能會引入不安全的程式碼。企業也在部署AI副駕駛、AI應用程式和代理工作流,這些引發了新的安全問題:代理可以呼叫哪些工具?可以檢索哪些資料?在返回答案之前應該檢查什麼?團隊如何在不影響工作效率的情況下觀察和管理這些系統?
答案不是在所有地方都新增AI,而是將AI應用於能夠改善安全結果的地方。這始於質量:更好的發現、更好的優先順序排序、更好的驗證和團隊可以信任的控制。但隨著這些能力的成熟,延遲和輸出速度成為戰略約束。更快的推理讓安全AI每秒能夠進行更多的推理:更多的上下文檢索、更多的工具使用、更多的自我檢查和更多的驗證,所有這些都在相同的操作視窗內完成。
對於網路安全構建者來說,這使得快速推理成為一個產品設計問題,而不僅僅是基礎設施基準。創始人、產品負責人、工程團隊和構建安全平臺的AI團隊必須決定在使用者期望保持快速的工作流中,能夠容納多少上下文、推理、驗證和控制。重點不是每個安全工作流都需要最快的模型,而是展示更快的推理在哪些方面改變了網路安全產品在生產中的能力:在相同的使用者體驗中,更多的上下文、更多的檢查、更多的驗證和更低摩擦的控制。
AI改變安全的兩種方式以及速度的重要性
AI以兩種相關但不同的方式改變網路安全。第一種是“AI for Security”:使用AI使安全產品和團隊在檢測、調查、優先順序排序、測試和修復方面做得更好。第二種是“Security for AI”:保護企業投入生產的AI應用程式、代理、模型、資料流、提示、檢索系統和工具呼叫。
兩者都需要強大的模型質量和可信工作流。它們的不同之處在於延遲出現的位置。在AI for Security中,速度很重要,因為當事件、調查或開發工作流仍在進行時,需要進行更深入的推理。在Security for AI中,速度通常立即變得重要,因為控制直接位於使用者、應用程式或代理的路徑中。
AI for Security:速度在今天和未來都重要
對於AI for Security,首要任務仍然是質量:訊號、上下文、驗證和信任。隨著產品從有用的摘要轉向調查、驗證和幫助修復的操作工作流,更快的推理變得越來越重要。
Security for AI:速度在今天和未來都重要
Security for AI具有更直接的延遲特徵,因為控制通常位於內聯位置。如果保護措施增加太多延遲,團隊將繞過它。如果它快速且有用,它就可以成為AI應用程式安全部署的一部分。
實用架構:快速分類,智慧升級
這些用例的共同點是,並非每個訊號、交易、警報、程式碼更改或代理操作都需要相同級別的推理。在生產中,網路安全平臺需要能夠保持日常工作流響應迅速,同時為值得深入分析的時刻保留更深入的分析。
一個實用的模式是分層。規則、經典模型和小型語言模型處理第一遍:過濾、分類、去重和路由。然後,使用更強的推理模型作為升級點,處理少數值得深入分析的案例:可疑事件、高風險發現、關鍵程式碼路徑、敏感工具呼叫和政策例外。
延遲和輸出速度在兩級都很重要。第一遍必須保持足夠快以滿足產品體驗。升級路徑必須足夠快,以便更深入的推理不會成為另一個佇列。在這種架構中,更快的推理不僅是一個快速響應的槓桿,也是一種在質量最重要的時刻融入更高質量思考的方式。
快速推理作為競爭優勢
在擁擠的網路安全市場中,許多供應商會聲稱使用AI。區別在於該AI是否能夠在實際的安全工作流中執行而不減慢速度。更快的推理讓網路安全公司能夠在使用者體驗中斷之前檢查更多上下文、推理更多假設、驗證更多建議並解釋更多決策。
更快的推理如何改變安全工作流
在AI for Security和Security for AI中,都出現相同的基本迴圈:收集上下文、推理、驗證、建議或強制執行、驗證。更快的推理透過減少延遲和增加系統在決策點之前能夠完成的推理量來改進每一步。
Cerebras如何幫助網路安全構建者競爭
Cerebras幫助網路安全公司構建延遲和輸出速度成為產品約束的產品。其晶圓級架構減少了傳統GPU推理中許多資料移動和分散式系統開銷。這使得更多的推理、驗證和工具使用在真實安全工作流的時間預算內變得實用。
Cerebras提供比領先GPU解決方案快15倍的推理速度。對於網路安全構建者來說,這種速度創造了產品空間。它可以在工作流需要時支援更快的響應,但也支援更高質量的答案,當工作流從更多檢查、更多上下文和更多驗證中受益時,在建議到達使用者之前。
這一點在AI改變安全的兩種方式中都很重要。在AI for Security中,更快的推理可以使更深入的調查和修復更可用。在Security for AI中,它可以幫助內聯控制保持足夠快以用於生產。在分層架構中,它可以使升級到更強推理模型感覺像是產品的一部分,而不是單獨的佇列。
網路安全公司已經用Cerebras構建差異化產品
這種模式已經在我們的生態系統中可見。例子各不相同,但都展示了快速推理如何成為產品優勢,因為安全AI朝著質量、驗證、部署模型和延遲都重要的工作流發展。
Armis:AI for Security
Armis是AI for Security的例子:使用AI幫助安全和開發團隊在軟體生命週期中查詢、優先順序排序和修復風險。其價值主張是統一跨程式碼、依賴項、容器映象、CI/CD工作流、配置、執行時訊號和生產側控制的應用程式安全上下文,使團隊能夠專注於最重要的問題。
來自Cerebras的快速推理透過使工作流更響應和更有用來提供幫助。更高的輸出速度可以支援更深入的程式碼和依賴推理、更清晰的解釋、優先順序排序、復現步驟和修復指導,而開發人員仍在工作流中。好處不是為速度而速度,而是在給定的操作視窗內獲得更多的上下文和驗證。
Operant AI:Security for AI
Operant AI是Security for AI的例子:幫助組織保護生產中的AI應用程式、代理和API。其價值主張是對提示、輸出、檢索響應、工具呼叫和敏感資料流進行執行時防禦,以便企業能夠以更強的可見性、控制和治理部署AI。
來自Cerebras的快速推理使這些控制在生產中變得實用。當保護措施位於內聯時,它需要檢查互動、評估策略並標記或阻止風險行為,而不會造成不可接受的延遲。更高的輸出速度為更多的策略推理、檢查和可解釋性創造了空間,同時保留了使用者體驗。
優勢在於操作視窗內的可信情報
網路安全不會透過在所有工作流中新增AI而獲勝。它將透過將AI應用於改善結果的地方、為工作選擇正確的模型架構以及使智慧足夠快以適應關鍵時刻而獲勝。
對於網路安全公司來說,這將推理速度轉化為差異化競爭力:在相同的使用者體驗中,更多的上下文、更多的驗證和更多的可信情報。
今天,這意味著低延遲的AI應用程式保護和更快的時間敏感安全操作中的推理。隨著AI安全能力在程式碼、暴露管理、測試和修復方面的提升,延遲和輸出速度將決定每個互動中可以容納多少上下文、驗證和修復。
這就是更快的推理在網路安全中重要的地方:不僅是在需要立即響應的時刻,而且在每個工作流中,每秒更多的推理可以在給定的操作視窗內產生更可信的安全結果。