“有狀態系統極難構建”:Perplexity對AI智慧體沙箱的思考
Perplexity推出了SPACE沙箱平臺,用於其Computer AI智慧體,重點在於狀態管理而非僅僅隔離。該平臺基於Firecracker微虛擬機器、Kubernetes和Btrfs檔案系統,實現高效快照、暫停/恢復和分支。SPACE比現有方案快3倍,每分鐘快照一次,可回滾一週。安全功能包括RBAC、即時訪問和逐工具控制。未來計劃提供API產品、支援第三方沙箱和本地/混合部署。Perplexity還引入了一種低成本編排器模型。
Perplexity推出了SPACE沙箱平臺,用於支援其Computer AI智慧體。儘管業界已有Firecracker等成熟的隔離技術,Perplexity團隊認為隔離並非難點,真正的挑戰在於狀態管理——即如何暫停、恢復和複製可能持續數天或數週的智慧體會話。SPACE平臺於7月15日上線,底層使用Firecracker微虛擬機器和Kubernetes,並採用Btrfs寫時複製檔案系統實現高效快照和分支。系統每隔一分鐘自動快照完整會話狀態(包括記憶體),使用者可回滾至一週前的狀態。Perplexity基礎設施副總裁Nate Kupp表示,與現有方案相比,SPACE在效能指標上實現了3倍以上的加速,同時大幅降低成本。
在安全性方面,SPACE提供了基於角色的訪問控制(RBAC)、即時訪問許可權預配以及逐工具呼叫級別的控制。管理員可禁止智慧體寫入業務系統,敏感操作會觸發使用者審批。Kupp指出,安全與效能並非取捨關係,而是透過可調節的旋鈕讓客戶根據自身風險偏好控制。目前SPACE尚未採用硬體可信執行環境,但公司正與Nvidia緊密合作。
未來,Perplexity計劃將SPACE作為API產品開放,支援不同尺寸的沙箱以滿足多樣化工作負載。公司已於3月釋出了一款基於Kubernetes Pod的沙箱API(程式碼執行服務),並即將推出私有測試版。同時,Computer智慧體將支援第三方沙箱。Kupp強調,他們在堆疊的每一層都設計了擴充套件點。
Perplexity還在探索本地和混合部署,與Nvidia合作將其編排能力擴充套件到RTX Spark平臺,實現筆記型電腦上的本地AI工作負載。此外,公司最近釋出了Computer智慧體的編排器模型研究預覽版——基於開源中國模型GLM 5.2進行後訓練,成本僅為前沿模型的三分之一。Kupp認為,最終編排器會根據經濟性將工作路由到本地或雲端。
隨著智慧體會話從數小時延長至數週,Kupp預測CPU將成為新的瓶頸。目前行業焦點集中在GPU稀缺性上,但未來支援智慧體的CPU叢集和狀態管理機制可能成為下一場容量爭奪戰。