VELA:安全執行AI生成的不可信代碼
VELA 是一款開源工具,利用 Firecracker 微虛擬機和 HMAC 能力令牌策略,安全地執行 AI 代理生成的不可信代碼,提供細粒度資源限制和完整審計日誌。
隨着自主 AI 代理的興起,大型語言模型(LLM)越來越多地動態生成並執行 Python 腳本、shell 命令和數據管道。然而,直接在宿主服務器或標準 Docker 容器中運行這些不可信的模型生成代碼帶來了巨大的安全風險。VELA 應運而生,它是一款策略驅動的執行保護工具,旨在安全地運行 AI 生成的代碼。
VELA 基於 Aegis 運行時,採用 Firecracker 微虛擬機提供硬件級隔離,同時利用 HMAC 能力令牌實現細粒度的權限控制。開發者可以為每次請求籤發作用域受限、有時效的令牌,例如允許對 /tmp 目錄的讀寫,阻止所有網絡訪問,並限制最大 64MB 內存。這種設計比傳統的全允許或全拒絕策略更加靈活和安全。
VELA 的開源、MIT 許可特性使其易於集成到現有工作流中。它提供了 Python 封裝和 LangChain/LlamaIndex 適配器,使得 AI 代理可以透明地將危險工具調用路由到沙箱中執行,而無需重寫核心邏輯。此外,VELA 還支持完整的 JSONL 審計跟蹤,便於事後審查。
VELA 的創始人在 Product Hunt 上表示,他們最初考慮過重型的容器編排方案,但發現對於實時代理工具調用來説速度太慢。於是轉向了本地優先、基於 Rust 的守護進程(Aegis),搭配 Firecracker 微虛擬機,實現了近即時的啓動速度(約 150 毫秒冷啓動)。這種設計在安全性和性能之間取得了很好的平衡。
對於獨立開發者來説,VELA 提供了一種在不依賴第三方雲沙箱的前提下,安全運行 AI 生成代碼的方案。無論是數據分析、網頁抓取還是模擬運行,VELA 都能在保護本地數據和專有邏輯的同時,提供可靠的執行環境。整體而言,VELA 填補了 AI 安全執行領域的重要空白,有望成為每個開發者工具箱中的標準組件。