VELA:安全執行AI生成的不可信程式碼
VELA 是一款開源工具,利用 Firecracker 微虛擬機器和 HMAC 能力令牌策略,安全地執行 AI 代理生成的不可信程式碼,提供細粒度資源限制和完整審計日誌。
隨著自主 AI 代理的興起,大型語言模型(LLM)越來越多地動態生成並執行 Python 指令碼、shell 命令和資料管道。然而,直接在宿主伺服器或標準 Docker 容器中執行這些不可信的模型生成程式碼帶來了巨大的安全風險。VELA 應運而生,它是一款策略驅動的執行保護工具,旨在安全地執行 AI 生成的程式碼。
VELA 基於 Aegis 執行時,採用 Firecracker 微虛擬機器提供硬體級隔離,同時利用 HMAC 能力令牌實現細粒度的許可權控制。開發者可以為每次請求籤發作用域受限、有時效的令牌,例如允許對 /tmp 目錄的讀寫,阻止所有網路訪問,並限制最大 64MB 記憶體。這種設計比傳統的全允許或全拒絕策略更加靈活和安全。
VELA 的開源、MIT 許可特性使其易於整合到現有工作流中。它提供了 Python 封裝和 LangChain/LlamaIndex 介面卡,使得 AI 代理可以透明地將危險工具呼叫路由到沙箱中執行,而無需重寫核心邏輯。此外,VELA 還支援完整的 JSONL 審計跟蹤,便於事後審查。
VELA 的創始人在 Product Hunt 上表示,他們最初考慮過重型的容器編排方案,但發現對於即時代理工具呼叫來說速度太慢。於是轉向了本地優先、基於 Rust 的守護程序(Aegis),搭配 Firecracker 微虛擬機器,實現了近即時的啟動速度(約 150 毫秒冷啟動)。這種設計在安全性和效能之間取得了很好的平衡。
對於獨立開發者來說,VELA 提供了一種在不依賴第三方雲沙箱的前提下,安全執行 AI 生成程式碼的方案。無論是資料分析、網頁抓取還是模擬執行,VELA 都能在保護本地資料和專有邏輯的同時,提供可靠的執行環境。整體而言,VELA 填補了 AI 安全執行領域的重要空白,有望成為每個開發者工具箱中的標準元件。