Ved AI 語音助手——本地離線 AI 代理

Ved 是一款專為資源受限環境設計的 AI 語音助手，完全運行在本地，無需聯網。它能夠在 Windows、Linux 和 macOS 系統上運行，最低配置要求 12GB VRAM 和 32GB RAM 以運行本地模型，如果硬件不足以運行本地模型，可以通過 OpenRouter 雲端 API 回退，僅需 4GB VRAM 和 16GB RAM。

Ved 的核心是一個基於 LangGraph 的編排器，提供三種不同的運行通道：標準模式使用 3B 參數的 CPU 模型，適合日常閒聊，不調用任何工具；渦輪模式使用 8B 參數的規劃器和 3B 參數的執行器，支持讀取、搜索、運行應用等工具；編碼器模式則使用 7B 參數的編碼專用規劃器，提供完整的代碼編輯和文件操作能力。此外，休眠模式可以清空所有模型以釋放 VRAM。

用户界面方面，Ved 提供了兩種交互方式：基於 Tkinter 的桌面圖形界面，以及基於 FastAPI 的 HTTP API 服務器。圖形界面支持模式切換芯片、線程標籤頁、RAG 附件芯片以及人工審批流程。HTTP API 則通過 Server-Sent Events 提供流式響應，並支持線程管理、文件上傳、腳本執行等功能。

語音功能是 Ved 的一大亮點。它支持離線語音管道，包括喚醒詞檢測（默認使用“alexa”）、基於 faster-whisper 的語音識別以及基於 Piper 的語音合成。語音交互是可中斷的，用户可以在播放過程中打斷。首次啓動時還會進行環境校準。

Ved 還實現了每個線程獨立的 RAG（檢索增強生成）存儲，支持上傳 .txt、.md、.pdf 等文檔，並採用 FIFO 機制自動淘汰舊內容。對於 Python 腳本，Ved 提供了安全的執行環境，在臨時目錄中運行，默認超時 30 秒，輸出限制為 16KB。

需要注意的是，Ved 會記錄本地遙測數據，僅保存在本地文件中，不會外傳。用户可以通過設置環境變量來禁用遙測。總體而言，Ved 是一款功能全面、高度可定製的本地 AI 代理，適合注重隱私和離線使用的開發者。