Ved AI 語音助手——本地離線 AI 代理

Ved 是一款專為資源受限環境設計的 AI 語音助手，完全執行在本地，無需聯網。它能夠在 Windows、Linux 和 macOS 系統上執行，最低配置要求 12GB VRAM 和 32GB RAM 以執行本地模型，如果硬體不足以執行本地模型，可以透過 OpenRouter 雲端 API 回退，僅需 4GB VRAM 和 16GB RAM。

Ved 的核心是一個基於 LangGraph 的編排器，提供三種不同的執行通道：標準模式使用 3B 引數的 CPU 模型，適合日常閒聊，不呼叫任何工具；渦輪模式使用 8B 引數的規劃器和 3B 引數的執行器，支援讀取、搜尋、執行應用等工具；編碼器模式則使用 7B 引數的編碼專用規劃器，提供完整的程式碼編輯和檔案操作能力。此外，休眠模式可以清空所有模型以釋放 VRAM。

使用者介面方面，Ved 提供了兩種互動方式：基於 Tkinter 的桌面圖形介面，以及基於 FastAPI 的 HTTP API 伺服器。圖形介面支援模式切換晶片、執行緒標籤頁、RAG 附件晶片以及人工審批流程。HTTP API 則透過 Server-Sent Events 提供流式響應，並支援執行緒管理、檔案上傳、指令碼執行等功能。

語音功能是 Ved 的一大亮點。它支援離線語音管道，包括喚醒詞檢測（預設使用“alexa”）、基於 faster-whisper 的語音識別以及基於 Piper 的語音合成。語音互動是可中斷的，使用者可以在播放過程中打斷。首次啟動時還會進行環境校準。

Ved 還實現了每個執行緒獨立的 RAG（檢索增強生成）儲存，支援上傳 .txt、.md、.pdf 等文件，並採用 FIFO 機制自動淘汰舊內容。對於 Python 指令碼，Ved 提供了安全的執行環境，在臨時目錄中執行，預設超時 30 秒，輸出限制為 16KB。

需要注意的是，Ved 會記錄本地遙測資料，僅儲存在本地檔案中，不會外傳。使用者可以透過設定環境變數來停用遙測。總體而言，Ved 是一款功能全面、高度可定製的本地 AI 代理，適合注重隱私和離線使用的開發者。