AI News HubLIVE
站內改寫2 分鐘閱讀

Orb:主動發起對話的自託管AI助手

Orb是一個開源的自託管AI助手後端,它不會等待被詢問,而是主動監控你的專案、維護情境模型,並在真正值得注意時向你傳送訊息。支援多模型路由、語音互動、後臺任務委託等功能,資料本地儲存。

來源Hacker News AI作者: ninjahawk1

Orb 是一個開源的自託管 AI 助手後端,它與配套的 iOS 應用協同工作,但最大的特點是:它不會等待你主動詢問,而是率先向你傳送訊息。它會在後臺持續監控你的專案,維護一個不斷更新的情境模型,預測未來需求,並在真正值得你注意時才打擾你。

Orb 的核心能力包括:

  • 語音伺服器:透過 WebSocket 實現語音互動,無需喚醒詞即可進行自然對話。語音輸入使用本地 Whisper 模型,輸出採用神經 TTS,實現流暢的對話體驗。
  • 代理中樞:一個輕量級迴圈,讓模型自行決定何時說話、何時行動,內建約 60 個工具,涵蓋天氣、郵件、檔案、股票、螢幕、會話、任務、提醒、通知等。
  • 多腦路由器:可在 Claude(透過你自己的 Claude Code CLI)、Grok、Codex 或本地模型之間無縫切換,保持統一人格。你可以在對話中途切換模型,而人格保持不變。
  • 思維:在對話之間執行的一個程序,維護你生活和專案的情境模型,感知變化,做出預測,提出實際工作建議,並監督你批准的任務。
  • 會話:將長時間執行的任務(如構建、研究、訓練)委託給後臺代理,你可以透過手機隨時監控、傳送訊息或停止任務。
  • 推送通知:使用 APNs 實現去重、硬限速、完整訊息負載和投遞迴執,確保通知不會丟失。

執行方式

目前主要支援 Windows(macOS 後端正在開發中),需要 Python 3.11+。克隆倉庫後建立虛擬環境,安裝依賴,執行 setup.py 進行引導配置,然後啟動 supervisor.py。你需要為手機提供一個可訪問的地址(例如透過 Tailscale),然後在 iOS 應用中配對。專案提供了詳細的自行託管指南,你也可以使用 Claude Code 自動完成設定。

自帶一切

Orb 採用“自帶一切”的模式:你自帶模型訪問(預設使用 Claude Code CLI),自帶 APNs 推送金鑰,自帶 Gmail 應用密碼。後端從不內建或儲存任何憑據。所有變數都在 .env.example 和 SELF_HOSTING.md 中記錄。

架構

專案架構清晰:server_win.py 負責伺服器、語音迴圈和通知;agent.py 是代理迴圈;brain.py 負責模型路由;tool_registry.py 和 otools/ 包含所有工具;mcp_http.py 和 orb_mcp.py 提供 MCP 介面;proactive_engine.py 驅動主動引擎;mind.py 管理會話間的自主行為;supervisor.py 保持後端執行並支援熱過載。

iOS 應用

iOS 應用已在 App Store 免費上架。應用本身是閉源的,但後端是開源的。應用透過 WebSocket 和 HTTP API 與後端通訊,你也可以構建自己的客戶端。

設計理念

  • 本地優先:所有資料收集在你的機器上並保留在那裡。
  • 自帶金鑰:後端從不提供憑據。
  • 結構安全:自主表面無法訪問破壞性工具,任何影響世界的操作都需要你的明確批准,且每一步都記錄在日誌中。
  • 沉默是金:主動層將“無話可說”視為正確的、一流的結果。

未來計劃

  • 完全離線的本地模型層(Ollama / Qwen)作為一流預設選項。
  • macOS 後端。
  • 應用內二維碼配對。

許可

後端採用 MIT 許可證。Orb iOS 應用及品牌不在該許可範圍內。

專案由 ninjahawk 開發。