跳到主要內容
AI News HubLIVE
更多
僅摘要

LocalVibe – 純 Rust 本地 AI 棧,整合 MCP,單個二進位制檔案(Apple Silicon)

LocalVibe 是一個純 Rust 編寫的本地 AI 程式設計助手,專為 Apple Silicon 最佳化。它透過 Metal 與量化 LLM 聊天,使用 ONNX 進行裝置端嵌入,透過 LanceDB 進行向量搜尋,並提供 TUI 介面。它還包含 MCP 伺服器、HTTP 伺服器和多種工具整合。

來源Hacker News AI作者: sok2054
LocalVibe – 純 Rust 本地 AI 棧,整合 MCP,單個二進位制檔案(Apple Silicon)
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明

本文僅提供摘要

根據來源內容權限,本站僅提供編輯摘要、要點和原文連結。

展開要點與分析

文章情報

投資人中級

要點

  • 純 Rust 二進位制檔案,使用 Candle+Metal 推理、fastembed-rs 嵌入、LanceDB 向量儲存。
  • TUI 介面包含聊天、模型、資料庫、索引、設定五個部分。
  • 支援 MCP 伺服器(用於 Claude Code)和 OpenAI 相容的 HTTP 伺服器。
  • 可配置 GGUF 模型,多種嵌入後端,並可與 llama.cpp 混合使用。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。

LocalVibe – 純 Rust 本地 AI 棧,整合 MCP,單個二進位制檔案(Apple Silicon) | AI News Hub