跳到主要內容
AI News HubLIVE
更多
僅摘要

LocalVibe – 純 Rust 本地 AI 棧,集成 MCP,單個二進制文件(Apple Silicon)

LocalVibe 是一個純 Rust 編寫的本地 AI 編程助手,專為 Apple Silicon 優化。它通過 Metal 與量化 LLM 聊天,使用 ONNX 進行設備端嵌入,通過 LanceDB 進行向量搜索,並提供 TUI 界面。它還包含 MCP 服務器、HTTP 服務器和多種工具集成。

來源Hacker News AI作者: sok2054
LocalVibe – 純 Rust 本地 AI 棧,集成 MCP,單個二進制文件(Apple Silicon)
報告錯誤

更正渠道尚未開通,可先複製下方文章資訊留存。

查看更正說明

本文僅提供摘要

根據來源內容權限,本站僅提供編輯摘要、要點和原文連結。

展開要點與分析

文章情報

投資人中級

要點

  • 純 Rust 二進制文件,使用 Candle+Metal 推理、fastembed-rs 嵌入、LanceDB 向量存儲。
  • TUI 界面包含聊天、模型、數據庫、索引、設置五個部分。
  • 支持 MCP 服務器(用於 Claude Code)和 OpenAI 兼容的 HTTP 服務器。
  • 可配置 GGUF 模型,多種嵌入後端,並可與 llama.cpp 混合使用。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。