跳到主要内容
AI News HubLIVE
更多
仅摘要

LocalVibe – 纯 Rust 本地 AI 栈,集成 MCP,单个二进制文件(Apple Silicon)

LocalVibe 是一个纯 Rust 编写的本地 AI 编程助手,专为 Apple Silicon 优化。它通过 Metal 与量化 LLM 聊天,使用 ONNX 进行设备端嵌入,通过 LanceDB 进行向量搜索,并提供 TUI 界面。它还包含 MCP 服务器、HTTP 服务器和多种工具集成。

来源Hacker News AI作者: sok2054
LocalVibe – 纯 Rust 本地 AI 栈,集成 MCP,单个二进制文件(Apple Silicon)
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明

本文仅提供摘要

根据来源内容权限,本站仅提供编辑摘要、要点和原文链接。

展开要点与分析

文章情报

投资人中级

要点

  • 纯 Rust 二进制文件,使用 Candle+Metal 推理、fastembed-rs 嵌入、LanceDB 向量存储。
  • TUI 界面包含聊天、模型、数据库、索引、设置五个部分。
  • 支持 MCP 服务器(用于 Claude Code)和 OpenAI 兼容的 HTTP 服务器。
  • 可配置 GGUF 模型,多种嵌入后端,并可与 llama.cpp 混合使用。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。

LocalVibe – 纯 Rust 本地 AI 栈,集成 MCP,单个二进制文件(Apple Silicon) | AI News Hub