跳到主要内容
AI News HubLIVE
站内改写2 分钟阅读

datasette-llm 0.1a11 发布:支持 OpenAI 兼容端点

文章摘要

Datasette 的 LLM 配置中间插件 datasette-llm 发布 0.1a11,新增对 OpenAI 兼容端点的支持,可接入 LM Studio、Ollama、llama.cpp 等本地模型服务。

datasette-llm 0.1a11 发布:支持 OpenAI 兼容端点
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

Simon Willison 于 2026 年 11 月 14 日发布了 datasette-llm 0.1a11 版本。datasette-llm 在 Datasette 生态中扮演中间插件的角色,负责统一配置 LLM,让其他 Datasette 插件可以依赖它来获得模型能力,而不必各自处理模型接入细节。

0.1a11 的核心变化是新增对 OpenAI 兼容端点的支持。这意味着用户现在可以让 Datasette 使用任何遵循 OpenAI 那套事实上的 Web 接口协议的 LLM 托管服务,而不局限于官方或特定厂商的接口。这一改动显著拓宽了可选模型的范围。

对于在本地运行模型的用户来说,这一点尤其有用。无论是使用 LM Studio、Ollama,还是 llama.cpp——后者刚刚发布了 v1.0.0——只要服务暴露了 OpenAI 兼容接口,就可以接入 Datasette。作者在示例中展示了如何通过 uvx 快速启动:先下载示例数据库 content.db,然后用 uvx 引入 datasette-agent 并启动 Datasette,同时指定根权限和密钥,并通过插件配置项 plugins.datasette-llm.default_model 传入模型配置。

配置内容是一个 JSON 对象,包含模型标识、模型名称以及 API 基础地址。示例中使用的是名为 lmstudio-qwen 的配置,模型为 qwen/qwen3.8-27b,接口地址指向本地的 1234 端口下的 /v1 路径。这样启动后,就会得到一个由本地模型驱动的 Datasette Agent 实例。

随文附带的截图展示了该聊天界面的实际效果。用户询问数据库中有多少个仓库和多少个发布版本,助手先调用 list_databases_and_tables 工具,再调用 sql_query 工具,并在请求部分展示了对 content 数据库执行的两条子查询:分别统计 repos 表和 releases 表的行数。响应返回 repo_count 为 200、release_count 为 1889,随后以表格形式呈现结果,并给出自然语言回答:content 数据库中共有 200 个仓库和 1889 个发布版本。界面底部还有输入框,提示用户可以用井号标记表或查询。

整体来看,这次更新延续了 Datasette 一贯的可组合设计思路:把模型配置抽象成中间层,让上层插件专注功能,同时通过兼容 OpenAI 协议降低接入门槛。对于希望完全在本地运行、避免将数据发送到云端服务的用户,这一版本提供了更直接的开箱即用路径。

展开要点与分析

文章情报

工程师进阶

要点

  • datasette-llm 是供其他 Datasette 插件依赖的 LLM 集成中间插件
  • 新版本支持任意遵循 OpenAI 伪标准 Web 协议的 LLM 托管服务
  • 可通过 uvx 一条命令启动由本地模型驱动的 Datasette Agent 实例
  • 官方示例使用 LM Studio 的 qwen/qwen3.8-27b 模型

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。