跳到主要内容
AI News HubLIVE
更多
站内改写1 分钟阅读

llm 0.32rc2 发布

文章摘要

llm 0.32rc2 版本修复了依赖问题,并新增两个功能:默认模型改为 GPT-5.6 Luna,以及新的 llm openai endpoint 命令,可直接与任意兼容 OpenAI 的端点交互。

llm 0.32rc2 发布
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

Simon Willison 发布了 llm 0.32rc2 版本,这是继 RC1 之后的一个快速迭代,主要修复了一个依赖问题,并带来了两项实用的新功能。

首先,默认模型发生了变更:对于未自定义默认模型的用户,现在默认模型从之前的 GPT-4o mini 升级为 GPT-5.6 Luna。Luna 是一款性能更优、更先进的模型,但价格也略有提高:输入令牌每百万 0.20 美元,输出令牌每百万 1.20 美元,而 GPT-4o mini 分别为 0.15 美元和 0.60 美元。如果用户想切换回更经济的选项,可以使用 llm models default gpt-4o-mini 恢复为 GPT-4o mini,或者使用 llm models default gpt-5-nano 切换到更便宜的 GPT-5 nano,其价格仅为输入每百万 0.05 美元、输出每百万 0.40 美元。这一变更旨在让用户默认使用更强大的模型,同时保留灵活的选择权。

其次,新增的 llm openai endpoint 命令是该版本的一大亮点。它允许用户直接向任意兼容 OpenAI Chat Completions API 的端点发送提示、进行对话或列出模型,而无需预先配置模型。这些调用不会被记录,非常适合测试和临时使用。Willison 表示,他此前一直缺少一个便捷的 CLI 工具来测试各种 OpenAI 模拟端点,因此决定将这一功能直接集成到 LLM 中。

更令人惊喜的是,使用这一功能甚至不需要安装 LLM。用户可以通过 uvx 一行命令即可运行,例如调用 LM Studio 本地模型的命令:uvx --pre llm openai endpoint http://127.0.0.1:1234/v1 -T llm_version -T llm_time --td -m google/gemma-4-31b 'what is the current LLM version? And the time?'。输出结果可在 GitHub 上查看。这一特性极大地简化了与本地或第三方 OpenAI 兼容模型的交互流程。

总的来说,llm 0.32rc2 不仅修复了依赖问题,还通过默认模型升级和新的端点命令增强了实用性和灵活性,尤其是为开发者提供了更便捷的 CLI 工具来探索各种模型。

展开要点与分析

文章情报

工程师进阶

要点

  • 默认模型从 GPT-4o mini 升级为 GPT-5.6 Luna,成本略有提升。
  • 新增 llm openai endpoint 命令,无需预配模型即可调用任意兼容 OpenAI 的端点。
  • 可通过 uvx 一行命令直接使用,例如调用 LM Studio 本地模型。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。