AI News HubLIVE
站内改写1 分钟阅读

llm 0.32rc2 发布

llm 0.32rc2 版本修复了依赖问题,并新增两个功能:默认模型改为 GPT-5.6 Luna,以及新的 llm openai endpoint 命令,可直接与任意兼容 OpenAI 的端点交互。

Simon Willison 发布了 llm 0.32rc2 版本,这是继 RC1 之后的一个快速迭代,主要修复了一个依赖问题,并带来了两项实用的新功能。

首先,默认模型发生了变更:对于未自定义默认模型的用户,现在默认模型从之前的 GPT-4o mini 升级为 GPT-5.6 Luna。Luna 是一款性能更优、更先进的模型,但价格也略有提高:输入令牌每百万 0.20 美元,输出令牌每百万 1.20 美元,而 GPT-4o mini 分别为 0.15 美元和 0.60 美元。如果用户想切换回更经济的选项,可以使用 llm models default gpt-4o-mini 恢复为 GPT-4o mini,或者使用 llm models default gpt-5-nano 切换到更便宜的 GPT-5 nano,其价格仅为输入每百万 0.05 美元、输出每百万 0.40 美元。这一变更旨在让用户默认使用更强大的模型,同时保留灵活的选择权。

其次,新增的 llm openai endpoint 命令是该版本的一大亮点。它允许用户直接向任意兼容 OpenAI Chat Completions API 的端点发送提示、进行对话或列出模型,而无需预先配置模型。这些调用不会被记录,非常适合测试和临时使用。Willison 表示,他此前一直缺少一个便捷的 CLI 工具来测试各种 OpenAI 模拟端点,因此决定将这一功能直接集成到 LLM 中。

更令人惊喜的是,使用这一功能甚至不需要安装 LLM。用户可以通过 uvx 一行命令即可运行,例如调用 LM Studio 本地模型的命令:uvx --pre llm openai endpoint http://127.0.0.1:1234/v1 -T llm_version -T llm_time --td -m google/gemma-4-31b 'what is the current LLM version? And the time?'。输出结果可在 GitHub 上查看。这一特性极大地简化了与本地或第三方 OpenAI 兼容模型的交互流程。

总的来说,llm 0.32rc2 不仅修复了依赖问题,还通过默认模型升级和新的端点命令增强了实用性和灵活性,尤其是为开发者提供了更便捷的 CLI 工具来探索各种模型。