llm-gemini 0.32a0 发布
llm-gemini 0.32a0 是 LLM 插件的新版本,兼容 llm>=0.32a0 测试版,新增了对推理令牌流式传输的支持。
Simon Willison 于 2026 年 5 月 19 日发布了 llm-gemini 0.32a0 版本。这是一个针对 LLM 工具的插件,用于访问 Google 的 Gemini 系列模型。该版本与 llm>=0.32a0 测试版兼容,并引入了流式传输推理令牌的能力。推理令牌是模型在生成最终输出前内部使用的中间步骤,流式传输这些令牌可以提升开发者的调试和交互体验。此次更新体现了 LLM 生态系统的持续演进,为开发者提供了更灵活的工具。llm-gemini 插件使得在命令行环境中轻松调用 Gemini 模型成为可能,而 0.32a0 版本则进一步优化了与底层框架的集成。值得注意的是,推理令牌的流式传输是 LLM 工具领域的重要进步,它让开发者能够实时观察模型的思考过程,从而更有效地进行调试和优化。这一特性对于构建复杂应用尤其有价值,因为它提供了更深层次的可见性。随着 LLM 模型的日益复杂,这种细粒度的控制将变得越来越重要。