llm-gemini 0.32a0 發佈
llm-gemini 0.32a0 是 LLM 插件的新版本,兼容 llm>=0.32a0 測試版,新增了對推理令牌流式傳輸的支持。
Simon Willison 於 2026 年 5 月 19 日發佈了 llm-gemini 0.32a0 版本。這是一個針對 LLM 工具的插件,用於訪問 Google 的 Gemini 系列模型。該版本與 llm>=0.32a0 測試版兼容,並引入了流式傳輸推理令牌的能力。推理令牌是模型在生成最終輸出前內部使用的中間步驟,流式傳輸這些令牌可以提升開發者的調試和交互體驗。此次更新體現了 LLM 生態系統的持續演進,為開發者提供了更靈活的工具。llm-gemini 插件使得在命令行環境中輕鬆調用 Gemini 模型成為可能,而 0.32a0 版本則進一步優化了與底層框架的集成。值得注意的是,推理令牌的流式傳輸是 LLM 工具領域的重要進步,它讓開發者能夠實時觀察模型的思考過程,從而更有效地進行調試和優化。這一特性對於構建複雜應用尤其有價值,因為它提供了更深層次的可見性。隨着 LLM 模型的日益複雜,這種細粒度的控制將變得越來越重要。