llm-gemini 0.32a0 釋出
llm-gemini 0.32a0 是 LLM 外掛的新版本,相容 llm>=0.32a0 測試版,新增了對推理令牌流式傳輸的支援。
Simon Willison 於 2026 年 5 月 19 日釋出了 llm-gemini 0.32a0 版本。這是一個針對 LLM 工具的外掛,用於訪問 Google 的 Gemini 系列模型。該版本與 llm>=0.32a0 測試版相容,並引入了流式傳輸推理令牌的能力。推理令牌是模型在生成最終輸出前內部使用的中間步驟,流式傳輸這些令牌可以提升開發者的除錯和互動體驗。此次更新體現了 LLM 生態系統的持續演進,為開發者提供了更靈活的工具。llm-gemini 外掛使得在命令列環境中輕鬆呼叫 Gemini 模型成為可能,而 0.32a0 版本則進一步最佳化了與底層框架的整合。值得注意的是,推理令牌的流式傳輸是 LLM 工具領域的重要進步,它讓開發者能夠即時觀察模型的思考過程,從而更有效地進行除錯和最佳化。這一特性對於構建複雜應用尤其有價值,因為它提供了更深層次的可見性。隨著 LLM 模型的日益複雜,這種細粒度的控制將變得越來越重要。