Go語言LLM SDK：支援流式傳輸、工具呼叫的AI後端（附帶React前端庫）
Grafana開源的Go語言AI SDK，相容Vercel AI SDK設計，支援流式傳輸、工具呼叫、結構化輸出和多提供商呼叫（Anthropic、Bedrock、OpenAI等），可與React前端無縫整合。
Grafana 社群近日釋出了一款面向 Go 語言的 AI SDK（軟體開發工具包），旨在為 Go 後端應用提供統一的介面來呼叫多種大語言模型（LLM）。該 SDK 的設計靈感來源於 Vercel 的 AI SDK，並保持了與之的無線相容性，使得 Go 後端能夠直接透過 Server-Sent Events (SSE) 流式傳輸資料給 React 前端元件（如 useChat）。這意味著開發者可以複用現有的 AI SDK React 前端，或者直接用 Go 替換 TypeScript 後端，而無需新增協議介面卡。
SDK 的核心功能包括 StreamText 和 GenerateText，分別用於流式響應和等待完整結果。它支援重試機制和多步工具執行，允許模型呼叫 Go 函式，並且可以為關鍵操作設定審批流程。此外，它還支援結構化輸出，能夠生成符合 schema 驗證的物件、陣列和選擇。
在多提供商支援方面，SDK 內建了 Anthropic、Amazon Bedrock、OpenAI 及其相容 API、以及 Grafana 的內部託管端點。開發人員可以透過簡單的模組選擇切換底層模型。安裝過程非常簡便：只需建立一個 Go 專案，並匯入核心模組和對應提供商的包即可。例如，使用 Anthropic 的 Claude 模型時，設定環境變數 ANTHROPIC_API_KEY 後，呼叫 GenerateText 函式即可獲得模型的回覆。
SDK 還提供了豐富的文件和示例，涵蓋全棧聊天應用、結構化輸出、工具呼叫、代理迴圈、中介軟體和生成環境配置等場景。其遵循 Apache License 2.0 開源協議，並採用了與 Vercel AI SDK 一致的設計理念，相關歸屬在 NOTICE 檔案中記錄。社群貢獻者可以透過 CONTRIBUTING.md 瞭解開發規範和提交程式碼的流程。該 SDK 的釋出為 Go 語言生態中的 AI 應用開發提供了新的選擇，尤其適合需要高效能後端與 React 前端結合的場景。