AI News HubLIVE
サイト内リライト2 分で読了

Go言語LLM SDK:ストリーミング、ツール呼び出しをサポートするAIバックエンド(Reactフロントエンドライブラリ付き)

Grafanaが公開したGo言語向けAI SDK。Vercel AI SDKと互換性があり、ストリーミング、ツール呼び出し、構造化出力、複数プロバイダ(Anthropic、Bedrock、OpenAIなど)をサポートし、Reactフロントエンドとシームレスに統合できます。

ソースHacker News AI著者: matryer

Grafana は、Go 言語向けの AI SDK を公開しました。この SDK は、Go バックエンドアプリケーションに対して、さまざまな大規模言語モデル(LLM)を呼び出すための統一インターフェースを提供します。設計は Vercel AI SDK にインスパイアされており、ワイヤー互換性があるため、Go バックエンドは Server-Sent Events (SSE) を介して React フロントエンドコンポーネント(useChat など)に直接ストリーミングできます。既存の AI SDK React フロントエンドを再利用したり、TypeScript バックエンドを Go に置き換えたりする際に、プロトコルアダプターを追加する必要はありません。

SDK の核となる機能は StreamText と GenerateText で、それぞれストリーミング応答と完全な結果の待機をサポートします。リトライ機構とマルチステップツール実行を備え、モデルが Go 関数を呼び出せるようにし、重要な操作には承認フローを設定できます。また、スキーマ検証済みのオブジェクト、配列、選択肢を生成する構造化出力もサポートしています。

マルチプロバイダサポートとして、Anthropic、Amazon Bedrock、OpenAI およびその互換 API、さらに Grafana の内部ホストエンドポイントを内蔵しています。開発者はシンプルなモジュール選択で基礎となるモデルを切り替えられます。インストールは簡単で、Go プロジェクトを作成し、コアモジュールとプロバイダパッケージをインポートするだけです。例えば、Anthropic の Claude モデルを使用する場合、環境変数 ANTHROPIC_API_KEY を設定し、GenerateText 関数を呼び出すだけでモデルの応答が得られます。

SDK には、フルスタックチャットアプリ、構造化出力、ツール呼び出し、エージェントループ、ミドルウェア、本番環境構成などのシナリオをカバーする豊富なドキュメントと例が付属しています。Apache License 2.0 のもとで公開されており、Vercel AI SDK と同じ設計思想に従い、その帰属は NOTICE ファイルに記録されています。コミュニティのコントリビューターは CONTRIBUTING.md で開発規約とプルリクエストのチェックリストを確認できます。この SDK のリリースにより、Go 言語エコシステムにおける AI アプリケーション開発、特に React フロントエンドと組み合わせた高いパフォーマンスが要求されるシナリオに新たな選択肢がもたらされました。