Groq Blog

GroqCloudは、リモートモデルコンテキストプロトコル（MCP）サーバー統合のベータ版提供を発表。OpenAI互換のAPIを介して外部ツールに接続でき、コード変更なしで高速かつ低コストなAIアプリケーションを実現します。

Groqは、GPT-OSSモデルに対する2つの重要なアップデート、価格引き下げとプロンプトキャッシング機能の提供を発表しました。これらはAI推論のコスト効率と速度を向上させることを目的としています。新価格は即時発効し、2025年10月の未払い請求書にも遡及適用されます。プロンプトキャッシングにより、キャッシュされたトークンが最大50%割引、レイテンシが低減、レート制限が緩和され、設定は不要です。

本稿は、オープンソースLLMを実際のプロダクトに確実に統合するための実践的ガイドです。核となるのは4ステップのループ：Read（必要なコンテキストのみ）、Constrain（明確なシステムとフォーマットルール）、Act（構造化出力、関数呼び出し、またはプレーンテキスト）、Explain（ユーザーにステップと引用を表示）。また、一般的なパターン（ルーター、抽出器、翻訳器など）、安全なリリース（テスト、監視、フォールバック）、よくある落とし穴についてもカバーしています。目標は、ユーザーが毎日依存する、目に見えない信頼性の高いAI機能を構築することです。

GroqCloudは、OpenAIの最新オープンソースセーフティモデルGPT-OSS-Safeguard-20Bを即日サポートし、1000 t/s超の推論速度を提供します。このモデルはセーフティ分類ワークロード向けに設計され、独自ポリシーの持ち込み、設定可能な推論努力、完全な推論トレースを備え、コストはベースモデルと同じです。

Groq は GroqCloud 上で MCP コネクタのベータ版を発表しました。最初に Google Workspace（Gmail、ドライブ、カレンダー）をサポートします。これらのプリビルドされた Groq ホストの MCP サーバーにより、AI エージェントは Responses API を介して Google ツールと対話でき、独自の MCP サーバーを管理する必要がありません。

Groqは、Gartnerの2025年AIインフラストラクチャレポートでクールベンダーに選ばれました。LPUチップの決定論的で低レイテンシな推論と線形スケーリングが評価されています。250万人以上の開発者がGroqを利用し、GPU比で最大5倍高速で低コストです。

記事は、アメリカのAIコンピューティング、特に推論におけるリーダーシップと、その優位性を維持するための輸出政策について論じています。市場主導のエコシステムと業界連合の役割を強調し、柔軟なマルチモデルフレームワークを提案しています。

GroqCloudは、リアルタイムアプリケーションが実験から本番へ移行する需要の高まりに応えるため、AI推論インフラをグローバルに拡大しています。最近英国にEquinixと提携して新データセンターを開設し、ヨーロッパの開発者や企業に低遅延で高性能な推論を提供します。GroqCloudは現在350万人以上の開発者を擁し、本番トラフィックは増加し続けています。

GroqのLPUは推論専用に設計されたハードウェアであり、TruePoint数値方式、SRAMストレージ、静的スケジューリング、テンソル並列処理などを通じて、精度を犠牲にすることなく超低遅延推論を実現します。MoonshotのKimi K2はGroq上で40倍のパフォーマンスを発揮し、LPUアーキテクチャの優位性を示しています。