Groq Blog

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：Llama 3 Now Available to Developers via GroqChat and GroqCloud™ Here’s what’s happened in the last 36 hours: April 18th, Noon: Meta releases versions of its latest Large Language Model (LLM), Llama 3. April 19th, Midnig…

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：Jonathan Ross, CEO and Founder of Groq, and Tareq Amin, CEO of Aramco Digital, a subsidiary of Saudi Aramco, proudly announced their partnership to build the largest AI inference data center in Saudi Arabia. The data ce…

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：What is Context Length? As businesses look to leverage Large Language Models (LLMs) for conversational AI, generative AI, and analytics, a crucial factor often gets overlooked: context length, also known as context wind…

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：This blog is adapted from an original post by Groq CEO and Founder, Jonathan Ross. If Large Language Models (LLMs) are the printing press of the Generative AI age, then what’s next? What will be the AI equivalent of the…

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：The rapidly evolving field of Artificial Intelligence (AI) has led to significant advancements in Machine Learning (ML), with "inference" emerging as a crucial concept. But what exactly is inference, and how does it wor…

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：Today, one year this week since we launched GroqCloud, we're celebrating the one million developers who are now on GroqCloud! In just a year this community of builders, makers, and innovators have shipped incredible app…

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：Overview Groq LPU™ AI Inference Technology Groq builds fast AI inference. Groq® LPU™ AI inference technology delivers exceptional AI compute speed, quality, and affordability at scale. Groq AI inference infrastructure,…

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：GroqCloud™ provides fast inference for complex AI solutions that require instant responsiveness. But what happens when your use cases expand and require features beyond speed? That’s where Batch Processing comes in –now…

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：You know Groq runs small models. But did you know we run large models including MoE uniquely well? Here’s why. The Evolution of Advanced Openly-Available LLMs There’s no argument that Artificial intelligence (AI) has ex…

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：Appointment supports Groq’s global expansion and growing AI inference demand Mountain View, Calif. — September 22, 2025 — Groq, the global pioneer in AI inference, today announced the appointment of Simon Edwards as Chi…

GroqCloudは、リモートモデルコンテキストプロトコル（MCP）サーバー統合のベータ版提供を発表。OpenAI互換のAPIを介して外部ツールに接続でき、コード変更なしで高速かつ低コストなAIアプリケーションを実現します。

Groqは、GPT-OSSモデルに対する2つの重要なアップデート、価格引き下げとプロンプトキャッシング機能の提供を発表しました。これらはAI推論のコスト効率と速度を向上させることを目的としています。新価格は即時発効し、2025年10月の未払い請求書にも遡及適用されます。プロンプトキャッシングにより、キャッシュされたトークンが最大50%割引、レイテンシが低減、レート制限が緩和され、設定は不要です。

本稿は、オープンソースLLMを実際のプロダクトに確実に統合するための実践的ガイドです。核となるのは4ステップのループ：Read（必要なコンテキストのみ）、Constrain（明確なシステムとフォーマットルール）、Act（構造化出力、関数呼び出し、またはプレーンテキスト）、Explain（ユーザーにステップと引用を表示）。また、一般的なパターン（ルーター、抽出器、翻訳器など）、安全なリリース（テスト、監視、フォールバック）、よくある落とし穴についてもカバーしています。目標は、ユーザーが毎日依存する、目に見えない信頼性の高いAI機能を構築することです。

GroqCloudは、OpenAIの最新オープンソースセーフティモデルGPT-OSS-Safeguard-20Bを即日サポートし、1000 t/s超の推論速度を提供します。このモデルはセーフティ分類ワークロード向けに設計され、独自ポリシーの持ち込み、設定可能な推論努力、完全な推論トレースを備え、コストはベースモデルと同じです。

Groq は GroqCloud 上で MCP コネクタのベータ版を発表しました。最初に Google Workspace（Gmail、ドライブ、カレンダー）をサポートします。これらのプリビルドされた Groq ホストの MCP サーバーにより、AI エージェントは Responses API を介して Google ツールと対話でき、独自の MCP サーバーを管理する必要がありません。

Groqは、Gartnerの2025年AIインフラストラクチャレポートでクールベンダーに選ばれました。LPUチップの決定論的で低レイテンシな推論と線形スケーリングが評価されています。250万人以上の開発者がGroqを利用し、GPU比で最大5倍高速で低コストです。

記事は、アメリカのAIコンピューティング、特に推論におけるリーダーシップと、その優位性を維持するための輸出政策について論じています。市場主導のエコシステムと業界連合の役割を強調し、柔軟なマルチモデルフレームワークを提案しています。

GroqCloudは、リアルタイムアプリケーションが実験から本番へ移行する需要の高まりに応えるため、AI推論インフラをグローバルに拡大しています。最近英国にEquinixと提携して新データセンターを開設し、ヨーロッパの開発者や企業に低遅延で高性能な推論を提供します。GroqCloudは現在350万人以上の開発者を擁し、本番トラフィックは増加し続けています。

GroqのLPUは推論専用に設計されたハードウェアであり、TruePoint数値方式、SRAMストレージ、静的スケジューリング、テンソル並列処理などを通じて、精度を犠牲にすることなく超低遅延推論を実現します。MoonshotのKimi K2はGroq上で40倍のパフォーマンスを発揮し、LPUアーキテクチャの優位性を示しています。