Cerebras上のGemma 4：高速マルチモーダルAI

2026年7月8日

Cerebras上のGemma 4を初体験：私たちが構築した3つの高速マルチモーダルアプリ

このガイドでは、Gemma 4を使用して構築した3つのマルチモーダルアプリケーション（ドキュメント処理、画像理解、ビデオ分析）を紹介します。

著者：Zhenwei Gao、William Ryan、Sherif Cherfa、Sarah Chieng

私たちは1週間かけて、Cerebras上で約2,300 tok/sで動作するGemma 4を使用し、マルチモーダルユースケースを構築しました。以下はその成果と学んだ教訓です。

オープンウェイトのマルチモーダルモデルとして初めて2,000 tok/sの壁を突破しました。Cerebras上のGemma 4 31Bがこれを実現しました。

Googleの最新オープンウェイトマルチモーダルモデルであるGemma 4は、ビジョン、推論、長いコンテキスト、チェイン・オブ・ソート、関数呼び出し、強力なエージェント機能をこの31B稠密モデルに統合しています。

Cerebras上で約2,300トークン/秒で動作し、リアルタイムマルチモーダルエージェント、反復推論、インタラクティブなワークフローを実用的にします。

Cerebras上の仕様：

• 31B稠密モデル：307億パラメータの稠密モデルで、すべてのパラメータが各推論パスに参加。
• ビジョン対応：テキスト＋画像入力をサポートし、OCR、ドキュメント理解、画像検索、物体検出、UI理解、ビデオフレーム分析が可能。
• 131Kコンテキストウィンドウ：長いドキュメント、大規模バッチ、エージェントトレース、マルチステップワークフローを処理。
• 140以上の言語：グローバルなエンタープライズおよびコンシューマーアプリケーション向けの多言語ユースケースに対応。
• インストラクションチューニング済み：プロンプトフォロー、チャット、構造化JSON出力、システム指示、関数呼び出し、エージェントワークフローに最適化。

より大きな問題は、これらの能力が実際のパフォーマンスにどのように変換されるかです。Artificial Analysisによると、Gemma 4はGemma 3 26Bから大幅な飛躍を示し、そのインテリジェンスインデックスで最強のオープンウェイトモデルの1つにランクされています。このインデックスはモデルパフォーマンスの主要な独立ベンチマークです。

Cerebrasでホストされた最初で最速のマルチモーダルモデルとして、私たちはまずGemma 4の画像入力をテストせずにはいられませんでした。

私たちが構築・テストしたマルチモーダルユースケース：

ドキュメント分析

まず、古典的なマルチモーダルワークフローである並列ドキュメント分析をテストしました。60ページのDeepSeek-V4技術レポートをアップロードし、Gemma 4に最初の3つの技術図（グラフィック、チャート、各図の重要ポイント）の説明を依頼しました。

アップロードから出力まで、完全な応答はCerebras上でわずか1.79秒で返ってきました。一方、GPUプロバイダーでは約25秒かかり、Cerebrasで17倍の高速化を達成しました。

研究者にとって、この速度は文献レビューのあり方を変えます。モデルが密集した論文を一つずつ解析するのを待つ代わりに、長い技術文書を迅速に調べ、図を検査し、コンテキストが新鮮なうちに質問から答えへと移行できます。

画像分析

次に、画像検索をテストし、人気のGPU推論プロバイダーと比較しました。このデモでは、画像フォルダを指定し、「食べ物」や「赤い車」などの平易な言葉で検索内容を入力すると、Gemma 4が同時に2つのエージェントを起動します。左側はCerebras上のGemma 4、右側はGPU上の同じモデルです。

両方の推論プロバイダーは、まったく同じ80枚の画像を同じバッチ方法、同じプロンプトでループ処理するため、唯一の変数は速度です。その違いは微妙ではありません。モデルが数倍速いと読むのは抽象的ですが、実際に見るのは別です。ビデオをご覧ください。

ここまでは、ドキュメント、チャート、画像などの静的マルチモーダル入力をテストしました。しかし、現実世界の多くの視覚タスクは単一のプロンプトではありません。それらはフレーム、繰り返し呼び出し、構造化出力、ダウンストリームアクションにまたがり、高速推論がパイプライン全体に蓄積されます。

レンタカー損傷スカウト

チームメンバーの最近のヨーロッパ夏の旅行とその途中のレンタカーに触発され、私たちは「ダメージスカウト」というレンタカーの周囲点検ツールを構築しました。

ワークフローは、短い車両周囲ビデオから始まります。これはレンタカーの受け渡し時に録画されるようなものです。アプリはビデオからフレームをサンプリングし、Cerebras上のGemma 4に送信して、目に見える損傷、その位置、モデルの信頼度評価を記述した構造化JSONを要求します。

そこから、同じ傷が複数のフレームで重複して報告されるのを除去し、最も明確な証拠フレームにバウンディングボックスを描画し、確認または次のステップに渡せる損傷レポートを組み立てます。すべてまばたきする間に行われます。

元のビデオは60fpsで録画されたため、カメラがSUVの周りを移動するにつれて、2秒ごとに1フレームをサンプリングしました。34秒の録画から17フレームが生成されました。

以下は、最近Cerebras WSE-3ウェーハ上で実行した結果のサンプルです。注釈付きフレームはほぼ即座に返され始め、パイプラインが進むにつれて目に見える損傷がラベル付けされ、ボックスで囲まれました。

画像に輪郭を描くために、Gemma 4の構造化出力を使用してJavaScriptで画像上のバウンディングボックスを生成しました。3枚の画像のバッチあたりの平均処理時間は300ミリ秒でした。17フレームすべての処理と注釈は、開始から終了までわずか5秒で完了しました。

完全な並列デモにより、レイテンシの違いが明らかになります。以下の並列デモをご覧ください。Cerebrasと、同じGemma 4 31Bモデルを提供する人気のGPUプロバイダーを比較しています。結果は明白です。同じリクエスト、同じ録画で約17倍高速です。

これらのデモを通して、教訓は明確になりました。Cerebras上のGemma 4は、マルチモーダルワークフローをインタラクティブに感じさせるのに十分な速度でしたが、生の推論速度は結果の一部に過ぎません。このエクスペリエンスが機能したのは、周辺システムも速度向けに設計されていたからです。プロンプト形式、画像処理、バッチ処理、構造化出力、ツールオーケストレーションがすべて重要でした。

これらの教訓は、Cerebras上でGemma 4を実際のマルチモーダルアプリケーションにデプロイする開発者にとって実用的な出発点となりました。

私たちが学んだこと：高速マルチモーダルアプリのための7つのヒント

Gemma 4を最大限に活用するには、速度をモデルエンドポイントだけでなくアプリケーション全体に設計する必要があります。

1. 公式チャットテンプレートを使用する。Gemma 4は標準的なシステム、ユーザー、アシスタント/モデルターン、および画像、音声、思考、ツール、tool_calls、tool_responsesの正しい書式を期待します。この構造が正しく処理されると、モデルははるかに信頼性が高まります。手作業で誤って処理すると、特にエージェントワークフローでは、モデルの失敗に見えるが実際にはハーネスの問題である形で推論品質が低下する可能性があります。

1. Google推奨の生成デフォルトから始める。生成には温度1.0とtop_p 0.95を使用しました。これにより、ドキュメント分析、画像検索、ビデオフレーム分析などの特定のワークフロー向けに調整する前の強力なベースラインが得られました。

1. 意図的に思考モードを有効にする。思考モードは推論集約型のワークフローに役立ちますが、デフォルトですべてに追加すべきではありません。公式ドキュメントではシステム指示で活性化し、システム指示やツール定義と一緒に単一のシステムターンに統合するのが最適です。

1. マルチターン履歴をクリーンに保つ。マルチターンエージェントの場合、生の思考は通常の会話履歴から削除する必要がありますが、tool_callシーケンス中は必要な場合に保持します。長期実行エージェントの場合は、以前の推論を要約してその要約を通常のテキストとしてフィードバックする方が、チェイン・オブ・ソートを繰り返し注入してループを作成するよりも優れています。

1. マルチモーダルプロンプトでは画像をテキストの前に配置する。プロンプト構造は重要です。画像入力はテキスト指示の前に配置し、ビジュアルトークンバジェットはタスクに合わせる必要があります。画像検索や分類では低い視覚詳細で十分な場合が多いですが、ドキュメント解析、チャート理解、フレームレベルの検査は高解像度とより多くのビジュアルトークンの恩恵を受けます。

1. 長いコンテキストは入力が構造化されているときに最も効果的。大きなコンテキストウィンドウは強力ですが、魔法ではありません。131Kコンテキストウィンドウがあっても、完全な検索を想定してはいけません。ドキュメント分析やエンタープライズワークフローでは、タスクを構造化し、引用や抽出された証拠を要求し、必要に応じてチャンク化し、出力を検証するのが最善です。

1. ツールループをシンプルかつ明示的にする。ワークフローがツールを使用する場合、ループはクリーンに保つ必要があります。モデルが推論、tool_callの発行、アプリケーションの実行、続行するためのtool_responseの返却という流れです。この構造は、オーケストレーションのオーバーヘッドで速度を失う代わりに、アプリケーション全体で速度を維持するのに役立ちます。

結論はシンプルです。Gemma 4は高速ですが、最良の結果はアプリケーション全体がその速度を維持するときに得られます。クリーンなテンプレート、明確なプロンプト、意図的な推論、構造化されたtool_call、適切なマルチモーダル設定が、生の推論速度を真に対話的に感じられるワークフローに変えます。

構築を始める

より大きなポイントは、単にトークンをより速く出力できるということではありません。むしろ、低レイテンシのマルチモーダル推論は、開発者が合理的に設計できるものを変えるということです。長い待ち時間、プログレスバー、バッチジョブを中心に構築する代わりに、リアルタイムフィードバック、迅速な反復、継続的なインタラクションを中心に構築できます。

このシフトは、異なる種類の製品エクスペリエンスを開きます。何を、どのように構築できるかを変えます。

開発者にとって、これはより野心的な製品パターンを開きます。より豊かなインタラクション、より頻繁なモデル呼び出し、より緊密なフィードバックループ、そしてデフォルトでインタラクティブに感じられるワークフローです。速度は単なるパフォーマンスの主張ではなく、エクスペリエンスの基盤となります。

Gemma 4は現在Cerebras上で利用可能です。cloud.cerebras.aiにアクセスしてください。構築したものを共有し、Xで@cerebrasをタグ付けしてください。

—————————————-

Halley Chang、Tin Hoang、Manny Monge、Sneha Khanvilkarのデザインサポート、コピー編集、および thoughtful なレビューフィードバックに感謝します。