Gemma 4 は、Google の Gemma シリーズの最新モデルであり、オープンウェイトでネイティブマルチモーダルな言語モデルの新世代を代表します。本テクニカルレポートは、2026 年 7 月 2 日に arXiv に提出され、Gemma チーム（Sherif El Abd ら 300 名の著者）によって執筆され、全 17 ページ、2 図から構成されています。レポートでは、モデルアーキテクチャ、トレーニング戦略、およびパフォーマンスについて詳述され、Gemma 4 の計算効率と推論能力における大幅な進歩が示されています。
Gemma 4 モデルスイートは、2.3B から 31B パラメータの異なる規模をカバーし、高密度（dense）および混合専門家（Mixture-of-Experts, MoE）の両方のアーキテクチャを採用しています。この多様性は、計算効率と推論能力の両立を目的としており、さまざまなアプリケーションシナリオに柔軟に対応します。すべてのサイズのモデルに改良されたビジョンおよびオーディオエンコーダが搭載されており、マルチモーダル入力をより効果的に処理できます。特に、12B パラメータモデルでは、統一されたエンコーダフリーアーキテクチャを採用し、生のオーディオと画像パッチを直接処理できる点が際立っています。この設計はモデル構造を簡素化し、より効率的な推論を可能にする可能性があります。
重要な革新として、「シンキングモード」（思考モード）の統合が挙げられます。このモードでは、最終的な応答を生成する前に、モデルが一連の推論トレースを生成します。これにより、複雑な問題に対する推論の正確性が向上し、人間が解答前に考えるプロセスに似た、より深い思考が可能になります。
工学的な最適化面では、Gemma 4 は重要な設計選択を通じて、推論速度、メモリ使用量、計算効率を改善し、長コンテキスト処理能力を拡張しています。これらの改良により、モデルは大規模データをより効率的に処理でき、長距離依存関係を必要とするタスクに適しています。具体的には、より優れたキャッシュメカニズムとアテンションアルゴリズムを採用することで、パフォーマンスを維持しながらリソース消費を低減しています。
パフォーマンス面では、Gemma 4 は STEM（科学、技術、工学、数学）分野、マルチモーダルタスク、および長コンテキストベンチマークにおいて顕著な進歩を示しています。報告書によると、このモデルは人間による評価タスクにおいて、より大規模な最先端オープンモデルと互角の性能を発揮し、その競争力を証明しています。例えば、数学的推論、コード生成、画像理解などのタスクにおいて、Gemma 4 はより大規模なモデルと同等のレベルに達しており、そのアーキテクチャ設計とトレーニング戦略の有効性を示しています。
本テクニカルレポートの公開は、オープンモデルコミュニティに重要な技術的参考情報を提供し、マルチモーダル AI 研究の発展を促進することが期待されます。Gemma 4 の多様なサイズとアーキテクチャの選択肢、およびその顕著なパフォーマンスは、研究者やエンジニアにとって強力なツールとなるでしょう。