本文にスキップ
AI News HubLIVE
要約のみ

Google DeepMind、Gemma 4 QATチェックポイントをリリース：Q4_0と新しいモバイル形式でオンデバイスメモリを削減

Google DeepMindは、エッジデバイスとコンシューマーGPUでのローカル実行を目的として、Gemma 4ファミリー向けの量子化認識トレーニング（QAT）チェックポイントをリリースしました。本記事では、公式データに基づきBF16、Q4_0 QAT、および新しいモバイルQAT形式のメモリ使用量、品質保持、デバイス適合性を比較します。

ソースMarkTechPost著者: Asif Razzaq
Google DeepMind、Gemma 4 QATチェックポイントをリリース：Q4_0と新しいモバイル形式でオンデバイスメモリを削減
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内

要約のみ

配信元のコンテンツ権限に基づき、編集要約、要点、原文へのリンクのみを提供します。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • Q4_0 QATにより、E2BモデルはBF16の9.6GBから3.2GB、E4Bは15GBから5GBに削減。
  • 新しいモバイルQAT形式ではE2Bが約1GB、テキストのみの場合は1GB未満。
  • QATは同じサイズでPTQより品質を向上させるが、Gemma 4 QATのベンチマークは未公表。
  • 重みはHugging Faceで入手可能で、llama.cpp、Ollama、LM Studio、vLLM、MLX、LiteRT-LMをサポート。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。