Google DeepMind发布Gemma 4 QAT检查点：Q4_0和新移动格式降低设备端内存

要点

• Q4_0 QAT将Gemma 4 E2B模型从BF16的9.6GB降至3.2GB，E4B从15GB降至5GB。
• 新型移动QAT格式将E2B内存降至约1GB，纯文本版本更低。
• QAT在不改变模型大小的前提下提升质量，但Google未发布Gemma 4 QAT基准分数。
• 模型权重已可在Hugging Face上获取，支持llama.cpp、Ollama、LM Studio等框架。