谷歌透過多令牌預測將Gemma 4速度提升三倍
谷歌為其開源Gemma 4模型系列釋出了多令牌預測草案，可將文本生成速度提升最多三倍。該技術利用一個小型輔助模型在空閒計算容量下同時預測多個令牌，主模型隨後一次性驗證這些令牌，從而在不損失質量的前提下加速生成。
谷歌透過多令牌預測將Gemma 4速度提升三倍
本文僅提供摘要
根據來源內容權限，本站僅提供編輯摘要、要點和原文連結。
谷歌為其開源Gemma 4模型系列釋出了多令牌預測草案，可將文本生成速度提升最多三倍。該技術利用一個小型輔助模型在空閒計算容量下同時預測多個令牌，主模型隨後一次性驗證這些令牌，從而在不損失質量的前提下加速生成。
根據來源內容權限，本站僅提供編輯摘要、要點和原文連結。