谷歌近日发布了名为DiffusionGemma的全新开放模型,该模型拥有26亿个参数,采用了一种不同于传统逐词生成文本的方法——扩散技术。这种技术类似于AI图像生成从噪声中逐步还原出清晰图片的过程,让模型从随机噪声开始,逐步优化为最终的文本输出。
据英伟达测试,DiffusionGemma在单个H100 GPU上每秒可生成约1000个token,速度大约是同等规模自回归模型的四倍。不过,速度提升的代价是生成质量有所下降。谷歌因此将其定位为实验性工具,面向开发者探索应用场景。
该模型目前已开源,开发者可在相关平台获取。谷歌表示,DiffusionGemma在加速文本生成任务上具有潜力,但短期内不适合对质量要求极高的场景。