跳到主要内容
AI News HubLIVE
更多
站内改写1 分钟阅读

谷歌新开放模型DiffusionGemma:通过噪声而非逐词生成文本

文章摘要

谷歌发布26亿参数的DiffusionGemma模型,采用扩散方式生成文本,速度是传统自回归模型的四倍,但质量较低,目前作为实验工具。

来源The Decoder作者: Jonathan Kemper
谷歌新开放模型DiffusionGemma:通过噪声而非逐词生成文本
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

谷歌近日发布了名为DiffusionGemma的全新开放模型,该模型拥有26亿个参数,采用了一种不同于传统逐词生成文本的方法——扩散技术。这种技术类似于AI图像生成从噪声中逐步还原出清晰图片的过程,让模型从随机噪声开始,逐步优化为最终的文本输出。

据英伟达测试,DiffusionGemma在单个H100 GPU上每秒可生成约1000个token,速度大约是同等规模自回归模型的四倍。不过,速度提升的代价是生成质量有所下降。谷歌因此将其定位为实验性工具,面向开发者探索应用场景。

该模型目前已开源,开发者可在相关平台获取。谷歌表示,DiffusionGemma在加速文本生成任务上具有潜力,但短期内不适合对质量要求极高的场景。

展开要点与分析

文章情报

工程师进阶

要点

  • DiffusionGemma是26亿参数模型,通过噪声扩散生成文本
  • 速度达每秒1000个token,比传统模型快4倍
  • 输出质量较低,谷歌暂时定位为实验工具

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。