跳到主要內容
AI News HubLIVE
更多
站內改寫1 分鐘閱讀

谷歌新開放模型DiffusionGemma:透過噪聲而非逐詞生成文本

文章摘要

谷歌釋出26億引數的DiffusionGemma模型,採用擴散方式生成文本,速度是傳統自迴歸模型的四倍,但質量較低,目前作為實驗工具。

來源The Decoder作者: Jonathan Kemper
谷歌新開放模型DiffusionGemma:透過噪聲而非逐詞生成文本
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

谷歌近日釋出了名為DiffusionGemma的全新開放模型,該模型擁有26億個引數,採用了一種不同於傳統逐詞生成文本的方法——擴散技術。這種技術類似於AI影像生成從噪聲中逐步還原出清晰圖片的過程,讓模型從隨機噪聲開始,逐步最佳化為最終的文本輸出。

據輝達測試,DiffusionGemma在單個H100 GPU上每秒可生成約1000個token,速度大約是同等規模自迴歸模型的四倍。不過,速度提升的代價是生成質量有所下降。谷歌因此將其定位為實驗性工具,面向開發者探索應用場景。

該模型目前已開源,開發者可在相關平臺獲取。谷歌表示,DiffusionGemma在加速文本生成任務上具有潛力,但短期內不適合對質量要求極高的場景。

展開要點與分析

文章情報

工程師進階

要點

  • DiffusionGemma是26億引數模型,透過噪聲擴散生成文本
  • 速度達每秒1000個token,比傳統模型快4倍
  • 輸出質量較低,谷歌暫時定位為實驗工具

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。