谷歌近日發佈了名為DiffusionGemma的全新開放模型,該模型擁有26億個參數,採用了一種不同於傳統逐詞生成文本的方法——擴散技術。這種技術類似於AI圖像生成從噪聲中逐步還原出清晰圖片的過程,讓模型從隨機噪聲開始,逐步優化為最終的文本輸出。
據英偉達測試,DiffusionGemma在單個H100 GPU上每秒可生成約1000個token,速度大約是同等規模自迴歸模型的四倍。不過,速度提升的代價是生成質量有所下降。谷歌因此將其定位為實驗性工具,面向開發者探索應用場景。
該模型目前已開源,開發者可在相關平台獲取。谷歌表示,DiffusionGemma在加速文本生成任務上具有潛力,但短期內不適合對質量要求極高的場景。