谷歌近日釋出了名為DiffusionGemma的全新開放模型,該模型擁有26億個引數,採用了一種不同於傳統逐詞生成文本的方法——擴散技術。這種技術類似於AI影像生成從噪聲中逐步還原出清晰圖片的過程,讓模型從隨機噪聲開始,逐步最佳化為最終的文本輸出。
據輝達測試,DiffusionGemma在單個H100 GPU上每秒可生成約1000個token,速度大約是同等規模自迴歸模型的四倍。不過,速度提升的代價是生成質量有所下降。谷歌因此將其定位為實驗性工具,面向開發者探索應用場景。
該模型目前已開源,開發者可在相關平臺獲取。谷歌表示,DiffusionGemma在加速文本生成任務上具有潛力,但短期內不適合對質量要求極高的場景。