Googleの新オープンモデルDiffusionGemma、ノイズからテキストを生成
Googleは260億パラメータのDiffusionGemmaを公開。拡散方式でテキストを生成し、H100 GPUで毎秒1,000トークンと従来の4倍の速度だが、品質は低く実験的。
Googleは、新しいオープンモデル「DiffusionGemma」をリリースしました。このモデルは260億のパラメータを持ち、従来のトークン単位の生成ではなく、画像AIがノイズから画像を生成するのと同様の拡散プロセスを用いてテキストを生成します。
NVIDIAのテストによると、DiffusionGemmaは単一のH100 GPU上で毎秒約1,000トークンを生成でき、これは同等の自己回帰モデルの約4倍の速度に相当します。ただし、速度の向上と引き換えに出力品質が低下するため、Googleは現在のところ開発者向けの実験的なツールとして位置づけています。
同モデルはオープンソースで公開されており、開発者は迅速なテキスト生成の可能性を探ることができます。Googleは、DiffusionGemmaがテキスト生成タスクの高速化に有望である一方、高い品質が求められる用途には当面適さないとしています。