DiffusionGemma:Googleが公開した高速テキスト生成オープンモデル
Googleは、Apache 2ライセンスのオープンウェイトモデルDiffusionGemmaを公開しました。NVIDIAのNIMクラウドAPIで無料利用可能で、500トークン/秒以上の高速生成を実現します。
Googleは、新しいオープンウェイトテキスト生成モデルDiffusionGemmaを公開しました。本モデルはApache 2ライセンスの下で提供され、昨年一時的に公開された実験的Gemini Diffusionモデルの研究成果を引き継いでいます。
モデル名はgoogle/diffusiongemma-26B-A4B-itで、NVIDIAはNIMクラウドAPIを通じて無料でホスティングしています。テストでは、4.4秒で2,409トークンを生成し、毎秒500トークン以上の速度を記録。昨年のプレビュー版(857トークン/秒)に迫る性能でありながら、オープンソースとして提供される点が大きな進展です。
DiffusionGemmaはGemmaアーキテクチャをベースに、高速なテキスト生成に特化。低レイテンシが要求されるアプリケーションに適しており、商用利用も可能なライセンスにより、幅広い開発者コミュニティでの活用が期待されます。