Zyphra、ZAYA1-8B-Diffusion-Previewをリリース：自己回帰LLMから変換された初のMoE拡散モデル、最大7.7倍の高速化

Zyphraは、自己回帰型MoEモデルを離散拡散モデルに変換したZAYA1-8B-Diffusion-Previewをリリースしました。このモデルは、デコードをメモリ帯域幅制約から計算制約にシフトすることで、最大7.7倍の推論高速化を実現します。ZAYA1-8Bをベースに、TiDARレシピを用いて拡散変換トレーニングを実施し、ロスレスとロジットミキシングの2つのサンプラーを提供します。AMDハードウェア上で動作し、顕著な効率向上を示しています。