拡散ベースのLLM:トークンを逐次ではなく並列生成し、高速化・低コスト化
Inception社は、従来の自己回帰型ではなく拡散モデルを採用した次世代大規模言語モデルを開発。複数のトークンを並列生成することで、速度を数倍に向上させ、コストを半分以下に削減する。Mercuryシリーズ(推論用dLLMとコード編集用)はフォーチュン500企業で導入され、顕著な性能向上を示している。
拡散ベースのLLM:トークンを逐次ではなく並列生成し、高速化・低コスト化
要約のみ
配信元のコンテンツ権限に基づき、編集要約、要点、原文へのリンクのみを提供します。