Polymathic AI与普林斯顿研究人员发布FlashMap:一种实现6.14倍加速LLM解码的流映射起草器
Polymathic AI、普林斯顿大学和USC ISI的研究人员发布了FlashMap,这是一种用连续流映射替代离散扩散起草器的投机解码方案。它能在一次前向传播中联合起草16个token,在Qwen3-8B上实现最高6.14倍的无损加速。
Polymathic AI与普林斯顿研究人员发布FlashMap:一种实现6.14倍加速LLM解码的流映射起草器
本文仅提供摘要
根据来源内容权限,本站仅提供编辑摘要、要点和原文链接。