小米MiMo与TileRT实现万亿参数模型每秒超1000 token生成,运行于商用GPU
小米MiMo团队联合TileRT推出MiMo-V2.5-Pro-UltraSpeed,在单台8×商用GPU节点上,实现万亿参数模型每秒超1000 token的解码速度。该技术结合FP4量化、DFlash投机解码和TileRT运行时三大创新,无需定制芯片即可达此性能。API试用期为2026年6月9日至23日,定价为标准模型的3倍。
小米MiMo与TileRT实现万亿参数模型每秒超1000 token生成,运行于商用GPU
本文仅提供摘要
根据来源内容权限,本站仅提供编辑摘要、要点和原文链接。