Xiaomi MiMoとTileRT、1兆パラメータモデルで毎秒1000トークン超えを汎用GPUで実現
XiaomiのMiMoチームはTileRTと協力し、MiMo-V2.5-Pro-UltraSpeedをリリース。1兆パラメータモデルを8基の汎用GPUノードで毎秒1000トークン以上でデコードします。FP4量子化、DFlash投機的デコード、TileRT実行時の3つの技術による高速化。APIトライアルは2026年6月9日~23日。
Xiaomi MiMoとTileRT、1兆パラメータモデルで毎秒1000トークン超えを汎用GPUで実現
要約のみ
配信元のコンテンツ権限に基づき、編集要約、要点、原文へのリンクのみを提供します。