本文にスキップ
AI News HubLIVE
その他
要約のみ

Xiaomi MiMoとTileRT、1兆パラメータモデルで毎秒1000トークン超えを汎用GPUで実現

XiaomiのMiMoチームはTileRTと協力し、MiMo-V2.5-Pro-UltraSpeedをリリース。1兆パラメータモデルを8基の汎用GPUノードで毎秒1000トークン以上でデコードします。FP4量子化、DFlash投機的デコード、TileRT実行時の3つの技術による高速化。APIトライアルは2026年6月9日~23日。

ソースMarkTechPost著者: Asif Razzaq
Xiaomi MiMoとTileRT、1兆パラメータモデルで毎秒1000トークン超えを汎用GPUで実現
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内

要約のみ

配信元のコンテンツ権限に基づき、編集要約、要点、原文へのリンクのみを提供します。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • 1兆パラメータMoEモデルが汎用GPUで1000+ トークン/秒
  • 3つの技術:FP4量子化、DFlash投機的デコード、TileRTランタイム
  • DFlash投機的デコードのコーディングタスクでの平均受入長6.30
  • APIトライアルは期間限定、モデル重みと一部コードはオープンソース

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。