Tether、ローカルAIエンジンQVAC SDKにTurboQuantを導入
QVAC SDK 0.12.0 は、KVキャッシュ量子化アルゴリズムTurboQuantを導入し、コンテキストメモリ消費を最大5倍削減、コンシューマーGPU上で262Kトークンの完全コンテキストを実現します。モデルの再トレーニングは不要で、Google ResearchのICLR 2026論文に基づいています。
Tether、ローカルAIエンジンQVAC SDKにTurboQuantを導入
要約のみ
配信元のコンテンツ権限に基づき、編集要約、要点、原文へのリンクのみを提供します。