Tether 將 TurboQuant 引入其本地 AI 引擎 QVAC SDK
QVAC SDK 0.12.0 引入了 TurboQuant，這是一種 KV 緩存量化算法，可將上下文內存佔用減少約 5 倍，使本地 AI 能在消費級 GPU 上處理 262K 令牌的全長上下文。該算法來自 Google Research 的 ICLR 2026 論文，無需重新訓練模型即可生效。
Tether 將 TurboQuant 引入其本地 AI 引擎 QVAC SDK
本文僅提供摘要
根據來源內容權限，本站僅提供編輯摘要、要點和原文連結。