KV缓存压缩竞赛：TurboQuant vs OSCAR vs EpiCache

长上下文大语言模型面临KV缓存内存瓶颈，本文对比了TurboQuant、OSCAR和EpiCache三种压缩方案。TurboQuant提供数据无关的3-4位近无损压缩，OSCAR实现可部署的INT2压缩并配备生产级系统支持，EpiCache则针对多轮对话场景进行缓存管理。三者互补而非竞争。