QuIDE：通过主动优化掌握量化智能权衡 - 论文解读
量化神经网络在部署到资源受限设备时至关重要，但长期以来缺乏统一指标来评估压缩、准确性和延迟之间的权衡。近日，研究人员提出了QuIDE（Quantized Intelligence via Active Optimization），通过一个称为智能指数（Intelligence Index）的单一评分来解决这一问题。该论文由Xiantao Jiang撰写，于2026年5月5日提交至arXiv，共16页，包含9张图表。
智能指数定义为 I = (C × P) / log₂(T+1)，其中C表示压缩率，P表示准确度，T表示延迟。该指数将三个关键维度整合为一个分数，便于比较不同量化策略的效率。研究团队在六种不同的设置上进行了实验，包括在MNIST和CIFAR数据集上的SimpleCNN、在ImageNet-1K上的ResNet-18，以及Llama-3-8B大语言模型。
实验结果表明，存在任务依赖的帕累托最优（Pareto Knee）。对于简单的MNIST任务和大规模语言模型（如Llama-3-8B），4位量化是最优选择；而对于像ResNet-18在ImageNet上这样的复杂CNN任务，8位量化则是甜蜜点。值得注意的是，在复杂任务上使用4位后训练量化（PTQ）会导致准确率灾难性下降。
为了应对原始智能指数可能奖励那些尽管压缩和延迟表现良好但准确率极低（即不实用）的配置，作者提出了准确率门控变体I'。该变体在准确率低于阈值时会显著降低评分，从而正确标记那些不可行的配置，防止了量化策略在牺牲准确率的情况下获得高分。
QuIDE不仅提供了可重复的评估协议，还提供了一个现成的适应度函数，可用于混合精度搜索——即自动寻找不同层的最佳位宽组合。这一工作为量化神经网络的研究提供了标准化工具，有望加速高效AI模型的开发与部署。论文已被分类为机器学习（cs.LG）和人工智能（cs.AI），并可通过DOI 10.48550/arXiv.2605.10959获取。