QuIDE：透過主動最佳化掌握量化智慧權衡 - 論文解讀
量化神經網路在部署到資源受限裝置時至關重要，但長期以來缺乏統一指標來評估壓縮、準確性和延遲之間的權衡。近日，研究人員提出了QuIDE（Quantized Intelligence via Active Optimization），透過一個稱為智慧指數（Intelligence Index）的單一評分來解決這一問題。該論文由Xiantao Jiang撰寫，於2026年5月5日提交至arXiv，共16頁，包含9張圖表。
智慧指數定義為 I = (C × P) / log₂(T+1)，其中C表示壓縮率，P表示準確度，T表示延遲。該指數將三個關鍵維度整合為一個分數，便於比較不同量化策略的效率。研究團隊在六種不同的設定上進行了實驗，包括在MNIST和CIFAR資料集上的SimpleCNN、在ImageNet-1K上的ResNet-18，以及Llama-3-8B大語言模型。
實驗結果表明，存在任務依賴的帕累托最優（Pareto Knee）。對於簡單的MNIST任務和大規模語言模型（如Llama-3-8B），4位量化是最優選擇；而對於像ResNet-18在ImageNet上這樣的複雜CNN任務，8位量化則是甜蜜點。值得注意的是，在複雜任務上使用4位後訓練量化（PTQ）會導致準確率災難性下降。
為了應對原始智慧指數可能獎勵那些儘管壓縮和延遲表現良好但準確率極低（即不實用）的配置，作者提出了準確率門控變體I'。該變體在準確率低於閾值時會顯著降低評分，從而正確標記那些不可行的配置，防止了量化策略在犧牲準確率的情況下獲得高分。
QuIDE不僅提供了可重複的評估協議，還提供了一個現成的適應度函式，可用於混合精度搜尋——即自動尋找不同層的最佳位寬組合。這一工作為量化神經網路的研究提供了標準化工具，有望加速高效AI模型的開發與部署。論文已被分類為機器學習（cs.LG）和人工智慧（cs.AI），並可透過DOI 10.48550/arXiv.2605.10959獲取。