这篇题为《Attribution-Guided and Coverage-Maximized Pruning for Structural MoE Compression》的论文于2026年6月16日提交至arXiv，编号为2606.18304v1，属于机器学习（cs.LG）与人工智能（cs.AI）交叉领域。作者为Yifu Ding等共7人，论文共9页、含5张图，已投稿至ICML 2026。研究聚焦于混合专家（MoE）模型在部署阶段面临的内存占用与推理开销问题，提出一种面向MoE结构压缩的剪枝框架。
MoE模型通过稀疏激活专家网络实现计算效率的扩展，但其庞大的参数总量导致显存占用高、推理延迟大，成为实际部署的主要障碍。现有压缩方法大多在专家粒度上操作，例如直接删除整个专家，或依据粗粒度的重要性评分对专家排序后裁剪。作者指出，这类专家级决策过于粗糙，难以捕捉专家内部细粒度的冗余结构，容易造成剪枝预算分配不当，压缩效果受限。
论文的核心观察是：MoE专家内部的信息高度集中于少数通道，即使是被判定为重要的专家，其内部仍存在大量冗余通道。基于这一发现，作者将剪枝比例分配问题重新建模为通道评分覆盖最大化问题，并利用基于归因（attribution）的近似方法高效求解。该框架在通道级别进行结构化剪枝，而非简单删除专家，从而更精细地利用冗余空间。
实验在DeepSeek与Qwen系列MoE模型上展开。结果表明，在结合4-bit量化的情况下，该方法在50%或25%的结构化剪枝比例下仍能保持模型精度。在Qwen3-30B-A3B模型上，该方法将内存占用降低5.27倍，并在多个基准测试中持续优于现有最先进基线。论文摘要还提供了PDF、实验性HTML版本及TeX源码链接，DOI为10.48550/arXiv.2606.18304，由DataCite颁发。
该研究的贡献在于将MoE压缩的决策粒度从专家级下沉到通道级，并通过覆盖最大化与归因近似解决了剪枝预算分配的优化问题，为MoE模型的高效部署提供了新的结构化压缩思路。