跳到主要內容
AI News HubLIVE
站內改寫1 分鐘閱讀

MixCompress:用於可變速率學習圖像壓縮的專家混合模型

文章摘要

MixCompress是一種基於稀疏結構專業化的統一可變比特率(VBR)框架,通過結合稀疏門控的專家混合(MoE)和深度混合(MoD)擴展,動態縮放模型容量,並利用條件輔助變換(CAT)進行子帶能量調製,解決了現有VBR方法中的特徵糾纏問題,實現了與單速率基線相當甚至更優的性能,建立了計算高效的圖像編碼新帕累託前沿。

來源arXiv Computer Vision作者: Calvin-Khang Ta, Praneet Singh, Tong Shao, Peng Yin
MixCompress:用於可變速率學習圖像壓縮的專家混合模型
報告錯誤

更正渠道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

近日,一篇被ECCV 2026接收的論文提出了MixCompress,一種基於專家混合(MoE)和深度混合(MoD)的統一可變比特率(VBR)圖像壓縮框架。該研究由Calvin-Khang Ta等人完成,旨在解決學習圖像壓縮(LIC)中獨立模型存儲開銷大以及現有VBR方法中特徵糾纏的問題。

在傳統LIC中,每個率失真工作點都需要獨立存儲模型,導致資源浪費。現有的VBR方法通過密集參數調製減少開銷,但強制共享骨幹網絡去逼近不同的映射會引起嚴重的特徵糾纏。具體來説,低速率下的平滑梯度與高頻紋理細節的保留存在衝突,導致性能次優。MixCompress的核心創新在於稀疏結構專業化。它採用稀疏門控的專家混合(MoE)路由,成功緩解了梯度衝突。然而,MoE在固定計算預算下運行,無法滿足高速率下增加的表示需求。為此,研究者引入深度混合(MoD)擴展,以動態調整模型容量。此外,條件輔助變換(CAT)實現了動態子帶能量調製,使得層次化框架能夠高效地動態縮放容量。

大量評估表明,MixCompress不僅與單獨優化的單速率基線性能相當,甚至在某些情況下超越它們,為計算高效的圖像編碼建立了新的帕累託前沿。這一成果對於圖像壓縮領域具有重要價值,有望推動視頻流媒體、雲存儲等應用的發展。論文已提交至arXiv,並將在ECCV 2026上展示。該工作由Calvin-Khang Ta與三位合作者共同完成,論文編號arXiv:2607.14334。MixCompress通過稀疏門控MoE緩解了梯度衝突,同時引入MoE的深度變體MoD來動態擴展模型容量,配合CAT進行子帶能量調製,實現了在統一框架下的可變比特率壓縮,性能超越了傳統單速率模型。

展開要點與分析

文章情報

投資人進階

要點

  • 現有可變比特率方法因共享骨幹網絡導致特徵糾纏,低速率平滑與高頻細節保存衝突。
  • MixCompress採用稀疏門控MoE緩解梯度衝突,並提出MoD動態擴展容量以適應高速率需求。
  • 結合CAT進行動態子帶能量調製,實現層次化容量縮放。
  • 實驗表明MixCompress匹敵甚至超越單速率基線,建立新帕累託前沿。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。