在醫學影像分類領域,緊湊型模型的效率和可解釋性往往難以兼顧。近日,一項名為qZACH-ViT的研究提出了一種量化感知的緊湊型醫學圖像分類器,通過創新的遞歸歸因穩定優化(RASO)技術,在保持高性能的同時顯著提升了模型的可解釋性。該研究由Athanasios Angelakis等人完成,論文已提交至arXiv(編號2607.15421)。
qZACH-ViT是ZACH-ViT骨幹網絡的量化感知擴展版本。ZACH-ViT本身是一種無需類別令牌(CLS-token)和無位置編碼的視覺Transformer架構,通過遞歸的內在補丁級類別證據實現解釋。qZACH-ViT在此基礎上引入量化感知訓練,使得模型能夠部署為混合精度INT8格式,具體表現為將210個檢查點轉換為包含16個有符號INT8 MatMulInteger投影(INT32累加)的可執行ONNX圖。
研究團隊還提出了遞歸歸因穩定優化(RASO),該方法通過歸一化匹配分類梯度和歸因梯度,並移除與分類相沖突的歸因成分,從而提升解釋的穩定性和質量。在實驗中,研究人員在七個MedMNIST數據集上設置了四種受控條件,每類僅使用50張訓練圖像和十個固定隨機種子,共計完成280次運行。結果表明,採用Adam優化器的混合精度INT8 qZACH-ViT在所有數據集上均優於FP32 ZACH-ViT基線,平均配對增益為0.0313(按數據集特定主要指標計算);而結合RASO後,平均增益進一步達到0.0368。
在模型部署方面,ONNX工具體積比原始檢查點縮小70%,端到端CPU推理速度提升1.41倍(單線程)和2.39倍(四線程)。在964,920次原模型到INT8模型的測試比較中,預測一致性高達99.9751%,主要指標的平均絕對變化僅為0.000133,最大變化為0.004386。此外,在3,600對匹配的內在歸因圖中,平均餘弦相似度為0.999955,平均秩相關性為0.9944,平均前10%重疊率為0.9692。
值得注意的是,RASO在充分性誤差和輸入噪聲穩定性方面顯著優於使用相同歸因損失的Adam,但並非在所有預測或可解釋人工智能(XAI)指標上都佔優。這些結果確立了qZACH-ViT作為可部署的緊湊型內在可解釋模型,而RASO則作為一種針對穩定性的優化程序。該研究為醫學圖像分類的實用化部署提供了新的思路,平衡了效率、可解釋性和準確性。