本文にスキップ
AI News HubLIVE
サイト内リライト2 分で読了

qZACH-ViT:再帰的アトリビューション安定化最適化を用いた量子化認識内在的説明

記事の要約

本論文は、コンパクトな医用画像分類器の効率性と解釈可能性を両立するqZACH-ViTを提案する。ゼロトークン(CLSトークンフリー)、ポジションフリーのZACH-ViTバックボーンを量子化認識に拡張し、再帰的内在パッチレベルクラス証拠を導入。さらに、分類とアトリビューションの勾配をノルム一致させ、競合成分を除去する再帰的アトリビューション安定化最適化(RASO)を開発。7つのMedMNISTデータセットで評価し、混合精度INT8 qZACH-ViTはFP32ベースラインを上回り、モデルサイズ70%削減、CPU速度1.41~2.39倍高速化、予測一致率99.975%を達成。RASOは十分性誤差を低減し、ノイズ安定性を向上。

ソースarXiv Machine Learning著者: Athanasios Angelakis
qZACH-ViT:再帰的アトリビューション安定化最適化を用いた量子化認識内在的説明
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

医用画像分類の分野では、コンパクトなモデルの効率性と解釈可能性の両立が重要な課題となっている。最近、Athanasios Angelakis氏らの研究チームは、量子化認識型のコンパクト医用画像分類器「qZACH-ViT」と、再帰的アトリビューション安定化最適化(RASO)を提案した。本論文はarXiv(識別子2607.15421)に提出されている。

qZACH-ViTは、ゼロトークン(CLSトークンフリー)かつポジションフリーのZACH-ViTバックボーンを量子化認識に拡張したものである。ZACH-ViTは再帰的な内在パッチレベルのクラス証拠を提供する。qZACH-ViTでは、210のチェックポイントが16の符号付きINT8 MatMulInteger投影(INT32累積)を含む実行可能な混合精度ONNX INT8グラフに変換される。

RASOは、分類勾配とアトリビューション勾配をノルム一致させ、分類と競合するアトリビューション成分を除去することで、説明の安定性と品質を向上させる。実験は7つのMedMNISTデータセットで、クラスあたり50枚のトレーニング画像と10の固定シードを用いて4つの制御条件下で行われ、合計280回の実行が完了した。混合精度INT8 qZACH-ViT(Adam使用)は、すべてのデータセットでFP32 ZACH-ViTベースラインを上回り、データセット固有の主要指標における平均ペア利得は0.0313であった。RASOを使用した場合、平均利得は0.0368に向上した。

展開面では、ONNXアーティファクトは元のチェックポイントより70%小型化され、CPUのエンドツーエンド推論速度はシングルスレッドで1.41倍、4スレッドで2.39倍向上した。964,920回の元モデル対INT8モデルのテスト比較において、予測一致率は99.9751%であり、主要指標の平均絶対変化は0.000133、最大変化は0.004386であった。また、3,600組の内在マップにおいて、平均コサイン類似度は0.999955、平均順位相関は0.9944、平均上位10%オーバーラップは0.9692であった。

RASOは、同じアトリビューション損失を用いたAdamと比較して、十分性誤差を大幅に低減し、入力ノイズ安定性を向上させるが、すべての予測または説明可能AI(XAI)指標で優位に立つわけではない。これらの結果は、qZACH-ViTを展開可能なコンパクト内在的説明可能モデルとして、RASOを安定性指向の最適化手順として確立するものである。本研究は、効率性、解釈可能性、正確性のバランスを重視した医用画像分類の実用的展開に新たな道を開くものである。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • qZACH-ViTは量子化認識型コンパクト医用画像分類器で、混合精度INT8展開が可能。
  • RASO最適化は勾配をノルム一致させ、競合アトリビューション成分を除去し解釈性を向上。
  • 7つのMedMNISTデータセットで、Adam使用時0.0313、RASO使用時0.0368の平均利得を達成。
  • モデルサイズ70%削減、CPU速度1.41倍(シングルスレッド)・2.39倍(4スレッド)、予測一致率99.9751%。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。