視覚Transformer（ViT）は高い精度を達成しているものの、その予測は偽の手がかりに影響される可能性があり、安全な展開の前に内部動作を理解する必要性が高まっている。スパースオートエンコーダ（SAE）は、モデル表現を人間に解釈可能な概念に分解する有望な手法を提供するが、SAEベースの解釈をViTに適用することは、概念カバレッジの制御が限られていることや、特徴解釈が主観的でスケーラブルでないことから、依然として困難である。
これらのギャップを埋めるため、Tang Liらは神経科学に着想を得た原理に基づき、概念回路を通じてViTの内部動作を理解するための機械論的解釈可能性ツールボックス「ViSAE」を提案した。この研究成果はICML 2026に採択され（採択率26.6%）、コードとデータはGitHubで公開されている。
ViSAEは3つのコンポーネントで構成されている。第1のコンポーネントは、64K枚の画像と16Kの視覚的根拠に基づく概念語彙を含むプロービングスイートである。これにより、ImageNetと比較して概念カバレッジ効率が20倍向上し、既存の概念セットと比較して解釈精度が28.7%向上する。このスイートは、後の分析のためのより豊かで効率的な概念基盤を提供する。
第2のコンポーネントは、トップダウンの概念読み取りアルゴリズムとボトムアップの回路追跡アルゴリズムである。これらのアルゴリズムは、ViT内部の概念回路を自動的に復元し、モデルが予測のために視覚概念をどのように組み合わせて利用するかを明らかにする。この双方向の分析アプローチにより、モデルのメカニズムをより包括的に特徴付けることができる。
第3のコンポーネントは、ViTの行動を監査および操作するためのアプリケーションである。概念編集技術により、ViSAEはWaterBirdsデータセットの最悪グループ精度を48.2%向上させ、既存手法を23.8%上回る。この結果は、モデルの公平性と堅牢性を改善するViSAEの実用的な可能性を示している。
全体として、ViSAEは視覚Transformerの機械論的解釈可能性のための体系的なツールボックスを提供する。研究者がモデルの内部ロジックを理解するのを助けるだけでなく、概念編集を通じてモデルの行動を積極的に修正し、より安全で信頼性の高い視覚モデルの展開を促進する。