自動運転や医療画像診断といった安全クリティカルな領域でVision Transformer(ViT)の利用が拡大するにつれ、ソフトエラーに対する信頼性の確保が極めて重要になっている。しかし、ViTの膨大なパラメータ数は、網羅的なフォールトインジェクションキャンペーンを実行不可能にする。この課題を解決するため、研究チームはSENTRYと呼ぶ統計的フォールトインジェクション枠組みを提案した。この研究はPramit Kumar Bhaduriら6名の著者によって行われ、2026年5月30日にarXiv(2606.07620)に投稿された。
SENTRYの核心は、有限母集団サンプリング理論を活用して信頼性評価のコストを大幅に削減する点にある。研究によれば、モデルの規模に関係なく、わずか数千のサンプルを用いるだけで、99%の信頼度で故障率の推定誤差を1%以内に収めることが可能である。これは、考えられるすべての故障を網羅する従来の総当たり手法と比較して、実験コストを最大10,700倍削減できることを意味する。しかも、アーキテクチャの構成要素ごとに脆弱性を特定する能力は維持される。
研究チームはViT-TinyやViT-Smallなど異なるアーキテクチャを広範囲に評価し、信頼性の分布が高度に非一様であることを明らかにした。具体的には、FP32のビットフリップのうち故障を引き起こすのはわずか3%であるが、それらの故障イベントの大多数は軽微な劣化ではなく、壊滅的な精度崩壊をもたらす。つまり、ソフトエラーが一度発生すると、その結果は非常に深刻になる傾向がある。
さらに分析を進めると、脆弱性は正規化層とIEEE-754浮動小数点形式の重要な指数部ビットに集中していることが特定された。これらの発見は、エッジ展開に向けた堅牢化ViTアーキテクチャの設計に数学的基盤と実用的な指針を提供する。SENTRYフレームワークは、ViTの信頼性評価における方法論の空白を埋めるだけでなく、安全クリティカルなアプリケーションにおけるViTのロバスト性設計の重点方向を示している。