動的グラフ上の異常検知は、不正検知やネットワーク監視など多くの分野で重要になっています。GCN(グラフ畳み込みネットワーク)とGRU(ゲート付き回帰型ユニット)を組み合わせた AddGraph は、エッジレベルの異常検知における基盤的フレームワークですが、エッジが異常と判定されても、その理由は一切示されませんでした。協調的で規制された情報システムでは、自動化された判断の監査可能性と信頼性が求められるため、この不透明さは重大な問題です。この課題に取り組むため、Iyad Assaad Nekka 氏らによる論文は、AddGraph 向けのポストホック説明可能性フレームワーク X-AddGraph を提案しています。著者らによれば、AddGraph に説明可能性を組み込んだのはこれが初めてです。
X-AddGraph は、二重時空間帰属(DSTA)機構を中心に設計されています。この機構は AddGraph のアーキテクチャにそれぞれ対応する3つの要素で構成されます。すなわち、現在の隣接構造に対する勾配ベースの関連性帰属(空間)、推論中にすでに計算されている文脈注意重みを直接読み取る短期時間帰属(追加コストなし)、そして回帰型隠れ状態を通した勾配ロールバックによる長期時間帰属です。検出器は凍結されているため、検出性能は完全に維持されます(Delta AUC=0、小数点以下10桁まで実験的に検証済み)。
UCI Message ベンチマークでは、学習済み AddGraph ベースラインの平均スナップショットAUCは0.8705に達し、元論文の結果を上回りました。X-AddGraph はすべてのスコアを同一の値で再現しつつ、これまで存在しなかった説明を付加します。高信頼度の真陽性、低信頼度の真陽性、偽陽性、ランダムサンプルという4つのエッジ集団に対する評価では、長期帰属がランダム選択よりも有意に多くの反事実シグナルを含む履歴スナップショットを特定できることが示されました(0.127 対 0.074)。これは空間のみを扱う説明手法では不可能な能力です。
実装は完全な再現可能性のために公開されています。この研究は、検出性能を犠牲にすることなく、動的グラフ異常検知の判断根拠を監査可能にする道を開くものです。同様のアーキテクチャ整合アプローチは、他の GCN+RNN 型の動的グラフ検知モデルにも応用できる可能性があります。