自動運転システムの物体追跡モジュールは一般に「Tracking-By-Detection(TBD)」アーキテクチャを採用している。これは、ニューラルネットワーク検出器が各フレームで物体を識別し、その後、運動予測とデータ関連付けによって連続フレーム間で物体の同一性を維持するものである。しかし、このアーキテクチャには重大な脆弱性がある。検出器自体が敵対的攻撃に弱いのだ。入力画像に巧妙に設計された微小な摂動を加えることで、攻撃者は検出器に誤った出力を誘導できる。従来の研究は検出精度(mAPなど)の低下に注目することが多かったが、検出誤りが下流の軌道推定や追跡品質にどのように伝播するかは十分に解明されていなかった。
そこで、新たな論文が敵対的攻撃の追跡パイプライン全体への影響を系統的に評価した。研究チームはCARLAシミュレータ上で実験環境を構築し、YOLOv3およびYOLOv4検出器を4種類の主要トラッカー(SORT、Deep SORT、Strong SORT、OC-SORT)とそれぞれ組み合わせた。これらのトラッカーは、基本的なものから比較的先進的なものまで、多様なデータ関連付け戦略を代表している。攻撃は2種類に分類される。画像特異的攻撃(各フレームごとに個別の摂動を生成)と画像非依存攻撃(すべてのフレームに適用できる単一のUniversal Adversarial Perturbation、UAPを使用)である。評価指標には、Multiple Object Tracking Accuracy(MOTA)、Higher Order Tracking Accuracy(HOTA)、Identification F1(IDF1)を採用し、追跡品質を総合的に測定した。
実験の結果、画像特異的攻撃はYOLOv3ベースのトラッカーに壊滅的な打撃を与えることが示された。クリーンな入力では、これらのトラッカーのHOTAスコアは53.45%から56.19%の範囲にあったが、攻撃後はHOTAが14.85%〜17.03%に急落した。さらに極端なケースでは、MOTAが-772.60%に達した。これは追跡システムがアイデンティティスイッチ、見逃し、誤検出など多数のエラーを生じ、精度指標が大幅にマイナスになったことを示す。対照的に、YOLOv4ベースのトラッカーはより高い堅牢性を示したが、それでもHOTAは25.06%〜26.86%まで低下した。これは、検出器自体に一定の耐性があっても、追跡性能は依然として著しく悪化することを意味する。
注目すべきは、画像非依存攻撃も有効である点だ。攻撃者は単一のUAPを生成するだけで、フレームごとに個別の最適化を行うことなく追跡精度を低下させることができる。これにより攻撃の実施ハードルが大幅に下がる。UAPは事前に計算でき、具体的なフレーム内容を知らなくてもリアルタイムでビデオストリームに適用できるからだ。この発見は自動運転の安全性に重要な示唆を与える。攻撃者は物理的手段(道路標識や車両に貼られた敵対的パターンなど)やデジタル注入によって、追跡システムを継続的に妨害する可能性がある。
本研究は、検出精度だけでは自動運転知覚システムに対する敵対的攻撃の真の脅威を評価するのに不十分であることを強調している。追跡品質指標(HOTA、MOTA、IDF1)は、検出誤りが時間方向に蓄積する効果、例えばアイデンティティ維持の失敗や軌道の中断を明らかにできる。今後、自動運転システムの設計では、検出器だけを保護するのではなく、エンドツーエンドの敵対的堅牢性を考慮する必要がある。本論文は2026年11月12日に提出され、著者はHan Wuら4名で、コンピュータビジョンとパターン認識(cs.CV)分野に属し、人工知能(cs.AI)にも関連している。