ベンチマークを超えて：継続的エッジ推論による細粒度路側認識

新しい研究が、ベンチマークと実際のデプロイメントとの間の顕著なギャップを明らかにしました。arXivに投稿された論文「ベンチマークを超えて：継続的エッジ推論による細粒度路側認識」では、従来のベンチマーク評価がリソース制約のあるエッジハードウェア上のAI推論性能を体系的に過大評価していると指摘しています。研究者らは、持続的な路側認識のために設計されたEdge-TSRシステムを提案し、NVIDIA Jetson Orin Nano上で効率的に動作します。

Edge-TSRは、物体検出、追跡、細粒度分類、および軽量な軌跡認識型時間安定化メカニズムを統合しています。このメカニズムは、計算オーバーヘッドを最小限に抑えながら、ストリーミング推論の一貫性を大幅に向上させます。これにより、通常のベンチマークでは見えないデプロイメント効果（ストリーミングビデオの時間的不安定性、持続負荷下のサーマルスロットリング、ワークロード依存の性能変動）に対処します。研究チームは、多様な実世界デプロイ条件下でシステムを評価し、推論品質、レイテンシ、スループット、長時間動作中の熱挙動を総合的に評価しました。

実験では、静的画像評価から実際のストリーミングデプロイメントに移行した際に、3つの最先端ベースラインで一貫して20～30%の性能低下が観察されました。Edge-TSRは時間推論の安定化により、フレーム単位の推論ベースラインと比較して最大10.16%の分類精度を回復し、持続的なリアルタイム性能を維持します。55分間、26kmにわたる車両デプロイメントでは、システムは単一の組み込みデバイス上でクラウドオフロードなしに16.18 FPSで安定動作し、安全な温度範囲内に収まりました。研究者らは、デプロイメントを意識した評価と時間推論の安定化が、実世界のセンシングデプロイメント向けに継続動作するエッジAIシステムの必須構成要素であると結論付けています。再現可能なデプロイメント中心評価を支援するため、注釈付きストリーミングビデオ評価データセットのサンプルとシステム実装全体を公開しています。この研究は、自動運転やスマート交通など、持続的な路側認識が必要な分野におけるエッジAIの信頼性向上に重要な知見を提供します。