組み込みエッジデバイスでの物体検出は、リソース負荷の変動下で推論レイテンシと検出品質のバランスを取る必要がある。最新の研究では、RAMS(Resource-Adaptive and Detection-Conditioned Model Switching)と呼ばれる軽量ランタイムコントローラが提案された。これは、モデル再読み込みのレイテンシなしに、YOLOv8のNANO、SMALL、MEDIUM(それぞれ320、416、640ピクセル)の3つの規模を動的に選択する。このコントローラの中核となる革新は、リソース適応と検出条件駆動の切り替えメカニズムにあり、エッジデバイス上の計算リソース変動による性能ボトルネックを解決することを目的としている。
RAMSは、デバイスの負荷(CPU/GPU使用率など)を監視し、アイドル時の動作から切り替えしきい値を調整する。5つの切り替えポリシーが定義され、そのうち2つは検出条件付きの変種で、脆弱な道路利用者(VRU)を検出した後に攻撃的なモデルダウングレードを防ぐ。さらに、VRU重み付き精度スコア(SWAS)を導入し、正解ラベルなしでオフラインのポリシー比較を可能にするとともに、理想境界付き変種により検出器の循環性と真のモデル維持利益を分離する。SWASの導入により、オフラインでのポリシー評価が可能となり、モデル切り替え戦略の最適化に重要な基盤を提供する。
実験はRaspberry Pi 5、x86ラップトップ、Jetson Orin(ONNX/TensorRT)などで行われ、同一の制御方程式が37倍のレイテンシ範囲で機能した。Jetson Orin TensorRTの重負荷下では、安全戦略2が平均3.41ミリ秒のレイテンシ(固定MEDIUM比5.6倍高速)を達成し、ほぼNANOの動作でVRU陽性ウィンドウ中のみSMALLとMEDIUMをロックすることで代理精度の74%を維持した。重負荷下では、検出条件付きポリシーはしきい値のみのポリシーと比較して、理想スコアで25.4%、検出器由来スコアで47.3%のSWAS向上を示した。
リアルタイムKITTI評価では、各規模のVRU再現率はそれぞれ24.2%、41.2%、59.0%であり、反応的なオーバーライドは基本的にベースライン検出器の再現率によって制限されることが示された。この結果は、高度な切り替え戦略を採用しても、検出性能は検出器自身の再現率に制限されることを示唆している。この研究は、特に自動運転などのVRU検出が重要なシナリオにおいて、エッジ推論のための効果的なリソース適応手法を提供する。将来の研究では、RAMSをより多くのモデル構造に拡張したり、強化学習を組み合わせた適応戦略の最適化が考えられる。