超越基準：持續邊緣推理實現細粒度路邊感知

一項新的研究揭示了基準測試與真實部署之間的顯著差距。發表在arXiv上的論文《超越基準：面向細粒度路邊感知的連續邊緣推理》指出，傳統基準評估系統性地高估了資源受限邊緣硬件上的AI推理性能。研究者提出了Edge-TSR系統，專為持續路邊感知設計，在NVIDIA Jetson Orin Nano上實現高效運行。

Edge-TSR整合了目標檢測、跟蹤、細粒度分類以及一種輕量的軌跡感知時間穩定機制。該機制以極低的計算開銷顯著改善了流式推理的一致性，解決了常規基準測試中不可見的部署效應，包括視頻流的時間不穩定性、持續負載下的熱節流以及依賴工作負載的性能變化。研究團隊在多種真實部署條件下對系統進行了全面評估，聯合表徵了推理質量、延遲、吞吐量和長期運行下的熱行為。

實驗表明，從靜態圖像評估轉向實際流式部署時，三種最先進的基線模型均出現20-30%的持續性能下降。Edge-TSR通過時間推理穩定化，在逐幀推理基線基礎上恢復了高達10.16%的分類準確率，同時保持持續的實時性能。在55分鐘、26公里的車載部署中，系統在單台嵌入式設備上以16.18幀/秒的速度穩定運行，且温度在安全範圍內，無需依賴雲端卸載。研究者的核心結論是，部署意識評估與時間推理穩定化是實現連續運行邊緣AI系統的必要組成部分。為了促進可重複的部署中心評估，他們發佈了帶註釋的流式視頻評估數據集樣例以及完整的系統實現。這項工作為邊緣AI在現實場景中的可靠應用提供了重要參考，尤其對於自動駕駛、智能交通等需要持續路邊感知的領域具有深遠意義。