超越基准：持续边缘推理实现细粒度路边感知

一项新的研究揭示了基准测试与真实部署之间的显著差距。发表在arXiv上的论文《超越基准：面向细粒度路边感知的连续边缘推理》指出，传统基准评估系统性地高估了资源受限边缘硬件上的AI推理性能。研究者提出了Edge-TSR系统，专为持续路边感知设计，在NVIDIA Jetson Orin Nano上实现高效运行。

Edge-TSR整合了目标检测、跟踪、细粒度分类以及一种轻量的轨迹感知时间稳定机制。该机制以极低的计算开销显著改善了流式推理的一致性，解决了常规基准测试中不可见的部署效应，包括视频流的时间不稳定性、持续负载下的热节流以及依赖工作负载的性能变化。研究团队在多种真实部署条件下对系统进行了全面评估，联合表征了推理质量、延迟、吞吐量和长期运行下的热行为。

实验表明，从静态图像评估转向实际流式部署时，三种最先进的基线模型均出现20-30%的持续性能下降。Edge-TSR通过时间推理稳定化，在逐帧推理基线基础上恢复了高达10.16%的分类准确率，同时保持持续的实时性能。在55分钟、26公里的车载部署中，系统在单台嵌入式设备上以16.18帧/秒的速度稳定运行，且温度在安全范围内，无需依赖云端卸载。研究者的核心结论是，部署意识评估与时间推理稳定化是实现连续运行边缘AI系统的必要组成部分。为了促进可重复的部署中心评估，他们发布了带注释的流式视频评估数据集样例以及完整的系统实现。这项工作为边缘AI在现实场景中的可靠应用提供了重要参考，尤其对于自动驾驶、智能交通等需要持续路边感知的领域具有深远意义。