设备端生成式AI实现符合GDPR的视觉监控：本地目标检测生成自然语言警报

该论文提出了一种用于视觉监控的隐私优先流水线，旨在解决基于云的人工智能推理与通用数据保护条例（GDPR）数据最小化原则之间的矛盾。传统的基于云的监控系统会将原始图像数据暴露给外部服务，这与GDPR的要求存在根本性冲突。本文的方案通过将所有推理限制在边缘设备上解决了这一问题。

系统采用基于Raspberry Pi 5和Hailo-8L AI加速器的硬件架构。YOLOv5n-seg模型经过编译优化，在Hailo-8L上实现实时目标检测。每次推理后，原始像素缓冲区立即被丢弃，确保没有任何原始视觉数据被持久化或传输。一个状态触发引擎会监控检测结果，仅将最精简的JSON事件载荷发送到本地运行的Phi-3 Mini（3.8B参数，Q4_0量化）模型实例。该语言模型随后生成一到两句自然语言警报供操作人员查看。

这种架构的关键优势在于，整个过程中没有图像数据跨越网络边界。唯一传输的信息是生成的文本警报，这从根本上符合GDPR第5(1)(c)条的数据最小化要求。论文报告了在目标硬件上实测的推理延迟和资源利用率，并展示了代表性生成的警报示例。结果表明，将专用神经网络加速器与设备端大语言模型结合在单板计算机上不仅是可行的，而且能够产生实际可部署的、人类可读的监控输出。

这项研究为需要严格隐私合规的场景（如医疗、工业和安全领域）提供了一种可行的视觉监控方案。通过从源头保护图像数据，它消除了云推理中的隐私风险，同时保持了实时监控的有效性。论文的完整系统架构和实现细节为其他研究人员和工程师提供了可复现的参考。此外，论文还讨论了系统的局限性，包括模型精度在边缘设备上的折中以及处理复杂场景时的潜在延迟。未来的工作方向包括优化模型量化策略以进一步降低延迟，并探索更复杂的语言模型以生成更丰富的警报描述。整体而言，该工作为隐私合规的视觉监控开辟了新路径，展示了设备端生成式AI在敏感应用中的巨大潜力。