裝置端生成式AI實現符合GDPR的視覺監控：本地目標檢測生成自然語言警報

該論文提出了一種用於視覺監控的隱私優先流水線，旨在解決基於雲的人工智慧推理與通用資料保護條例（GDPR）資料最小化原則之間的矛盾。傳統的基於雲的監控系統會將原始影像資料暴露給外部服務，這與GDPR的要求存在根本性衝突。本文的方案透過將所有推理限制在邊緣裝置上解決了這一問題。

系統採用基於Raspberry Pi 5和Hailo-8L AI加速器的硬體架構。YOLOv5n-seg模型經過編譯最佳化，在Hailo-8L上實現即時目標檢測。每次推理後，原始畫素緩衝區立即被丟棄，確保沒有任何原始視覺資料被持久化或傳輸。一個狀態觸發引擎會監控檢測結果，僅將最精簡的JSON事件載荷傳送到本地執行的Phi-3 Mini（3.8B引數，Q4_0量化）模型例項。該語言模型隨後生成一到兩句自然語言警報供操作人員檢視。

這種架構的關鍵優勢在於，整個過程中沒有影像資料跨越網路邊界。唯一傳輸的資訊是生成的文本警報，這從根本上符合GDPR第5(1)(c)條的資料最小化要求。論文報告了在目標硬體上實測的推理延遲和資源利用率，並展示了代表性生成的警報示例。結果表明，將專用神經網路加速器與裝置端大語言模型結合在單板計算機上不僅是可行的，而且能夠產生實際可部署的、人類可讀的監控輸出。

這項研究為需要嚴格隱私合規的場景（如醫療、工業和安全領域）提供了一種可行的視覺監控方案。透過從源頭保護影像資料，它消除了雲推理中的隱私風險，同時保持了即時監控的有效性。論文的完整系統架構和實現細節為其他研究人員和工程師提供了可復現的參考。此外，論文還討論了系統的侷限性，包括模型精度在邊緣裝置上的折中以及處理複雜場景時的潛在延遲。未來的工作方向包括最佳化模型量化策略以進一步降低延遲，並探索更復雜的語言模型以生成更豐富的警報描述。整體而言，該工作為隱私合規的視覺監控開闢了新路徑，展示了裝置端生成式AI在敏感應用中的巨大潛力。