設備端生成式AI實現符合GDPR的視覺監控：本地目標檢測生成自然語言警報

該論文提出了一種用於視覺監控的隱私優先流水線，旨在解決基於雲的人工智能推理與通用數據保護條例（GDPR）數據最小化原則之間的矛盾。傳統的基於雲的監控系統會將原始圖像數據暴露給外部服務，這與GDPR的要求存在根本性衝突。本文的方案通過將所有推理限制在邊緣設備上解決了這一問題。

系統採用基於Raspberry Pi 5和Hailo-8L AI加速器的硬件架構。YOLOv5n-seg模型經過編譯優化，在Hailo-8L上實現實時目標檢測。每次推理後，原始像素緩衝區立即被丟棄，確保沒有任何原始視覺數據被持久化或傳輸。一個狀態觸發引擎會監控檢測結果，僅將最精簡的JSON事件載荷發送到本地運行的Phi-3 Mini（3.8B參數，Q4_0量化）模型實例。該語言模型隨後生成一到兩句自然語言警報供操作人員查看。

這種架構的關鍵優勢在於，整個過程中沒有圖像數據跨越網絡邊界。唯一傳輸的信息是生成的文本警報，這從根本上符合GDPR第5(1)(c)條的數據最小化要求。論文報告了在目標硬件上實測的推理延遲和資源利用率，並展示了代表性生成的警報示例。結果表明，將專用神經網絡加速器與設備端大語言模型結合在單板計算機上不僅是可行的，而且能夠產生實際可部署的、人類可讀的監控輸出。

這項研究為需要嚴格隱私合規的場景（如醫療、工業和安全領域）提供了一種可行的視覺監控方案。通過從源頭保護圖像數據，它消除了雲推理中的隱私風險，同時保持了實時監控的有效性。論文的完整系統架構和實現細節為其他研究人員和工程師提供了可復現的參考。此外，論文還討論了系統的侷限性，包括模型精度在邊緣設備上的折中以及處理複雜場景時的潛在延遲。未來的工作方向包括優化模型量化策略以進一步降低延遲，並探索更復雜的語言模型以生成更豐富的警報描述。整體而言，該工作為隱私合規的視覺監控開闢了新路徑，展示了設備端生成式AI在敏感應用中的巨大潛力。