Recti-Q:面向邊緣機器人量化感知的分佈外魯棒特徵空間矯正方法
該論文發現後訓練量化(PTQ)在邊緣設備上的機器人感知模型中引入了魯棒性差距,即PTQ雖保持分佈內精度,但在分佈偏移下會降低可靠性。作者提出Recti-Q,一種輕量級特徵空間矯正方法,通過凍結量化骨幹網絡並訓練小型LoRA適配器,以極小的開銷顯著恢復魯棒性。
在邊緣機器人領域,感知管道越來越依賴大型視覺骨幹網絡,這些網絡通常部署在具有SWaP(尺寸、重量和功耗)約束的硬件上。後訓練量化(PTQ)因其能顯著降低模型大小和計算開銷而成為實時推理的常用技術。然而,一項新研究表明,儘管PTQ在分佈內(in-distribution)數據上保持了較高的準確性,但在部署中遇到分佈偏移(如傳感器噪聲、惡劣天氣或全新環境)時,模型的可靠性會大幅下降。這種量化引起的魯棒性差距成為阻礙邊緣機器人安全運行的關鍵問題。
為了應對這一挑戰,來自多所機構的研究人員提出了Recti-Q,一個輕量級的特徵空間矯正框架。該方法的核心思想是凍結量化後的骨幹網絡,僅在其分類器頭部添加一個極小的LoRA適配器,並使用原始訓練數據進行訓練。Recti-Q與網絡架構無關,適用於CNN和Transformer,且無需教師模型。實驗表明,在ImageNet-C和PACS等視覺基準測試中,4位PTQ模型表現出顯著的魯棒性退化,而Recti-Q能恢復大部分丟失的魯棒性,在某些情況下甚至達到或超過全精度FP32模型的性能。
Recti-Q的參數開銷不到1%(最小僅為6 KB),同時保留了超過99%的PTQ內存節省。這意味着它幾乎不增加計算負擔,非常適合資源受限的邊緣設備。此外,該技術還支持低帶寬的空中(OTA)彈性補丁,使得部署在不可預測物理環境中的機器人車隊可以遠程更新模型,而無需大規模重新部署。該論文已被2026年IEEE/RSJ國際智能機器人與系統大會(IROS 2026)接收。
總之,Recti-Q為邊緣機器人提供了一種實用且高效的方案,在不犧牲量化帶來內存優勢的前提下,顯著提升了模型在複雜現實環境中的魯棒性。這對推進自主機器人在危險、多變場景中的可靠應用具有重要意義。