Recti-Q:面向邊緣機器人量化感知的分佈外魯棒特徵空間矯正方法
該論文發現後訓練量化(PTQ)在邊緣裝置上的機器人感知模型中引入了魯棒性差距,即PTQ雖保持分佈內精度,但在分佈偏移下會降低可靠性。作者提出Recti-Q,一種輕量級特徵空間矯正方法,透過凍結量化骨幹網路並訓練小型LoRA介面卡,以極小的開銷顯著恢復魯棒性。
在邊緣機器人領域,感知管道越來越依賴大型視覺骨幹網路,這些網路通常部署在具有SWaP(尺寸、重量和功耗)約束的硬體上。後訓練量化(PTQ)因其能顯著降低模型大小和計算開銷而成為即時推理的常用技術。然而,一項新研究表明,儘管PTQ在分佈內(in-distribution)資料上保持了較高的準確性,但在部署中遇到分佈偏移(如感測器噪聲、惡劣天氣或全新環境)時,模型的可靠性會大幅下降。這種量化引起的魯棒性差距成為阻礙邊緣機器人安全執行的關鍵問題。
為了應對這一挑戰,來自多所機構的研究人員提出了Recti-Q,一個輕量級的特徵空間矯正框架。該方法的核心思想是凍結量化後的骨幹網路,僅在其分類器頭部新增一個極小的LoRA介面卡,並使用原始訓練資料進行訓練。Recti-Q與網路架構無關,適用於CNN和Transformer,且無需教師模型。實驗表明,在ImageNet-C和PACS等視覺基準測試中,4位PTQ模型表現出顯著的魯棒性退化,而Recti-Q能恢復大部分丟失的魯棒性,在某些情況下甚至達到或超過全精度FP32模型的效能。
Recti-Q的引數開銷不到1%(最小僅為6 KB),同時保留了超過99%的PTQ記憶體節省。這意味著它幾乎不增加計算負擔,非常適合資源受限的邊緣裝置。此外,該技術還支援低頻寬的空中(OTA)彈性補丁,使得部署在不可預測物理環境中的機器人車隊可以遠端更新模型,而無需大規模重新部署。該論文已被2026年IEEE/RSJ國際智慧機器人與系統大會(IROS 2026)接收。
總之,Recti-Q為邊緣機器人提供了一種實用且高效的方案,在不犧牲量化帶來記憶體優勢的前提下,顯著提升了模型在複雜現實環境中的魯棒性。這對推進自主機器人在危險、多變場景中的可靠應用具有重要意義。