隨着機器人領域視覺-語言-動作(VLA)模型的興起,如何高效地在邊緣硬件上執行長時程任務成為關鍵挑戰。傳統數據中心使用的KV緩存雖然適合大量短請求的批處理場景,但在機器人應用中卻成為瓶頸。機器人需要在一個不斷電的長任務中持續推理,而邊緣設備上的高帶寬內存和閃存資源稀缺,且閃存寫入壽命有限,因此內存寫入次數而非計算量可能成為首要限制因素。來自arXiv的新論文《AURA: Action-Gated Memory for Robot Policies at Constant VRAM》提出了一種名為AURA-Mem(Action-Utility Recurrent Adaptive Memory)的解決方案,旨在使內存佔用恆定並大幅降低寫入次數。
AURA-Mem的核心思想是採用一個恆定大小的循環記憶模塊,並在其上附加一個學習到的門控機制。該門控以凍結的VLA骨幹網絡為基礎,通過判斷當前觀測是否會改變下一步動作來決定是否將信息寫入記憶。與傳統基於重建的記憶不同,AURA-Mem的門控直接通過閉環動作誤差信號進行訓練,從而學習何時應保持靜默。其推理狀態固定為4,224字節,無論任務序列多長,而傳統KV緩存在10萬步時會膨脹至6,061倍。
在受控的合成基準測試中,AURA-Mem在精度上與最佳的O(1)基線模型持平,同時寫入次數減少了5.19至6.13倍,在較簡單的配置下甚至減少了9.19倍。相比之下,預算匹配的隨機寫入或週期性寫入策略均無法達到這一效果,從而證明了動作意外信號(action-surprise)的核心作用。在基於OpenVLA-OFT 7B模型的LIBERO-Long任務上(每個機械臂60個回合),AURA-Mem的成功率達到0.233,與無門控的基線策略持平,並略高於始終寫入的KV策略(0.217),同時寫入次數減少了7倍,且內存佔用恆定。
此外,論文還展示了一種近似信息狀態價值損失界限的方法學驗證,儘管在當前規模下該界限是空洞的而非嚴格的保證。總體而言,AURA-Mem為機器人策略在邊緣設備上的部署提供了一種實用的內存優化方案,尤其適合閃存寫入耐力有限的場景,有望推動VLA模型在真實機器人平台上的廣泛應用。