随着机器人领域视觉-语言-动作(VLA)模型的兴起,如何高效地在边缘硬件上执行长时程任务成为关键挑战。传统数据中心使用的KV缓存虽然适合大量短请求的批处理场景,但在机器人应用中却成为瓶颈。机器人需要在一个不断电的长任务中持续推理,而边缘设备上的高带宽内存和闪存资源稀缺,且闪存写入寿命有限,因此内存写入次数而非计算量可能成为首要限制因素。来自arXiv的新论文《AURA: Action-Gated Memory for Robot Policies at Constant VRAM》提出了一种名为AURA-Mem(Action-Utility Recurrent Adaptive Memory)的解决方案,旨在使内存占用恒定并大幅降低写入次数。
AURA-Mem的核心思想是采用一个恒定大小的循环记忆模块,并在其上附加一个学习到的门控机制。该门控以冻结的VLA骨干网络为基础,通过判断当前观测是否会改变下一步动作来决定是否将信息写入记忆。与传统基于重建的记忆不同,AURA-Mem的门控直接通过闭环动作误差信号进行训练,从而学习何时应保持静默。其推理状态固定为4,224字节,无论任务序列多长,而传统KV缓存在10万步时会膨胀至6,061倍。
在受控的合成基准测试中,AURA-Mem在精度上与最佳的O(1)基线模型持平,同时写入次数减少了5.19至6.13倍,在较简单的配置下甚至减少了9.19倍。相比之下,预算匹配的随机写入或周期性写入策略均无法达到这一效果,从而证明了动作意外信号(action-surprise)的核心作用。在基于OpenVLA-OFT 7B模型的LIBERO-Long任务上(每个机械臂60个回合),AURA-Mem的成功率达到0.233,与无门控的基线策略持平,并略高于始终写入的KV策略(0.217),同时写入次数减少了7倍,且内存占用恒定。
此外,论文还展示了一种近似信息状态价值损失界限的方法学验证,尽管在当前规模下该界限是空洞的而非严格的保证。总体而言,AURA-Mem为机器人策略在边缘设备上的部署提供了一种实用的内存优化方案,尤其适合闪存写入耐力有限的场景,有望推动VLA模型在真实机器人平台上的广泛应用。