ロボット分野における視覚言語動作(VLA)モデルの台頭に伴い、エッジハードウェア上で長時間のタスクを効率的に実行することが重要な課題となっています。データセンターで一般的に用いられるKVキャッシュは、多数の短いリクエストをバッチ処理するには適していますが、ロボットのシナリオでは問題があります。ロボットはリセットなしの長いエピソードを帯域幅の限られたエッジデバイス上で実行する必要があり、高帯域幅メモリやフラッシュは限られており、フラッシュの書き込み耐久性も有限です。そのため、計算量よりもメモリ書き込み回数が制約となることがあります。arXivに投稿された新しい論文「AURA: Action-Gated Memory for Robot Policies at Constant VRAM」は、AURA-Mem(Action-Utility Recurrent Adaptive Memory)と呼ばれる手法を提案し、メモリ使用量を一定に保ちながら書き込み回数を劇的に削減します。
AURA-Memの核心は、固定サイズのリカレントメモリモジュールと学習されたゲート機構です。凍結されたVLAバックボーンをラップし、ゲートは現在の観測が次のアクションを変更するかどうかに基づいて書き込みを決定します。再構成ベースのメモリとは異なり、ゲートは閉ループのアクション誤差信号を用いて直接訓練されます。その推論状態はタスクの長さに関係なく4,224バイトに固定され、従来のKVキャッシュは10万ステップで6,061倍にまで増大します。
制御された合成ベンチマークでは、AURA-Memは最も性能の良いO(1)ベースラインと同等の精度を維持しながら、書き込み回数を5.19倍から6.13倍削減し、簡単な構成では最大9.19倍削減しました。予算を一致させたランダムな書き込みスケジュールや周期的なスケジュールではこの利得は得られず、アクションサプライズ信号が重要であることが示されました。OpenVLA-OFT 7Bモデルを用いたLIBERO-Longタスク(各アーム60エピソード)では、AURA-Memの成功率は0.233で、ゲートなしのベースポリシーと同等であり、常時書き込みのKVアーム(0.217)をわずかに上回り、書き込み回数は7倍削減され、メモリ使用量は一定でした。
さらに、論文では近似情報状態価値損失バウンドの方法論デモンストレーションも行われていますが、現在のスケールではこのバウンドは空虚であり、保証にはなりません。全体として、AURA-Memはエッジデバイス上でのロボットポリシー展開に実用的なメモリ最適化ソリューションを提供し、特にフラッシュメモリの書き込み耐久性が限られるシナリオに適しており、今後のVLAモデルの実用化に貢献することが期待されます。