本文にスキップ
AI News HubLIVE
サイト内リライト2 分で読了

AURA:一定VRAMのロボットポリシー向けアクションゲート型メモリ

記事の要約

AURA-Memは、ロボットポリシー向けの一定サイズのリカレントメモリを提案し、観測が次のアクションを変える場合のみ書き込みを行うことで、精度を維持しながらメモリ書き込みを大幅に削減する。学習されたゲートはアクション誤差信号で訓練され、推論状態は4,224バイトに固定され、KVキャッシュは成長しない。実験では、成功率を維持しつつ書き込みを最大7倍削減。

ソースarXiv AI著者: Josef Chen
AURA:一定VRAMのロボットポリシー向けアクションゲート型メモリ
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

ロボット分野における視覚言語動作(VLA)モデルの台頭に伴い、エッジハードウェア上で長時間のタスクを効率的に実行することが重要な課題となっています。データセンターで一般的に用いられるKVキャッシュは、多数の短いリクエストをバッチ処理するには適していますが、ロボットのシナリオでは問題があります。ロボットはリセットなしの長いエピソードを帯域幅の限られたエッジデバイス上で実行する必要があり、高帯域幅メモリやフラッシュは限られており、フラッシュの書き込み耐久性も有限です。そのため、計算量よりもメモリ書き込み回数が制約となることがあります。arXivに投稿された新しい論文「AURA: Action-Gated Memory for Robot Policies at Constant VRAM」は、AURA-Mem(Action-Utility Recurrent Adaptive Memory)と呼ばれる手法を提案し、メモリ使用量を一定に保ちながら書き込み回数を劇的に削減します。

AURA-Memの核心は、固定サイズのリカレントメモリモジュールと学習されたゲート機構です。凍結されたVLAバックボーンをラップし、ゲートは現在の観測が次のアクションを変更するかどうかに基づいて書き込みを決定します。再構成ベースのメモリとは異なり、ゲートは閉ループのアクション誤差信号を用いて直接訓練されます。その推論状態はタスクの長さに関係なく4,224バイトに固定され、従来のKVキャッシュは10万ステップで6,061倍にまで増大します。

制御された合成ベンチマークでは、AURA-Memは最も性能の良いO(1)ベースラインと同等の精度を維持しながら、書き込み回数を5.19倍から6.13倍削減し、簡単な構成では最大9.19倍削減しました。予算を一致させたランダムな書き込みスケジュールや周期的なスケジュールではこの利得は得られず、アクションサプライズ信号が重要であることが示されました。OpenVLA-OFT 7Bモデルを用いたLIBERO-Longタスク(各アーム60エピソード)では、AURA-Memの成功率は0.233で、ゲートなしのベースポリシーと同等であり、常時書き込みのKVアーム(0.217)をわずかに上回り、書き込み回数は7倍削減され、メモリ使用量は一定でした。

さらに、論文では近似情報状態価値損失バウンドの方法論デモンストレーションも行われていますが、現在のスケールではこのバウンドは空虚であり、保証にはなりません。全体として、AURA-Memはエッジデバイス上でのロボットポリシー展開に実用的なメモリ最適化ソリューションを提供し、特にフラッシュメモリの書き込み耐久性が限られるシナリオに適しており、今後のVLAモデルの実用化に貢献することが期待されます。

要点と分析を開く

記事インテリジェンス

エンジニア中級

要点

  • AURA-MemはKVキャッシュを固定サイズ(4,224バイト)のリカレントメモリに置き換える。
  • アクションゲート機構は、観測が将来のアクションに影響するかどうかに基づいて書き込みを制御し、書き込みを5〜7倍削減。
  • LIBERO-Longベンチマークで、AURA-Memはベースポリシーの成功率(0.233)を維持しつつ、書き込みを7倍削減。
  • 帯域幅が限られたエッジハードウェア向けに設計され、フラッシュメモリの耐久性を向上。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。