近年、視覚-言語-行動(VLA)ポリシーはロボット操作タスクにおいて大きな進歩を遂げており、言語指示による複雑な操作を可能にしている。しかし、これらのポリシーは主に視覚情報に依存しており、接触状態に陥ると問題が生じる。接触時には視野が遮られたり、深度情報が曖昧になったり、小さな力の誤差がオフラインデモの分布から逸脱する原因となる。この課題を解決するため、研究チームはLIFT(Late Reactive Injection of Force for VLA Post-Training)と呼ばれる新しい後トレーニングフレームワークを提案した。
LIFTは、事前学習済みVLAポリシーに接触反応性を追加しつつ、一般的な操作知識を保持することを目的としている。具体的には、元の行動エキスパートの隣に反応的な行動エキスパートを移植し、事前学習済みの行動重みで初期化する。そして、因果力記憶とゼロ初期化されたクロスアテンションを通じて、最近の6Dエンドエフェクタ力を注入し、実行中に行動を更新できるようにする。
接触フィードバックによるポリシー依存の分布シフトに対処するため、LIFTは反応的な力注入をオンラインDAggerループと組み合わせる。このループは、オフラインのタスクアライメントデータと人間が修正したオンラインロールアウトの混合で訓練され、分布シフトを効果的に緩和する。
研究チームは、タオル折り、本の挿入、ハノイのリング配置の3つの接触豊富なタスクでLIFTを評価した。実験結果は、LIFTが視覚のみの後トレーニングよりも高速に学習し、高い性能を達成することを示している。アブレーション実験により、反応的な力記憶とオンライン修正データの両方が、ロバストな接触豊富な操作に重要であることが明らかになった。コードとデータは公開される予定であり、ロボット操作分野の研究に新たな可能性をもたらす。