差分放大器啓發的AmpAttention用於多視角機器人操作
該研究提出一種受模擬電路差分放大器啓發的注意力機制AmpAttention,旨在抑制多視角機器人操控中的注意力漂移。基於此的RVAF模型在18個RLBench任務(249種變體)上達到最優平均成功率,同時訓練時間減少33.3%。擴展版本RVAF++結合SAM2圖像編碼器,在高精度任務中表現突出,例如“插入銷釘”任務成功率達91%。論文已被IROS2026接收。
近日,來自研究團隊的一項新工作提出了一種名為AmpAttention的注意力機制,該機制受模擬電路中的差分放大器啓發,旨在解決多視角機器人操控中常見的注意力漂移問題。該成果已被國際機器人領域頂級會議IROS2026接收,並已在arXiv上公開。
多視角機器人操控方法近年來取得了顯著進展,但由於機器人視角圖像固有的冗餘性、遮擋以及視角依賴性,注意力機制容易出現漂移,導致性能下降。為此,研究者從差分放大器中汲取靈感,設計了AmpAttention。差分放大器能夠有效抑制共模噪聲,提取差分信號,類似地,AmpAttention旨在抑制注意力噪聲,捕獲高信噪比的信號,從而實現更可靠的感知。
基於AmpAttention,團隊進一步提出了RVAF(Robust View Attention Fusion)模型,該模型整合了任務引導的視角內和視角間AmpAttention。RVAF的核心思想是通過差分放大的原理,在注意力計算中消除共同的噪聲成分,保留與任務相關的差異化特徵。實驗結果表明,與以往最先進的方法相比,RVAF在RLBench基準的18個任務(共249種變體)上實現了最佳平均成功率,同時將訓練時間縮短了33.3%。此外,RVAF在現實世界的高精度任務中也展現出強大潛力,例如成功拾起飛鏢並準確插入紅色靶心。
為了進一步提升高精度任務的表現,研究者將RVAF擴展為RVAF++,引入了SAM2圖像編碼器。SAM2作為先進的語義分割模型,能夠提供更精細的視覺特徵,從而幫助模型在高精度操作中更準確地定位目標。RVAF++在“插入銷釘”這一典型高精度任務上取得了91%的成功率,相比基線方法有顯著提升。論文的定性結果已發佈在匿名項目網站上,展示了模型在多種任務中的表現。
該研究為多視角機器人操控中的注意力機制設計提供了新思路,未來有望在更廣泛的機器人操作場景中得到應用。研究者表示,將進一步探索AmpAttention在其他視覺任務中的潛力。