跳到主要內容
AI News HubLIVE
站內改寫2 分鐘閱讀

HIDRA:用於無回放終身模仿學習的層級雙路由注意力機制

文章摘要

HIDRA 是一種面向無回放、單遍終身模仿學習的新型結構化路由框架。它透過層級雙注意力機制,將指令級專家檢索與上下文相關細化解耦,並引入鍵級幾何正則化來穩定表示漂移下的路由。在 LIBERO 基準測試中,HIDRA 持續優於無回放和有回放基線,在干擾和語言變化較強時增益更明顯。

來源arXiv Robotics作者: Fanqi Yu, Matteo Tiezzi, Cigdem Beyan, Tommaso Apicella, Vittorio Murino
HIDRA:用於無回放終身模仿學習的層級雙路由注意力機制
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

在機器人學習領域,讓智慧體在真實環境中持續從多模態示範中學習,是一項長期存在的挑戰。許多現實部署場景不允許系統儲存或反覆回放過往資料,這迫使研究者轉向一種更為苛刻的設定:無回放的、單次遍歷的終身模仿學習。在這一設定下,模型依次接收任務流,每個任務的資料只出現一次,更新後即被丟棄。論文《HIDRA: Hierarchical Dual-Routing Attention for Replay-Free Lifelong Imitation Learning》正是圍繞這一難題展開,作者為 Fanqi Yu、Matteo Tiezzi、Cigdem Beyan、Tommaso Apicella 與 Vittorio Murino,該工作已被 NeurIPS 2026 會議接收。

問題的核心在於表示漂移。隨著模型在任務序列上不斷更新引數,其內部的表示空間會逐漸發生形變。對於採用專家路由機制的架構而言,這種漂移帶來的後果尤為明顯:路由干擾會使原本負責某個任務的專家被錯誤地選中,專家選擇的質量隨著學習程序不斷下降。由於無法回放舊資料來校正這種偏差,錯誤會累積並加劇,最終削弱模型對早期任務的保持能力,也會拖累對新任務的遷移效果。

為解決該問題,作者提出了 HIDRA,一個結構化路由框架,其關鍵設計是分層雙注意力機制。該機制將兩個層次的決策解耦:第一層負責指令級別的專家檢索,即根據語言指令找出候選的專家集合;第二層則依賴上下文進行細化,結合當前觀測資訊對候選結果做進一步調整。這種分層設計避免了兩類資訊在同一注意力過程中相互糾纏,從而減輕路由干擾。

除雙注意力外,HIDRA 還引入了一項鍵級別的幾何正則化,用於在表示漂移的情況下穩定路由。該正則項同時施加兩種約束:一方面要求同一任務內部的鍵表示保持對齊,另一方面要求不同任務之間的鍵表示彼此分離。前者保障了任務內檢索的一致性,後者則減少了跨任務的混淆,使專家選擇在長期更新中依然可靠。得益於這種結構,HIDRA 能夠維護一個可擴充套件的專家集合,隨著新任務到來不斷擴充,而無需訪問歷史資料。

在實驗部分,作者在多個 LIBERO 基準測試套件上評估了 HIDRA,並特意構造了更具挑戰性的變體,其中包括異構任務序列以及經過改述的語言指令。這些設定分別考驗模型在任務順序分佈不均和語言表述變化下的穩健性。結果顯示,HIDRA 在無回放與有回放的基線方法面前均取得一致的優勢,在 AUC 與前向遷移指標上均有提升,同時保持較低的遺忘率;在路由干擾較強、語言變化較大的條件下,效能增益更為顯著。

從方法定位來看,HIDRA 的價值在於它並不依賴儲存歷史樣本,卻能在持續學習中維持專家路由的可靠性,這使其更貼近真實機器人部署的約束。該工作屬於機器人學(cs.RO)與人工智慧(cs.AI)交叉方向,預印本於 2026 年 10 月 26 日提交至 arXiv,編號為 arXiv:2610.36374v1,DOI 為 10.48550/arXiv.2610.36374。作者已公開程式碼,地址為 https://github.com/yfqi/HIDRA,便於社群復現與後續研究。需要說明的是,當前文本為作者預印本,最終版本以 NeurIPS 2026 會議論文集為準。

展開要點與分析

文章情報

工程師進階

要點

  • HIDRA 採用層級雙注意力機制,將指令級專家檢索與上下文依賴的細化過程分離,從而減輕路由干擾。
  • 引入鍵級幾何正則化,同時強化任務內對齊與任務間分離,以穩定表示漂移下的專家選擇。
  • 在多個 LIBERO 基準套件上,HIDRA 在 AUC 和前向遷移上優於無回放與有回放基線,並保持較低遺忘。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。