視覺-語言-動作(VLA)模型在具身操作領域取得了顯著進展,它們利用廣泛的世界知識和強大的泛化能力,使機器人能夠理解和執行復雜的操作任務。然而,當前的VLA模型仍然面臨幾個關鍵挑戰:推理能力有限、缺乏對執行狀態的實時監控、以及難以在出錯時進行自我修正。為了解決這些問題,來自中國的研究團隊提出了Sentinel-VLA——一種具備元認知能力的VLA模型。
Sentinel-VLA的核心創新在於其主動的“哨兵”(sentinel)模塊。該模塊持續監控機器人的實時執行狀態,但僅在必要時才觸發模型進行動態推理或制定錯誤恢復方案。例如,在初始規劃階段,哨兵模塊會激活推理來生成動作序列;當檢測到執行過程中出現異常或錯誤時,它會喚醒模型進行錯誤分析和恢復。這種按需推理機制確保模型在絕大多數時刻保持靜默,從而大幅降低了計算開銷,同時保證了決策的魯棒性。
為了訓練Sentinel-VLA,研究團隊設計了一套全自動的數據生成和標註流水線。該流水線能夠自動構建涵蓋44個不同操作任務的訓練數據,總計超過260萬次狀態-動作轉換。這些數據不僅數量龐大,而且具有高度多樣性,涵蓋了各種物體、場景和操作要求。
針對持續學習中的災難性遺忘問題,團隊提出了自演進持續學習(Self-Evolving Continual Learning, SECL)算法。SECL允許Sentinel-VLA自主識別自身能力的邊界,並自動收集新的數據來擴展其技能。同時,正交持續適配器(Orthogonal Continual Adapter, OC-Adapter)將參數更新限制在正交子空間中,從而有效防止了學習新任務時覆蓋舊知識。
在真實世界的機器人操作實驗中,Sentinel-VLA的任務成功率相比當時的最先進模型PI0提高了超過30%。這一提升在多種複雜任務上得到驗證,包括精細操作、多步驟任務和需要錯誤恢復的場景。研究團隊承諾將開源所有代碼、模型權重以及數據生成流水線,以促進該領域的進一步研究和應用。