跳到主要內容
AI News HubLIVE
站內改寫1 分鐘閱讀

Pelican-VLA 0.5:先注意再行動有益於泛化

文章摘要

Pelican-VLA 0.5是一個統一的視覺-語言-動作(VLA)模型,將視覺語言理解、未來幀生成和動作預測集成在單一架構中。通過引入可學習的推理槽,模型實現了注意力級別的泛化,無需對象註釋、分割掩碼或任務特定微調,其動作路徑即可聚焦於指令相關對象和接觸區域。該能力在未見場景和不同機器人實體中均保持有效,顯著優於其他開源VLA基線。

來源arXiv Robotics作者: Zeyuan Ding, Wenhai Liu, Yang Xu, Jiayu Hu, Yinda Chen, Yi Zhang, Yong Dai, Jian Tang, Xiaozhu Ju
Pelican-VLA 0.5:先注意再行動有益於泛化
報告錯誤

更正渠道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

近日,來自Zeyuan Ding等研究團隊發佈了Pelican-VLA 0.5,這是一個統一的視覺-語言-動作(VLA)模型,將視覺語言理解、未來幀生成和動作預測集成在單一架構中。該模型的核心創新在於引入了可學習的推理槽(Reasoning Slots),這些插槽位於感知模塊和動作模塊之間,起到緊湊瓶頸的作用。通過將任務相關的視覺信息路由通過該瓶頸,模型在預訓練期間自動學會了操縱中心注意力,從而實現了注意力級別的泛化。

具體而言,Pelican-VLA 0.5的動作路徑在沒有對象註釋、分割掩碼、注意力監督或任務特定微調的情況下,已經能夠聚焦於指令相關的對象和接觸區域。這種能力不僅出現在訓練過的場景中,還遷移到了完全未見過的場景和不同的機器人實體上。實驗表明,Pelican-VLA 0.5在注意力聚焦的準確性和一致性上顯著優於其他開源VLA基線模型,如RT-2和Octo等。

研究團隊還驗證了這種泛化能力源於推理槽的設計。通過在感知和動作之間強制一個信息瓶頸,模型被迫學習哪些視覺信息對任務最關鍵。推理槽在不同的策略結構(包括MoT風格架構)下均保持有效,顯示出其強大的魯棒性。此外,該模型在多個機器人操控基準測試中取得了優異成績,展示了從仿真到真實世界的零樣本遷移能力。

這一工作為構建能夠真正理解指令並泛化到新環境的機器人模型提供了新的思路,有望推動機器人學習在少樣本和零樣本場景下的應用。未來,該團隊計劃將Pelican-VLA擴展到更多模態和更復雜的任務中,進一步提升其通用性和實用性。

展開要點與分析

文章情報

工程師進階

要點

  • Pelican-VLA 0.5統一了視覺語言理解、未來幀生成和動作預測於單一架構。
  • 通過可學習的推理槽實現注意力級泛化,無需對象註釋或任務特定微調。
  • 在未見場景和機器人實體中保持聚焦能力,優於其他開源VLA基線。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。