近日,來自Zeyuan Ding等研究團隊發佈了Pelican-VLA 0.5,這是一個統一的視覺-語言-動作(VLA)模型,將視覺語言理解、未來幀生成和動作預測集成在單一架構中。該模型的核心創新在於引入了可學習的推理槽(Reasoning Slots),這些插槽位於感知模塊和動作模塊之間,起到緊湊瓶頸的作用。通過將任務相關的視覺信息路由通過該瓶頸,模型在預訓練期間自動學會了操縱中心注意力,從而實現了注意力級別的泛化。
具體而言,Pelican-VLA 0.5的動作路徑在沒有對象註釋、分割掩碼、注意力監督或任務特定微調的情況下,已經能夠聚焦於指令相關的對象和接觸區域。這種能力不僅出現在訓練過的場景中,還遷移到了完全未見過的場景和不同的機器人實體上。實驗表明,Pelican-VLA 0.5在注意力聚焦的準確性和一致性上顯著優於其他開源VLA基線模型,如RT-2和Octo等。
研究團隊還驗證了這種泛化能力源於推理槽的設計。通過在感知和動作之間強制一個信息瓶頸,模型被迫學習哪些視覺信息對任務最關鍵。推理槽在不同的策略結構(包括MoT風格架構)下均保持有效,顯示出其強大的魯棒性。此外,該模型在多個機器人操控基準測試中取得了優異成績,展示了從仿真到真實世界的零樣本遷移能力。
這一工作為構建能夠真正理解指令並泛化到新環境的機器人模型提供了新的思路,有望推動機器人學習在少樣本和零樣本場景下的應用。未來,該團隊計劃將Pelican-VLA擴展到更多模態和更復雜的任務中,進一步提升其通用性和實用性。