跳到主要內容
AI News HubLIVE
站內改寫4 分鐘閱讀

Robbyant發佈LingBot-VLA 2.0:一個開源的6B視覺-語言-動作(VLA)模型,用於跨體現機器人操作

文章摘要

螞蟻集團旗下的Robbyant發佈了LingBot-VLA 2.0,一個基於Apache-2.0協議的視覺-語言-動作模型,用於跨體現機器人操作。該模型擁有6B參數,在約6萬小時數據上預訓練,涵蓋50,000小時20種機器人配置的軌跡和10,000小時以自我為中心的人類視頻。它通過55維規範動作空間統一各種體現,並採用無輔助損失混合專家(MoE)動作專家擴展容量。雙查詢蒸餾從LingBot-Depth和DINO-Video引入幾何和時間監督。在GM-100基準測試中,它在兩個評估平台上均優於π0.5和LingBot-VLA-1.0。

來源MarkTechPost作者: Asif Razzaq
Robbyant發佈LingBot-VLA 2.0:一個開源的6B視覺-語言-動作(VLA)模型,用於跨體現機器人操作
報告錯誤

更正渠道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

螞蟻集團(Ant Group)旗下的Robbyant正式發佈了LingBot-VLA 2.0,這是一個基於Apache-2.0許可證的開源視覺-語言-動作(VLA)基礎模型,專為機器人跨體現操作設計。此次發佈同時包含了技術報告、代碼庫以及一個6B參數的檢查點。研究團隊瞄準了一個眾所周知的痛點:VLA模型在實驗室中表現良好,但在實際部署中卻常常遇到困難。LingBot-VLA 2.0在之前版本的基礎上,沿着三個實用方向進行了改進:泛化能力、擴展的動作空間以及預測動力學建模。

什麼是LingBot-VLA 2.0?

LingBot-VLA 2.0是一個建立在視覺-語言骨幹網絡上的通用機器人策略。它能夠將攝像頭圖像和語言指令轉化為機器人動作。公開的模型為lingbot-vla-v2-6b,一個6B參數的“原生深度”檢查點,採用Qwen3-VL-4B-Instruct作為VLM骨幹網絡。兩個教師模型——LingBot-Depth和DINO-Video——通過蒸餾來監督訓練過程。在一次推理調用中,使用10個去噪步驟,在NVIDIA GeForce RTX 4090D上大約需要130毫秒。動作專家採用了混合專家(MoE)設計來擴展容量。

數據管道:60,000小時,涵蓋20種配置

泛化能力始於數據。研究團隊整理了大約60,000小時的預訓練數據,其中包括50,000小時的機器人軌跡和10,000小時的自我中心人類視頻。機器人數據覆蓋了20種機器人配置,從單臂裝置到完整的人形機器人。原始數據規模更大,約有90,000小時的機器人數據和20,000小時的自我中心視頻。重新設計的管道將噪聲樣本過濾掉,得到高質量的數據集。

過濾過程明確且可量化。研究團隊計算了每種體現的三階加加速度(jerk),以及速度和加速度的Z分數。異常平滑或超過95%靜態信號的片段被丟棄。視頻通過每個機器人的URDF模型與重放狀態進行核對。標註人員會移除模糊、遮擋、丟幀和多視角錯位。自我中心視頻片段經過VLM過濾器,然後進行自我中心SLAM和MANO手部姿態重建。

標註過程通過視覺-語言模型自動化。Qwen3.6-27B將每個視頻分割成時間上連續的子任務。每個子任務從一個包含18類原子動作的封閉詞表中獲得一個原子動作,包括15個原始動作以及過渡、空閒和其他。在整個語料庫中,移動(move)和過渡(transit)在頻率上佔主導地位。

統一動作表示

不同機器人具有不同的關節,因此LingBot-VLA 2.0將其統一為55維的規範向量,用於狀態和動作。這種佈局在數據集中的每種體現上都是固定的。組件維度包括:手臂關節位置(14維)、末端執行器姿態(14維)、夾持器位置(2維)、手部關節位置(12維)、腰部位置(4維)、頭部位置(2維)、移動信號(3維)以及保留維度(4維)。每個手臂末端執行器姿態使用XYZ座標加上旋轉四元數,每個手臂7維。對於缺少身體部位的機器人,只需填充相應的維度。這使得一個模型能夠控制手臂、手、夾持器、腰部、頭部和移動底座。

MoE動作專家

動作專家將其前饋網絡替換為稀疏MoE層。每個MoE層保留一個共享專家以及幾個路由專家。每個令牌僅激活前K個路由專家,因此活躍計算量保持有界。每個專家是一個SwiGLU MLP,中間寬度較小。路由採用基於sigmoid的無輔助損失策略,靈感來自DeepSeek-V3。每個專家的偏置用於糾正負載不平衡,而無需添加負載均衡損失。路由置信度仍來自模型原始的、無偏的親和度分數。在匹配活躍參數的情況下,MoE模型達到了比稠密基線更低的訓練損失,並且在GM-100任務上達到了更低的驗證動作誤差。

雙查詢蒸餾用於預測動力學

實際執行需要預期,而不僅僅是對當前幀的反應。LingBot-VLA 2.0在視覺和文本令牌之後附加了兩個可學習的查詢。Qt針對當前觀測,Qt+T針對未來觀測。時間跨度T等於動作塊大小。

兩個教師模型監督這些查詢。LingBot-Depth通過深度預測提供明確的幾何線索。DINO-Video提供時間上紮根的語義先驗。DINO-Video基於DINOv3骨幹網絡,具有逐塊因果時間注意力和3D-RoPE,在500萬個視頻片段上訓練,涵蓋互聯網、自我中心和機器人數據。在LARYBench評估中,DINO-Video在四項指標中的三項上領先。

基準測試結果

Robbyant在GM-100(Great March 100)雙手基準測試的通用設置中評估了該模型。單個策略在每種體現的九個任務上聯合訓練。結果以進度/成功率報告。在AgileX Cobot Magic平台上,LingBot-VLA-2.0達到66.2/34.4,優於π0.5的59.1/32.2和LingBot-VLA-1.0的58.2/30.0。在Galaxea R1Pro上,達到34.6/15.6,優於π0.5的27.4/8.9和LingBot-VLA-1.0的32.7/15.6。在長時域移動操作任務中,在域內(ID)和域外(OOD)設置下,LingBot-VLA-2.0均優於π0.5。例如,在Astribot S1冰箱分揀任務中,ID設置下為77.1/60.0,OOD下為37.0/13.3,而π0.5分別為65.3/46.7和30.3/6.7。改進最大的是需要精確目標定位的任務。在Agilex Retrieve keychain任務中,成功率從1.0版本的60.0提升到100.0。一些任務在進度和成功率之間仍存在差距,表明在最終精確放置或釋放步驟中仍存在失敗。

快速入門與使用案例

代碼庫提供了安裝、下載和部署腳本。可以通過Hugging Face下載檢查點。真實機器人部署使用編譯推理運行策略服務器。後訓練使用LeRobot v2.1或v3.0數據集。提供的示例在RoboTwin 2.0的50個任務上進行微調。路由可以使用序列級輔助損失和z損失,或無損失設置。配置還支持Muon優化器,默認使用AdamW。

擴展的動作空間映射到具體部署場景:

  • 廚房移動操作:Astribot S1將水果和飲料分揀到冰箱中,需要底座移動、開門和放置物體。
  • 表面清潔:Cobot Magic-ARX X5用海綿擦洗爐灶上的泡沫,涉及抓取、擦拭和工具重定位。
  • 雙手包裝與分揀:GM-100任務包括雞蛋包裝、工具包裝和積木分揀。
  • 靈巧手控制:Unitree G1、Fourier GR-2和AgiBot A2使用12自由度手部,而非夾持器。

關鍵要點

  • LingBot-VLA 2.0在大約60,000小時數據上預訓練——50,000小時20種配置的機器人軌跡加上10,000小時自我中心人類視頻。
  • 一個55維規範動作空間統一了手臂、末端執行器、夾持器、靈巧手、腰部、頭部和移動底座,使單個模型能夠控制全身。
  • 動作專家採用令牌級無輔助損失MoE,在匹配活躍參數下,訓練損失和驗證動作誤差均低於稠密模型。
  • 雙查詢蒸餾添加了當前/未來查詢,通過LingBot-Depth(幾何)和DINO-Video(時間動態)監督,實現未來感知操作。
  • 在GM-100通用設置中,在AgileX Cobot Magic上達到66.2/34.4,在Galaxea R1Pro上達到34.6/15.6,領先於π0.5和LingBot-VLA-1.0;在長時域移動任務中,域內和域外均優於π0.5。

有關更多詳細信息,請參閲論文和模型權重。

展開要點與分析

文章情報

工程師進階

要點

  • LingBot-VLA 2.0在6萬小時數據上預訓練,包括機器人軌跡和人類視頻。
  • 採用55維規範動作空間,統一手臂、靈巧手、腰部、頭部和移動底座。
  • 使用無輔助損失的混合專家(MoE)動作專家,提高容量。
  • 在GM-100基準測試中表現優於π0.5和LingBot-VLA-1.0。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。