跳到主要內容
AI News HubLIVE
站內改寫1 分鐘閱讀

訊飛具身全模態技術報告

文章摘要

訊飛具身全模態是一個統一的多模態基礎模型,聯合建模視覺(視頻和圖像)、語言和動作。它採用大腦-小腦協作架構:視覺語言模型和視頻生成模型充當高級大腦進行理解和規劃,動作生成模型充當低級小腦執行動作。該模型通過四階段訓練策略在包含人類演示、機器人交互和通用圖像文本數據的綜合性數據集上訓練。

來源arXiv AI作者: Yuan Zhang, Jingfei Ni, Guanchen Lu, Shiqi Zhang, Qingshan Xu, Chi Liu, Xin Nie, Wenjie Xu, Lin Gao, Zhiyuan Cheng, Mingxin Zhou, Jiajia Wu, Diyuan Liu, Jia Pan, Chao Ji
訊飛具身全模態技術報告
報告錯誤

更正渠道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

訊飛研究院(iFLYTEK Research)於2026年6月24日向arXiv提交了一篇題為“iFLYTEK-Embodied-Omni Technical Report”的技術報告,論文編號arXiv:2607.02542,作者包括Yuan Zhang等15位研究人員。該報告提出了一種名為“訊飛具身全模態”(iFLYTEK-Embodied-Omni)的統一多模態基礎模型,旨在解決通用具身智能體所面臨的核心挑戰:理解多模態指令、預測環境演變,並在長時間跨度內產生精確的控制動作。

當前主流方法通常各自專注於視覺-語言推理、基於視頻的世界建模或動作生成,並採用級聯管道——先合成未來觀測結果,再推導動作。然而,這種級聯架構容易引入接口瓶頸,並導致預測誤差累積。訊飛具身全模態則將視覺(視頻和圖像)、語言和動作整合到一個統一的Omni框架中,實現聯合建模。其核心創新在於“大腦-小腦”協作設計:視覺語言模型(VLM)和視頻生成模型(VGM)作為高級大腦,負責指令理解、任務規劃、進度跟蹤和未來視覺狀態預測;動作生成模型(AGM)則扮演低級小腦,將規劃的子目標和共享的多模態上下文直接轉換為可執行的動作塊。各模塊之間通過共享的多模態自注意力機制進行通信,從而避免了級聯管道的弊端。

為了訓練這一模型,研究團隊構建了綜合性數據集,包含來自人類演示和機器人交互的動作標註和無動作具身視頻,並融合了具身推理、具身感知以及通用圖像文本數據。他們採用四階段訓練策略:首先分別預訓練VLM、VGM和AGM,然後對完整模型進行聯合微調。實驗結果表明,該模型在多個具身任務上展現出優異性能,為構建更通用、更靈活的智能體提供了新思路。

展開要點與分析

文章情報

工程師進階

要點

  • 將視覺、語言和動作統一於單一的全模態框架中。
  • 採用大腦-小腦協作,將感知與動作模塊分離但協同。
  • 通過四階段漸進式訓練策略,在多樣化具身數據上訓練。
  • 克服了級聯管道在具身智能體中的侷限性。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。