訊飛研究院(iFLYTEK Research)於2026年6月24日向arXiv提交了一篇題為“iFLYTEK-Embodied-Omni Technical Report”的技術報告,論文編號arXiv:2607.02542,作者包括Yuan Zhang等15位研究人員。該報告提出了一種名為“訊飛具身全模態”(iFLYTEK-Embodied-Omni)的統一多模態基礎模型,旨在解決通用具身智能體所面臨的核心挑戰:理解多模態指令、預測環境演變,並在長時間跨度內產生精確的控制動作。
當前主流方法通常各自專注於視覺-語言推理、基於視頻的世界建模或動作生成,並採用級聯管道——先合成未來觀測結果,再推導動作。然而,這種級聯架構容易引入接口瓶頸,並導致預測誤差累積。訊飛具身全模態則將視覺(視頻和圖像)、語言和動作整合到一個統一的Omni框架中,實現聯合建模。其核心創新在於“大腦-小腦”協作設計:視覺語言模型(VLM)和視頻生成模型(VGM)作為高級大腦,負責指令理解、任務規劃、進度跟蹤和未來視覺狀態預測;動作生成模型(AGM)則扮演低級小腦,將規劃的子目標和共享的多模態上下文直接轉換為可執行的動作塊。各模塊之間通過共享的多模態自注意力機制進行通信,從而避免了級聯管道的弊端。
為了訓練這一模型,研究團隊構建了綜合性數據集,包含來自人類演示和機器人交互的動作標註和無動作具身視頻,並融合了具身推理、具身感知以及通用圖像文本數據。他們採用四階段訓練策略:首先分別預訓練VLM、VGM和AGM,然後對完整模型進行聯合微調。實驗結果表明,該模型在多個具身任務上展現出優異性能,為構建更通用、更靈活的智能體提供了新思路。