跳到主要内容
AI News HubLIVE
站内改写1 分钟阅读

Wan-Streamer v0.1:端到端实时交互基础模型

文章摘要

Wan-Streamer 是一个原生流式、端到端的交互基础模型,在单一 Transformer 中统一处理语言、音频和视频的输入输出,无需外部模块即可实现低延迟、全双工的视听交互,模型侧响应延迟约 200 毫秒。

来源arXiv Computer Vision作者: Lianghua Huang, Zhifan Wu, Wei Wang, Yupeng Shi, Mengyang Feng, Junjie He, Chenwei Xie, Yu Liu, Jingren Zhou, Ang Wang, Bang Zhang, Baole Ai, Chen Liang, Cheng Yu, Chongyang Zhong, Jinwei Qi, Kai Zhu, Pandeng Li, Peng Zhang, Wenyuan Zhang, Xinhua Cheng, Yitong Huang, Yun Zheng, Zoubin Bi
Wan-Streamer v0.1:端到端实时交互基础模型
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

来自 arXiv 的最新论文提出了 Wan-Streamer v0.1,这是一个从设计之初就面向实时、低延迟、全双工视听交互的原生流式端到端基础模型。与依赖多个独立模块拼接的级联式交互系统不同,Wan-Streamer 将语言、音频和视频同时作为输入和输出,统一在一个 Transformer 中进行建模。模型序列由交错的视觉、音频和文本输入令牌以及视觉、音频和文本输出令牌组成,并通过块因果注意力机制进行协调,从而支持增量式流式处理。

传统交互系统通常需要语音活动检测(VAD)、自动语音识别(ASR)、语言模型、文本转语音(TTS)、音频驱动动画以及视频生成等多个独立模块串联工作。Wan-Streamer 完全摒弃了这种架构,不依赖任何外部的语言、语音、虚拟形象或视频生成模块。感知、推理、生成、响应时机、轮次管理以及跨模态同步全部在一个统一模型内联合学习,这显著降低了流水线延迟和误差累积问题。

为了支持自然的视听响应能力,研究团队围绕可流式性重新设计了整个技术栈,包括因果编码器、因果解码器、块因果注意力以及低延迟多模态令牌调度。这些设计使得流式单元最短可达 160 毫秒,帧率为 25 fps。在性能方面,Wan-Streamer 实现了约 200 毫秒的模型侧响应延迟;当结合 350 毫秒的双向网络延迟时,总交互延迟约为 550 毫秒,从而支持亚秒级的全双工视听通信。

该论文由 Lianghua Huang 等 24 位作者共同完成,于 2026 年 6 月 23 日提交至 arXiv,属于计算机视觉与模式识别(cs.CV)领域,同时涉及人工智能(cs.AI)、图形学(cs.GR)和声音(cs.SD)等交叉方向。论文还提供了项目网站链接。这些结果表明,Wan-Streamer 为低延迟流式交互提供了一种统一、端到端的多模态交互基础模型方案,有望推动实时数字人、远程会议和沉浸式通信等应用的发展。

展开要点与分析

文章情报

工程师进阶

要点

  • 单一 Transformer 统一建模语言、音频、视频的输入与输出,消除级联系统的模块依赖。
  • 采用块因果注意力与因果编解码器,支持最短 160 毫秒、25 fps 的流式单元。
  • 模型侧响应延迟约 200 毫秒,结合 350 毫秒网络延迟后总交互延迟约 550 毫秒。
  • 感知、推理、生成、响应时机与跨模态同步均在统一模型内联合学习。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。