来自 arXiv 的最新论文提出了 Wan-Streamer v0.1,这是一个从设计之初就面向实时、低延迟、全双工视听交互的原生流式端到端基础模型。与依赖多个独立模块拼接的级联式交互系统不同,Wan-Streamer 将语言、音频和视频同时作为输入和输出,统一在一个 Transformer 中进行建模。模型序列由交错的视觉、音频和文本输入令牌以及视觉、音频和文本输出令牌组成,并通过块因果注意力机制进行协调,从而支持增量式流式处理。
传统交互系统通常需要语音活动检测(VAD)、自动语音识别(ASR)、语言模型、文本转语音(TTS)、音频驱动动画以及视频生成等多个独立模块串联工作。Wan-Streamer 完全摒弃了这种架构,不依赖任何外部的语言、语音、虚拟形象或视频生成模块。感知、推理、生成、响应时机、轮次管理以及跨模态同步全部在一个统一模型内联合学习,这显著降低了流水线延迟和误差累积问题。
为了支持自然的视听响应能力,研究团队围绕可流式性重新设计了整个技术栈,包括因果编码器、因果解码器、块因果注意力以及低延迟多模态令牌调度。这些设计使得流式单元最短可达 160 毫秒,帧率为 25 fps。在性能方面,Wan-Streamer 实现了约 200 毫秒的模型侧响应延迟;当结合 350 毫秒的双向网络延迟时,总交互延迟约为 550 毫秒,从而支持亚秒级的全双工视听通信。
该论文由 Lianghua Huang 等 24 位作者共同完成,于 2026 年 6 月 23 日提交至 arXiv,属于计算机视觉与模式识别(cs.CV)领域,同时涉及人工智能(cs.AI)、图形学(cs.GR)和声音(cs.SD)等交叉方向。论文还提供了项目网站链接。这些结果表明,Wan-Streamer 为低延迟流式交互提供了一种统一、端到端的多模态交互基础模型方案,有望推动实时数字人、远程会议和沉浸式通信等应用的发展。