字节跳动研究发现：用提问训练多模态模型比要求其转录文本更有效

字节跳动Seed与香港科技大学的研究表明，通过问答对训练多模态模型处理长文档，比使用字符识别任务效果更好。他们开发的MMProLong模型基于Qwen2.5-VL，在长达512,000 token的输入上保持稳定，性能超越InternVL3-38B等更大模型。研究还发现，训练数据长度多样性比专注超长文本更重要，且短示例并非必须。