[AINews] Black Forest Labs FLUX 3 - 多模态流模型超越Seedance 2.0、Gemini Omni和Grok Imagine,以及FLUX-mimic视频动作机器人模型
Black Forest Labs发布了FLUX 3,一个统一的多模态模型,涵盖图像、视频、音频和动作预测。FLUX-mimic模型基于FLUX 3,用于机器人控制。此外,文章还涵盖了开放代码数据集The Stack v3、蒸馏辩论、音频/TTS系统、代理基础设施以及OpenAI的产品更新。
2026年7月23日,Black Forest Labs(BFL)正式发布了FLUX 3,这是继2024年Flux 1之后最重大的多模态模型升级。FLUX 3基于Self-Flow研究,统一了图像、视频、音频和动作预测,在多个基准上超越了Seedance 2.0、Gemini Omni和Grok Imagine。其核心能力包括文本到视频生成、图像到视频生成(动画或视觉参考)、视频到视频生成(保留核心元素)、视频音频延续、关键帧到视频生成、多语言对话、多种视觉风格和宽高比、代理链式剪辑以及强排版生成。所有输出均自带音频生成。BFL还计划发布开放权重的Dev版本,这引起了社区的广泛关注。
更为引人注目的是BFL与mimic Robotics合作推出的FLUX-mimic。这是一个视频动作模型,将FLUX 3的骨干网络与机器人学习专业知识相结合,用于通用灵巧操作。该模型可在单个本地GPU上部署,并已在奥迪工厂进行测试。这一成果表明FLUX 3学习到的世界模型能够直接转移到机器人控制中,显著提高了样本效率。同时,Generalist AI的GEN-1模型也支持多种末端执行器,并在运行中适应“手”的变化,进一步强化了形态条件而非专门化的理念。
在开放数据方面,The Stack v3成为当日最重要的开放数据集发布。它包含114TB原始数据、2.24亿个仓库、44亿文件、770种编程语言,以及大约5万亿个去重过滤令牌。与v2相比,过滤后的语料从约550B令牌跃升至5T,C++、TypeScript、Rust和Python的增长尤为显著。v3采用内容内联而非软件遗产ID,包含2025年8月前的GitHub重新爬取数据,排除限制性许可代码,并提供即用训练分割和完整桶供自定义去重过滤。Hugging Face研究人员将其视为下一代开放代码模型和网络防御工具的基础设施。
蒸馏问题仍然是政策上的分歧点。多位专家反对将“互联网规模预训练”与输出级蒸馏严格区分。Gergely Orosz将模型提示检查比作逆向工程,Schmidhuber强调蒸馏的悠久历史,Suhail主张实际行动是加大投资于开放权重模型,Garrytan则直言开放权重具有战略重要性。这些讨论的潜台词是,像The Stack v3这样的开放数据集提高了每个希望在不依赖封闭生态系统的情况下构建竞争性代码模型的实验室的门槛。
音频领域有两个值得注意的发布。阿里巴巴Qwen推出了Qwen-Audio-3.0-TTS,有Flash和Plus变体,支持16种语言,内联控制标签如[whisper]/[angry],自然语言风格引导,噪声参考鲁棒性,以及长达3分钟的一次生成;他们声称在Artificial Analysis TTS排行榜上排名第一。Hugging Apps则强调了WordVoice TTS,一个更小的模型,支持逐词控制时长、响度、音调和音色,更像是音频工具的控制面实验。
代理基础设施方面,重心正从提示转向框架。多个推文汇聚到相同的工程论点:信任源于测试、质量保证、突变测试和指标,而非手动代码审查。Harness Handbook论文展示了如何将运行时行为映射到源代码位置,提高了编码代理的规划成功率并减少了规划令牌使用。动态工作流作为循环/图/路由器模式的通用抽象,支持模型委员会、顾问-法官-执行器设置以及跨Claude/Codex/Hermes的多后端编排。Hermes Profiles提供了命名空间化的代理实例,具有独立内存、API密钥、会话、网关和导出/导入路径,是务实的代理生命周期基础设施。内存和协调方面,PRO-LONG采用“程序化记忆”方法,存储完整结构化交互历史并像数据库一样查询,在ARC-AGI-3上以更少令牌超越了定制长时记忆框架。Offloop的D1调度器是一个小模型,决定哪个代理应该发言或是否应该无人发言,解决了多代理系统中重复工作的常见故障模式。
基准测试也在向动态目标演变。Frontier-Bench是一个持续的社区基准,旨在随前沿代理工作发展而进化,而CAIS发布的EnigmaEval是一个更难的推理基准,Claude Fable 5和GPT-5.6 Sol领先,但硬集上Fable 5的准确率仅为10%。这些反映了对快速发展的代理系统静态评估的普遍不满。
OpenAI的产品更新主要为产品/用户体验层面的。ChatGPT Voice在桌面应用上针对Plus/Pro/Business/Edu/Enterprise推出,由GPT-Live驱动,具备控制电脑和协调ChatGPT Work与Codex工作的能力。反应不一,有人认为是真正的UX转变,也有人认为内部炒作暗示了更大的发布。Health in ChatGPT则更具战略意义,允许用户连接Apple Health和支持的医疗记录,声称额外加密,不用于训练基础模型或针对广告,并经过大量医生评审。
Hugging Face黑客事件继续主导安全讨论。John Schulman呼吁发布对话记录以了解顶级代理是否知情追查黑客或子代理是否产生价值漂移。Ryan Greenblatt等人强调了内部AI代理安全与标准外部威胁模型的区别。
总体而言,BFL的FLUX 3发布是多模态AI领域的重大进展,尤其是在机器人应用方面,而整个AI社区在开放数据、蒸馏和代理基础设施方面也取得了显著进展。