AI News HubLIVE
站內改寫3 分鐘閱讀

[AINews] Black Forest Labs FLUX 3 - 多模態流模型超越Seedance 2.0、Gemini Omni和Grok Imagine,以及FLUX-mimic視頻動作機器人模型

Black Forest Labs發佈了FLUX 3,一個統一的多模態模型,涵蓋圖像、視頻、音頻和動作預測。FLUX-mimic模型基於FLUX 3,用於機器人控制。此外,文章還涵蓋了開放代碼數據集The Stack v3、蒸餾辯論、音頻/TTS系統、代理基礎設施以及OpenAI的產品更新。

2026年7月23日,Black Forest Labs(BFL)正式發佈了FLUX 3,這是繼2024年Flux 1之後最重大的多模態模型升級。FLUX 3基於Self-Flow研究,統一了圖像、視頻、音頻和動作預測,在多個基準上超越了Seedance 2.0、Gemini Omni和Grok Imagine。其核心能力包括文本到視頻生成、圖像到視頻生成(動畫或視覺參考)、視頻到視頻生成(保留核心元素)、視頻音頻延續、關鍵幀到視頻生成、多語言對話、多種視覺風格和寬高比、代理鏈式剪輯以及強排版生成。所有輸出均自帶音頻生成。BFL還計劃發佈開放權重的Dev版本,這引起了社區的廣泛關注。

更為引人注目的是BFL與mimic Robotics合作推出的FLUX-mimic。這是一個視頻動作模型,將FLUX 3的骨幹網絡與機器人學習專業知識相結合,用於通用靈巧操作。該模型可在單個本地GPU上部署,並已在奧迪工廠進行測試。這一成果表明FLUX 3學習到的世界模型能夠直接轉移到機器人控制中,顯著提高了樣本效率。同時,Generalist AI的GEN-1模型也支持多種末端執行器,並在運行中適應“手”的變化,進一步強化了形態條件而非專門化的理念。

在開放數據方面,The Stack v3成為當日最重要的開放數據集發佈。它包含114TB原始數據、2.24億個倉庫、44億文件、770種編程語言,以及大約5萬億個去重過濾令牌。與v2相比,過濾後的語料從約550B令牌躍升至5T,C++、TypeScript、Rust和Python的增長尤為顯著。v3採用內容內聯而非軟件遺產ID,包含2025年8月前的GitHub重新爬取數據,排除限制性許可代碼,並提供即用訓練分割和完整桶供自定義去重過濾。Hugging Face研究人員將其視為下一代開放代碼模型和網絡防禦工具的基礎設施。

蒸餾問題仍然是政策上的分歧點。多位專家反對將“互聯網規模預訓練”與輸出級蒸餾嚴格區分。Gergely Orosz將模型提示檢查比作逆向工程,Schmidhuber強調蒸餾的悠久歷史,Suhail主張實際行動是加大投資於開放權重模型,Garrytan則直言開放權重具有戰略重要性。這些討論的潛台詞是,像The Stack v3這樣的開放數據集提高了每個希望在不依賴封閉生態系統的情況下構建競爭性代碼模型的實驗室的門檻。

音頻領域有兩個值得注意的發佈。阿里巴巴Qwen推出了Qwen-Audio-3.0-TTS,有Flash和Plus變體,支持16種語言,內聯控制標籤如[whisper]/[angry],自然語言風格引導,噪聲參考魯棒性,以及長達3分鐘的一次生成;他們聲稱在Artificial Analysis TTS排行榜上排名第一。Hugging Apps則強調了WordVoice TTS,一個更小的模型,支持逐詞控制時長、響度、音調和音色,更像是音頻工具的控制面實驗。

代理基礎設施方面,重心正從提示轉向框架。多個推文匯聚到相同的工程論點:信任源於測試、質量保證、突變測試和指標,而非手動代碼審查。Harness Handbook論文展示瞭如何將運行時行為映射到源代碼位置,提高了編碼代理的規劃成功率並減少了規劃令牌使用。動態工作流作為循環/圖/路由器模式的通用抽象,支持模型委員會、顧問-法官-執行器設置以及跨Claude/Codex/Hermes的多後端編排。Hermes Profiles提供了命名空間化的代理實例,具有獨立內存、API密鑰、會話、網關和導出/導入路徑,是務實的代理生命週期基礎設施。內存和協調方面,PRO-LONG採用“程序化記憶”方法,存儲完整結構化交互歷史並像數據庫一樣查詢,在ARC-AGI-3上以更少令牌超越了定製長時記憶框架。Offloop的D1調度器是一個小模型,決定哪個代理應該發言或是否應該無人發言,解決了多代理系統中重複工作的常見故障模式。

基準測試也在向動態目標演變。Frontier-Bench是一個持續的社區基準,旨在隨前沿代理工作發展而進化,而CAIS發佈的EnigmaEval是一個更難的推理基準,Claude Fable 5和GPT-5.6 Sol領先,但硬集上Fable 5的準確率僅為10%。這些反映了對快速發展的代理系統靜態評估的普遍不滿。

OpenAI的產品更新主要為產品/用户體驗層面的。ChatGPT Voice在桌面應用上針對Plus/Pro/Business/Edu/Enterprise推出,由GPT-Live驅動,具備控制電腦和協調ChatGPT Work與Codex工作的能力。反應不一,有人認為是真正的UX轉變,也有人認為內部炒作暗示了更大的發佈。Health in ChatGPT則更具戰略意義,允許用户連接Apple Health和支持的醫療記錄,聲稱額外加密,不用於訓練基礎模型或針對廣告,並經過大量醫生評審。

Hugging Face黑客事件繼續主導安全討論。John Schulman呼籲發佈對話記錄以瞭解頂級代理是否知情追查黑客或子代理是否產生價值漂移。Ryan Greenblatt等人強調了內部AI代理安全與標準外部威脅模型的區別。

總體而言,BFL的FLUX 3發佈是多模態AI領域的重大進展,尤其是在機器人應用方面,而整個AI社區在開放數據、蒸餾和代理基礎設施方面也取得了顯著進展。