AI News HubLIVE
站內改寫3 分鐘閱讀

[AINews] Black Forest Labs FLUX 3 - 多模態流模型超越Seedance 2.0、Gemini Omni和Grok Imagine,以及FLUX-mimic影片動作機器人模型

Black Forest Labs釋出了FLUX 3,一個統一的多模態模型,涵蓋影像、影片、音訊和動作預測。FLUX-mimic模型基於FLUX 3,用於機器人控制。此外,文章還涵蓋了開放程式碼資料集The Stack v3、蒸餾辯論、音訊/TTS系統、代理基礎設施以及OpenAI的產品更新。

2026年7月23日,Black Forest Labs(BFL)正式釋出了FLUX 3,這是繼2024年Flux 1之後最重大的多模態模型升級。FLUX 3基於Self-Flow研究,統一了影像、影片、音訊和動作預測,在多個基準上超越了Seedance 2.0、Gemini Omni和Grok Imagine。其核心能力包括文本到影片生成、影像到影片生成(動畫或視覺參考)、影片到影片生成(保留核心元素)、影片音訊延續、關鍵幀到影片生成、多語言對話、多種視覺風格和寬高比、代理鏈式剪輯以及強排版生成。所有輸出均自帶音訊生成。BFL還計劃釋出開放權重的Dev版本,這引起了社群的廣泛關注。

更為引人注目的是BFL與mimic Robotics合作推出的FLUX-mimic。這是一個影片動作模型,將FLUX 3的骨幹網路與機器人學習專業知識相結合,用於通用靈巧操作。該模型可在單個本地GPU上部署,並已在奧迪工廠進行測試。這一成果表明FLUX 3學習到的世界模型能夠直接轉移到機器人控制中,顯著提高了樣本效率。同時,Generalist AI的GEN-1模型也支援多種末端執行器,並在執行中適應“手”的變化,進一步強化了形態條件而非專門化的理念。

在開放資料方面,The Stack v3成為當日最重要的開放資料集釋出。它包含114TB原始資料、2.24億個倉庫、44億檔案、770種程式語言,以及大約5萬億個去重過濾令牌。與v2相比,過濾後的語料從約550B令牌躍升至5T,C++、TypeScript、Rust和Python的增長尤為顯著。v3採用內容內聯而非軟體遺產ID,包含2025年8月前的GitHub重新爬取資料,排除限制性許可程式碼,並提供即用訓練分割和完整桶供自定義去重過濾。Hugging Face研究人員將其視為下一代開放程式碼模型和網路防禦工具的基礎設施。

蒸餾問題仍然是政策上的分歧點。多位專家反對將“網際網路規模預訓練”與輸出級蒸餾嚴格區分。Gergely Orosz將模型提示檢查比作逆向工程,Schmidhuber強調蒸餾的悠久歷史,Suhail主張實際行動是加大投資於開放權重模型,Garrytan則直言開放權重具有戰略重要性。這些討論的潛臺詞是,像The Stack v3這樣的開放資料集提高了每個希望在不依賴封閉生態系統的情況下構建競爭性程式碼模型的實驗室的門檻。

音訊領域有兩個值得注意的釋出。阿里巴巴Qwen推出了Qwen-Audio-3.0-TTS,有Flash和Plus變體,支援16種語言,內聯控制標籤如[whisper]/[angry],自然語言風格引導,噪聲參考魯棒性,以及長達3分鐘的一次生成;他們聲稱在Artificial Analysis TTS排行榜上排名第一。Hugging Apps則強調了WordVoice TTS,一個更小的模型,支援逐詞控制時長、響度、音調和音色,更像是音訊工具的控制面實驗。

代理基礎設施方面,重心正從提示轉向框架。多個推文匯聚到相同的工程論點:信任源於測試、質量保證、突變測試和指標,而非手動程式碼審查。Harness Handbook論文展示瞭如何將執行時行為對映到原始碼位置,提高了編碼代理的規劃成功率並減少了規劃令牌使用。動態工作流作為迴圈/圖/路由器模式的通用抽象,支援模型委員會、顧問-法官-執行器設定以及跨Claude/Codex/Hermes的多後端編排。Hermes Profiles提供了名稱空間化的代理例項,具有獨立記憶體、API金鑰、會話、閘道器和匯出/匯入路徑,是務實的代理生命週期基礎設施。記憶體和協調方面,PRO-LONG採用“程式化記憶”方法,儲存完整結構化互動歷史並像資料庫一樣查詢,在ARC-AGI-3上以更少令牌超越了定製長時記憶框架。Offloop的D1排程器是一個小模型,決定哪個代理應該發言或是否應該無人發言,解決了多代理系統中重複工作的常見故障模式。

基準測試也在向動態目標演變。Frontier-Bench是一個持續的社群基準,旨在隨前沿代理工作發展而進化,而CAIS釋出的EnigmaEval是一個更難的推理基準,Claude Fable 5和GPT-5.6 Sol領先,但硬集上Fable 5的準確率僅為10%。這些反映了對快速發展的代理系統靜態評估的普遍不滿。

OpenAI的產品更新主要為產品/使用者體驗層面的。ChatGPT Voice在桌面應用上針對Plus/Pro/Business/Edu/Enterprise推出,由GPT-Live驅動,具備控制電腦和協調ChatGPT Work與Codex工作的能力。反應不一,有人認為是真正的UX轉變,也有人認為內部炒作暗示了更大的釋出。Health in ChatGPT則更具戰略意義,允許使用者連線Apple Health和支援的醫療記錄,聲稱額外加密,不用於訓練基礎模型或針對廣告,並經過大量醫生評審。

Hugging Face駭客事件繼續主導安全討論。John Schulman呼籲釋出對話記錄以瞭解頂級代理是否知情追查駭客或子代理是否產生價值漂移。Ryan Greenblatt等人強調了內部AI代理安全與標準外部威脅模型的區別。

總體而言,BFL的FLUX 3釋出是多模態AI領域的重大進展,尤其是在機器人應用方面,而整個AI社群在開放資料、蒸餾和代理基礎設施方面也取得了顯著進展。