跳到主要內容
AI News HubLIVE
站內改寫1 分鐘閱讀

GenEvolve:通過工具編排的視覺經驗蒸餾實現自我進化的圖像生成智能體

文章摘要

GenEvolve是一種自我進化的圖像生成框架,通過工具編排的視覺經驗蒸餾,將生成嘗試建模為工具編排軌跡,並比較多次軌跡以提取結構化視覺經驗,提供密集的令牌級監督,幫助智能體更好地進行搜索、知識激活、參考選擇和提示構建。實驗表明,該方法在公共基準和GenEvolve-Bench上達到了最先進性能。

來源arXiv Computer Vision作者: Sixiang Chen, Zhaohu Xing, Tian Ye, Xinyu Geng, Yunlong Lin, Jianyu Lai, Xuanhua He, Fuxiang Zhai, Jialin Gao, Lei Zhu
GenEvolve:通過工具編排的視覺經驗蒸餾實現自我進化的圖像生成智能體
報告錯誤

更正渠道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

近年來,開放式圖像生成領域取得了顯著進展,但高質量生成仍然是一項複雜挑戰。傳統的簡單提示到圖像的映射往往無法滿足多樣化和高要求的用户需求。為了解決這一問題,研究人員開始探索將智能體與外部工具結合的方法,然而現有方法大多依賴圖像級別的標量獎勵,難以提供細粒度的指導。

在此背景下,由Sixiang Chen領導的研究團隊提出了GenEvolve,一種基於工具編排視覺經驗蒸餾的自我進化框架。該框架的核心思想是將每次生成嘗試建模為一個工具編排的軌跡。在軌跡中,智能體首先收集相關證據,然後選擇合適的參考圖像,調用生成模型的各種技能,最後將這些元素組合成一個提示-參考程序。這一過程類似於人類在創作時不斷嘗試和調整的策略。

GenEvolve的創新之處在於其訓練方式。與現有方法不同,GenEvolve不為每次生成分配單一的標量獎勵,而是針對同一請求生成多個軌跡,並系統性地比較這些軌跡。通過提取最佳軌跡與最差軌跡之間的差異,GenEvolve構建出結構化的視覺經驗。這些經驗僅提供給一個特權教師分支,教師分支學習如何區分優質與劣質軌跡。

受到在線策略自蒸餾技術的啓發,GenEvolve的視覺經驗蒸餾過程能夠提供密集的令牌級別的監督信號。這意味着智能體不僅知道最終生成的圖像好壞,還能學習到在搜索證據、激活知識、選擇參考和構建提示等各個環節中應該如何做出更優決策。這種細粒度的自我進化機制使得智能體能夠不斷迭代優化自己的行為。

為了驗證方法的有效性,團隊還創建了GenEvolve-Data數據集和GenEvolve-Bench基準測試。實驗結果顯示,在多個公共圖像生成基準上,GenEvolve均顯著超越了現有的強基線方法,達到了當前最先進的性能水平。這一成果為圖像生成智能體的進一步發展提供了新的思路,也為開放式生成任務帶來了更多可能性。

展開要點與分析

文章情報

工程師進階

要點

  • GenEvolve將圖像生成過程建模為工具編排軌跡,智能體收集證據、選擇參考、調用生成技能並組合成提示-參考程序。
  • 與傳統依賴於圖像級標量獎勵不同,GenEvolve比較同一請求的多次軌跡,提取最佳-最差差異作為結構化視覺經驗。
  • 視覺經驗蒸餾受在線策略自蒸餾啓發,提供密集令牌級監督,幫助學生智能體內化更好的搜索、知識激活和提示構建。
  • 構建了GenEvolve-Data和GenEvolve-Bench,實驗結果顯示在多個基準上達到了最新最優性能。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。

GenEvolve:通過工具編排的視覺經驗蒸餾實現自我進化的圖像生成智能體 | AI News Hub