近年來,開放式圖像生成領域取得了顯著進展,但高質量生成仍然是一項複雜挑戰。傳統的簡單提示到圖像的映射往往無法滿足多樣化和高要求的用户需求。為了解決這一問題,研究人員開始探索將智能體與外部工具結合的方法,然而現有方法大多依賴圖像級別的標量獎勵,難以提供細粒度的指導。
在此背景下,由Sixiang Chen領導的研究團隊提出了GenEvolve,一種基於工具編排視覺經驗蒸餾的自我進化框架。該框架的核心思想是將每次生成嘗試建模為一個工具編排的軌跡。在軌跡中,智能體首先收集相關證據,然後選擇合適的參考圖像,調用生成模型的各種技能,最後將這些元素組合成一個提示-參考程序。這一過程類似於人類在創作時不斷嘗試和調整的策略。
GenEvolve的創新之處在於其訓練方式。與現有方法不同,GenEvolve不為每次生成分配單一的標量獎勵,而是針對同一請求生成多個軌跡,並系統性地比較這些軌跡。通過提取最佳軌跡與最差軌跡之間的差異,GenEvolve構建出結構化的視覺經驗。這些經驗僅提供給一個特權教師分支,教師分支學習如何區分優質與劣質軌跡。
受到在線策略自蒸餾技術的啓發,GenEvolve的視覺經驗蒸餾過程能夠提供密集的令牌級別的監督信號。這意味着智能體不僅知道最終生成的圖像好壞,還能學習到在搜索證據、激活知識、選擇參考和構建提示等各個環節中應該如何做出更優決策。這種細粒度的自我進化機制使得智能體能夠不斷迭代優化自己的行為。
為了驗證方法的有效性,團隊還創建了GenEvolve-Data數據集和GenEvolve-Bench基準測試。實驗結果顯示,在多個公共圖像生成基準上,GenEvolve均顯著超越了現有的強基線方法,達到了當前最先進的性能水平。這一成果為圖像生成智能體的進一步發展提供了新的思路,也為開放式生成任務帶來了更多可能性。