訓練工具使用型智能體從自身經驗中改進仍然是一項挑戰。監督微調依賴於固定的教師蒸餾軌跡,而稀疏獎勵的強化學習對於長週期交互提供的監督信號較弱。為了克服這一難題,研究人員提出了DeepSearch-Evolve,一個基於DeepSearch-World環境的自蒸餾框架。DeepSearch-World是一個確定且可驗證的環境,配備有可復現的搜索和頁面閲讀工具,確保了實驗的可重複性。該環境包含42萬個多跳問答任務,這些任務通過實體級隨機遊走自動構建,覆蓋了多種知識領域。環境還支持關鍵的智能體認知行為,例如進度驗證、基於事實的反思和故障恢復,這些能力對於智能體的自我進化至關重要。DeepSearch-Evolve框架通過迭代執行軌跡生成、過濾、數據混合和微調,逐步提升智能體的性能。在沒有依賴更強模型蒸餾的情況下,DeepSearch-World-9B模型在多個基準測試中取得了有競爭力的成績:在BrowseComp上達到31.2%,在GAIA上達到61.5%,在HotpotQA上達到93.4%。這些結果表明,可驗證環境能夠有效支持長週期網絡智能體的可擴展自我進化。研究團隊已承諾將公開環境、42萬訓練池、驗證集、模型和代碼,旨在促進未來對自我改進深度搜索智能體的研究。該論文於2026年7月8日提交至arXiv,作者包括Xinyu Geng等10位研究人員。
DeepSearch-World:可驗證環境下的深度搜索智能體自蒸餾框架
文章摘要
DeepSearch-Evolve是一個自蒸餾框架,基於可驗證的DeepSearch-World環境訓練網絡智能體。該環境包含42萬個多跳問答任務,支持進度驗證、反思和故障恢復等認知行為。在沒有更強模型蒸餾的情況下,DeepSearch-World-9B在多個基準測試中取得了有競爭力的成績,證明了可驗證環境能夠支持長週期網絡智能體的自我進化。
來源arXiv Computational Linguistics作者: Xinyu Geng, Xuanhua He, Sixiang Chen, Yanjing Xiao, Fan Zhang, Shijue Huang, Haitao Mi, Zhenwen Liang, Tianqing Fang, Yi R. Fung
DeepSearch-World:可驗證環境下的深度搜索智能體自蒸餾框架