近日,一篇题为《Exploring Autonomous Agentic Data Engineering for Model Specialization》的论文以预印本形式发布在 arXiv 上(编号 arXiv:2605.30407v1),提交时间为 2026 年 5 月 28 日。该论文由 Yujie Luo 领衔、共 13 位作者合作完成,作者团队中的 Shumin Deng 负责了投稿联系工作。论文目前标注为“进行中工作”(Work in progress),涉及计算与语言(cs.CL)、人工智能(cs.AI)、信息检索(cs.IR)以及机器学习(cs.LG)等多个学科方向,代码计划在 github.com/zjunlp/DataAgent 上开源。
论文的出发点是一个现实困境:大语言模型在通用任务上表现优异,但一旦进入专业垂直领域,往往因缺少高质量领域数据而难以适配。现有的基于 LLM 的数据整理方法大多依赖人工设计的工作流程,因此一个关键问题始终未被系统检验——LLM 是否能够自主完成端到端的数据工程流水线,从而推动模型专业化。
为回答这一问题,作者正式提出了“自主智能体数据工程”(Autonomous Agentic Data Engineering)这一全新任务。其核心思路是把训练数据视为一个可优化的组件,让 LLM 扮演“自主数据工程师”,在多领域场景下规划、生成并迭代优化训练数据,并以训练后模型的性能提升作为指导信号。换言之,数据不再是静态的人工产物,而是由智能体在反馈循环中持续打磨的优化对象。
实验结果显示出显著效果:由 GPT-5.2 充当自主数据工程师时,它构建出一套训练课程(training curriculum),完全通过迭代式的、智能体驱动的数据适配,使学生模型的性能提升了 57.29%。这一数字体现了自主数据工程在模型专业化方面的潜力。
不过,论文并未止步于展示成功案例。作者同时揭示了该方法的瓶颈与局限,试图在潜力与挑战之间给出平衡的判断。通过这一研究,作者将“自主数据工程”确立为一种可度量的能力,并为未来由智能体驱动的模型专业化路径描绘了方向。论文的摘要、PDF、实验性 HTML 版本以及 TeX 源码均可在 arXiv 页面获取,DOI 为 10.48550/arXiv.2605.30407。