机器学习工程智能体长期以来面临一个效率瓶颈:每进入一个新的竞赛或任务,系统都不得不从零开始,重新发现并实现早已存在的技术方案。这种“冷启动”模式造成大量算力浪费,也让智能体难以像人类工程师那样积累经验、举一反三。针对这一问题,Yongbin Kim 等三位作者提出了一种名为 HASTE 的分层多智能体系统,其论文《为什么要把同一件事做两遍?面向迁移高效机器学习工程的分层技能积累》于 2026 年 6 月 29 日提交至 arXiv,编号为 arXiv:2606.30911,并被 ICML 2026 深度学习与代码(DL4C)研讨会接收,全文共 19 页。
HASTE 的核心思想是把跨竞赛的知识按作用范围划分为三个层级:全局级、领域级和竞赛专属级。每个层级都对应一个相应层级的智能体,并由一个编排器负责协调领域专家,同时借助大语言模型驱动的抽象机制,在不同层级之间促进知识的上移与复用。换句话说,系统不再把所有技能一股脑塞进同一个上下文,而是根据任务所处的范围按需加载相关知识。
为了验证这种分层加载是否真的有效,研究团队进行了一组受控消融实验。他们在 8 个竞赛上保持 159 项技能的清单不变,只改变技能的加载方式。结果显示,分层加载达到了 100% 的奖牌率,而扁平加载的奖牌率仅为 62.5%,与完全不加载任何技能时的表现相同,并且扁平加载还消耗了 2 倍的输出 token。这一对比清楚地表明,性能差异并非来自技能数量的增加,而是来自知识的组织方式。
在更完整的 MLE-Bench Lite 基准上,HASTE 覆盖了 22 个 Kaggle 竞赛,使用 Claude Sonnet 4.6 模型、每个竞赛 12 小时的时间预算,最终达到 77.3% 的奖牌率。研究还对比了冷启动与热启动两种运行模式:冷启动时系统没有任何已积累的技能;热启动时则重新加载此前竞赛中学到的技能,并且只使用全局级和领域级技能来实现跨竞赛迁移,避免把竞赛专属知识生搬硬套到新任务上。
热启动带来的收益十分显著。与冷启动相比,热启动所用的精炼迭代次数减少了 52%;同时,智能体提出并被最终保留的修改比例也随技能库存的增加而上升,从库存较低时的 42% 提升到拥有 50 项以上技能时的 85%。这说明积累的知识不仅让系统少走弯路,还提高了每一次修改的有效性。
作者由此得出结论:对于机器学习工程智能体而言,更好的知识组织方式可以在一定程度上替代模型能力与算力预算。该研究涉及人工智能、机器学习与多智能体系统等方向,其意义在于提示未来的智能体系统不应只追求更强的模型或更多的计算资源,还应重视如何系统地沉淀、分层管理和迁移已有经验。论文的提交历史显示,v1 版本于 2026 年 6 月 29 日 20:59:14 UTC 提交,文件大小为 76 KB。