跳到主要内容
AI News HubLIVE
站内改写2 分钟阅读

为何两次解决同一问题?分层技能积累让机器学习工程代理实现高效迁移

文章摘要

论文提出 HASTE 框架,将跨竞赛知识分为全局、领域和竞赛特定三层,显著提升机器学习工程代理的奖牌率和学习效率。

来源arXiv AI作者: Yongbin Kim, Yashar Talebirad, Osmar R. Zaiane
为何两次解决同一问题?分层技能积累让机器学习工程代理实现高效迁移
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

机器学习工程智能体长期以来面临一个效率瓶颈:每进入一个新的竞赛或任务,系统都不得不从零开始,重新发现并实现早已存在的技术方案。这种“冷启动”模式造成大量算力浪费,也让智能体难以像人类工程师那样积累经验、举一反三。针对这一问题,Yongbin Kim 等三位作者提出了一种名为 HASTE 的分层多智能体系统,其论文《为什么要把同一件事做两遍?面向迁移高效机器学习工程的分层技能积累》于 2026 年 6 月 29 日提交至 arXiv,编号为 arXiv:2606.30911,并被 ICML 2026 深度学习与代码(DL4C)研讨会接收,全文共 19 页。

HASTE 的核心思想是把跨竞赛的知识按作用范围划分为三个层级:全局级、领域级和竞赛专属级。每个层级都对应一个相应层级的智能体,并由一个编排器负责协调领域专家,同时借助大语言模型驱动的抽象机制,在不同层级之间促进知识的上移与复用。换句话说,系统不再把所有技能一股脑塞进同一个上下文,而是根据任务所处的范围按需加载相关知识。

为了验证这种分层加载是否真的有效,研究团队进行了一组受控消融实验。他们在 8 个竞赛上保持 159 项技能的清单不变,只改变技能的加载方式。结果显示,分层加载达到了 100% 的奖牌率,而扁平加载的奖牌率仅为 62.5%,与完全不加载任何技能时的表现相同,并且扁平加载还消耗了 2 倍的输出 token。这一对比清楚地表明,性能差异并非来自技能数量的增加,而是来自知识的组织方式。

在更完整的 MLE-Bench Lite 基准上,HASTE 覆盖了 22 个 Kaggle 竞赛,使用 Claude Sonnet 4.6 模型、每个竞赛 12 小时的时间预算,最终达到 77.3% 的奖牌率。研究还对比了冷启动与热启动两种运行模式:冷启动时系统没有任何已积累的技能;热启动时则重新加载此前竞赛中学到的技能,并且只使用全局级和领域级技能来实现跨竞赛迁移,避免把竞赛专属知识生搬硬套到新任务上。

热启动带来的收益十分显著。与冷启动相比,热启动所用的精炼迭代次数减少了 52%;同时,智能体提出并被最终保留的修改比例也随技能库存的增加而上升,从库存较低时的 42% 提升到拥有 50 项以上技能时的 85%。这说明积累的知识不仅让系统少走弯路,还提高了每一次修改的有效性。

作者由此得出结论:对于机器学习工程智能体而言,更好的知识组织方式可以在一定程度上替代模型能力与算力预算。该研究涉及人工智能、机器学习与多智能体系统等方向,其意义在于提示未来的智能体系统不应只追求更强的模型或更多的计算资源,还应重视如何系统地沉淀、分层管理和迁移已有经验。论文的提交历史显示,v1 版本于 2026 年 6 月 29 日 20:59:14 UTC 提交,文件大小为 76 KB。

展开要点与分析

文章情报

工程师进阶

要点

  • 分层技能加载在奖牌率上达到100%,远超过平面加载的62.5%。
  • HASTE 在 MLE-Bench Lite 上取得77.3%的奖牌率,使用 Claude Sonnet 4.6 和12小时竞赛时间。
  • 热启动减少52%的迭代次数,技能库超过50项时变更保留率升至85%。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。