跳到主要内容
AI News HubLIVE
站内改写2 分钟阅读

Terminus-4B:小模型能否替代前沿LLM执行智能体任务?

文章摘要

Terminus-4B是一种基于Qwen3-4B微调的小语言模型,通过监督微调和强化学习训练,专门用于智能体终端执行任务。实验表明,它能将主智能体的令牌使用量减少约30%,同时在SWE-Bench Pro等基准测试中保持甚至超越Claude Sonnet/Opus/GPT-5.3-Codex等前沿模型的性能。

来源arXiv AI作者: Spandan Garg, Vikram Nitin, Yufan Huang
Terminus-4B:小模型能否替代前沿LLM执行智能体任务?
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

现代编码智能体越来越多地将专业子任务委托给子智能体——这些更小、更专注的智能体循环负责搜索、调试或终端执行等狭窄职责。这种架构模式通过将冗长输出(如构建日志、测试结果等)隔离在子智能体上下文中,保持主智能体的上下文窗口清洁。通常,智能体在执行此类任务时会使用前沿模型作为子智能体,例如Claude Sonnet、Opus或GPT-5.3-Codex,但这些模型成本高昂,且可能因上下文过长导致效率下降。

在最近的一篇论文中,来自研究机构的Spandan Garg、Vikram Nitin和Yufan Huang探究了经过微调的小语言模型(SLM)是否能在智能体终端执行任务中达到与前沿模型相当的性能。他们提出了Terminus-4B,这是一个基于Qwen3-4B的后训练模型,通过监督微调(SFT)和基于规则的LLM作为评判的强化学习(RL)专门针对此项任务训练。该方法使用预定义的评分规则,由另一个LLM评估子智能体的输出质量,从而引导模型优化。

研究团队在涵盖多种前沿模型、训练消融实验和主智能体配置的广泛评估中,对Terminus-4B进行了测试。他们使用了SWE-Bench Pro基准测试以及一个内部构建的SWE-Bench C#基准测试,后者包含大量需要冗长终端执行的任务,例如编译和测试运行。实验结果显示,与不使用子智能体的基线相比,Terminus-4B能够将主智能体的令牌使用量减少高达约30%,同时不影响其在两个基准测试上的性能。这意味着模型在大幅降低计算成本的同时,仍能保持与高端模型相当的准确性。

此外,Terminus-4B还改善了关键指标,表明主智能体更加依赖子智能体的输出,并减少了自身执行的终端任务。研究人员观察到,该模型不仅缩小了原始Qwen模型与前沿模型之间的差距,而且往往甚至超越了它们的性能。例如,在SWE-Bench Pro上,Terminus-4B的修复率超过了Claude Sonnet和Opus,而Claude Opus通常被认为是编码领域的领先模型。这一发现表明,经过适当训练的小模型可以在特定智能体任务中替代昂贵的前沿模型,为更高效、更具成本效益的AI系统铺平道路。

该研究的潜在影响深远:首先,它可能改变模型选型策略,使开发者更倾向于使用专门化的小模型而非通用大模型;其次,推理成本有望显著降低,因为小模型的运营成本更低;第三,产品能力可能通过更多子智能体的协作得到增强;最后,现有的评测基准可能需要重新校准,以反映小模型在特定任务中的竞争力。不过,研究的局限性在于其仅关注终端执行任务,其他类型的子任务(如搜索或调试)是否同样适用尚需验证。

展开要点与分析

文章情报

工程师进阶

要点

  • Terminus-4B在智能体终端执行任务上性能与前沿模型相当,且令牌消耗降低30%。
  • 采用监督微调和基于规则的LLM作为评判的强化学习训练。
  • 在SWE-Bench Pro和内部C#基准测试中表现优异,主智能体更依赖子智能体输出。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。