过去几年里,AI 智能体能够承担的任务范围已经发生了显著扩张。最初,它们主要被用于简单的文本生成;随后,能力逐步延伸到工具调用和决策制定;如今,它们已经可以执行完整的任务流程。这一演进指向一个更清晰的未来方向:智能体将接过开放式目标,并持续推动目标走向完成。LangChain 在博客中讨论的“目标工程”(Goal Engineering),正是在这一背景下提出的核心命题。Hone 这类产品的发布,为这种未来提供了一个可观察的样本。
当一个智能体不再只是执行单步指令,而是围绕一个开放目标持续工作时,如何界定它的任务范围就变得至关重要。范围设计不当会带来直接的成本问题:方向偏离会导致大量 token 被浪费,而且智能体可能在错误路径上越走越远。在 Hone 的智能体设置中,一个关键环节是为智能体定义可供优化的指标,让它在明确的度量框架内自主推进任务。
LangChain 团队在构建类似智能体的过程中,总结出一个关于目标设计的经验:设计智能体范围时,应当让智能体在该范围内运行时尽可能容易地获得反馈。换句话说,范围不只是任务的边界,也决定了人类专家能否在关键节点上有效地介入和纠正。
为什么反馈能力如此重要?智能体出错的一个重要原因,是缺乏正确的上下文。要修正错误,就必须把正确的上下文补给智能体。上下文有多种类型:有些相对容易解决,比如让智能体访问正确的文档或 API;而最棘手的上下文,是那些尚未被记录在任何地方的隐性知识。这类上下文只能通过人类专家的反馈传递给智能体。
当智能体从可验证任务扩展到与人类一起承担主观性工作时,这一点尤为关键。例如,让智能体帮助优化某个业务指标,比如改进广告以提升营销表现,除了事实性上下文之外,还存在大量细微差别需要治理。团队通常对什么样的表达和视觉风格更合适有自己的品味,对品牌可以有多大胆、多出位也有明确看法。如果一个智能体无法有效获取反馈并快速学习这些偏好,它很快就会变得没有实际用处。因此,目标工程不仅是任务分解和指标设定,更是围绕反馈通路来设计智能体的工作范围。