跳到主要内容
AI News HubLIVE
站内改写2 分钟阅读

目标工程:智能体时代的核心设计

文章摘要

随着智能体承担越来越开放的任务,如何设计其目标与范围成为关键。文章指出,应优先设计便于人类专家提供反馈的智能体范围,以弥补隐性上下文缺失,并避免在主观任务中失效。

目标工程:智能体时代的核心设计
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

过去几年里,AI 智能体能够承担的任务范围已经发生了显著扩张。最初,它们主要被用于简单的文本生成;随后,能力逐步延伸到工具调用和决策制定;如今,它们已经可以执行完整的任务流程。这一演进指向一个更清晰的未来方向:智能体将接过开放式目标,并持续推动目标走向完成。LangChain 在博客中讨论的“目标工程”(Goal Engineering),正是在这一背景下提出的核心命题。Hone 这类产品的发布,为这种未来提供了一个可观察的样本。

当一个智能体不再只是执行单步指令,而是围绕一个开放目标持续工作时,如何界定它的任务范围就变得至关重要。范围设计不当会带来直接的成本问题:方向偏离会导致大量 token 被浪费,而且智能体可能在错误路径上越走越远。在 Hone 的智能体设置中,一个关键环节是为智能体定义可供优化的指标,让它在明确的度量框架内自主推进任务。

LangChain 团队在构建类似智能体的过程中,总结出一个关于目标设计的经验:设计智能体范围时,应当让智能体在该范围内运行时尽可能容易地获得反馈。换句话说,范围不只是任务的边界,也决定了人类专家能否在关键节点上有效地介入和纠正。

为什么反馈能力如此重要?智能体出错的一个重要原因,是缺乏正确的上下文。要修正错误,就必须把正确的上下文补给智能体。上下文有多种类型:有些相对容易解决,比如让智能体访问正确的文档或 API;而最棘手的上下文,是那些尚未被记录在任何地方的隐性知识。这类上下文只能通过人类专家的反馈传递给智能体。

当智能体从可验证任务扩展到与人类一起承担主观性工作时,这一点尤为关键。例如,让智能体帮助优化某个业务指标,比如改进广告以提升营销表现,除了事实性上下文之外,还存在大量细微差别需要治理。团队通常对什么样的表达和视觉风格更合适有自己的品味,对品牌可以有多大胆、多出位也有明确看法。如果一个智能体无法有效获取反馈并快速学习这些偏好,它很快就会变得没有实际用处。因此,目标工程不仅是任务分解和指标设定,更是围绕反馈通路来设计智能体的工作范围。

展开要点与分析

文章情报

工程师中级

要点

  • 智能体的任务范围已从简单文本生成扩展到工具调用、决策和完整任务执行。
  • 设计智能体范围时,应使其在运行过程中易于获得反馈。
  • 最棘手的上下文是未写下来的隐性知识,需通过人类专家反馈来传授。
  • 当智能体处理主观性任务时,缺乏有效反馈机制将导致其无用。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。