什么是AI代理框架？
AI代理框架是围绕大型语言模型（LLM）的软件基础设施，使其能够执行任务而不仅仅是响应提示。本文介绍框架的核心组件——工具、内存、沙箱和护栏，以及它们如何通过推理-行动-观察循环实现可靠操作。还讨论了八个关键构建模块，如系统提示、工具执行、反馈循环等，以及常见故障模式如上下文腐烂、工具过载和缺乏护栏。最后强调，在企业AI战略中，共享框架基础设施对于扩展和管理代理至关重要。
AI代理框架是围绕大型语言模型（LLM）的软件基础设施，它赋予模型执行任务的能力，而不仅仅是生成文本响应。模型负责推理和决策，框架则提供工具、内存、执行环境和护栏，使模型能够安全可靠地采取行动。简单来说，代理 = 模型 + 框架。
框架的核心机制是“推理→行动→观察”循环。模型读取上下文（包括任务描述、历史记忆和先前结果），决定下一步行动；框架负责执行该行动，例如运行代码、调用API或写入存储；然后捕获结果并反馈给模型，模型据此决定后续步骤。这一循环重复进行，直到任务完成。这种模式被称为ReAct循环，由Yao等人在2022年提出，现已成为许多生产级代理系统的基础。例如，一个负责修复bug的编码代理：模型提出代码修改方案，框架在隔离的沙箱中运行代码，捕获测试结果并返回给模型；如果测试失败，模型分析原因并再次尝试。
生产级框架通常包含八个构建模块：
- 系统提示：每次运行前给予模型的固定指令，定义其身份、目标和行为规则。
- 工具与工具执行：预构建的函数，使模型能够搜索网络、查询数据库、发送邮件等。趋势是赋予模型编写和执行通用代码的能力，而非依赖大量窄用途工具。
- 沙箱与执行环境：隔离的工作空间，确保代理安全运行代码，避免对真实系统造成影响，并支持大规模并行执行。
- 文件系统与持久存储：代理读写文件的空间，支持跨会话持久化进度，便于人与代理或代理间协作。
- 内存与上下文管理：基础模型不保留上下文窗口外的记忆，框架通过上下文压缩、会话间记忆存储与检索来管理长期记忆。
- 反馈循环与自我验证：框架在每次行动后检查结果，运行测试或提示模型复核，实现自动纠错。
- 护栏与人工介入控制：内置规则阻止不安全操作，如要求人工批准删除文件或发送消息。
- 可观测性与日志记录：通过日志、跟踪和仪表盘记录代理行为，便于调试和合规审计。
框架设计对性能的影响日益显著。随着模型能力趋同，框架成为决定可靠性关键。同一模型搭配不同框架在基准测试中可能表现迥异，强框架加中端模型常优于弱框架加高端模型。例如，Databricks将GPT-5.5与OfficeQA Pro代理框架结合后，得分从36.10%跃升至52.63%，错误率减半。
框架工程是继提示工程和上下文工程之后的最新阶段。提示工程优化输入措辞，上下文工程控制模型所见信息，而框架工程则设计整个系统——工具、沙箱、循环、护栏——以最大化模型能力。三者层层递进，框架工程包含前两者。
生产中常见的故障模式包括：上下文腐烂（长对话中推理质量下降）、工具过载（工具过多导致混乱）、脆弱的工具接线（描述微变导致误用）、延迟（多步骤响应慢）、无关检索（错误信息引发错误答案）、弱验证（过早停止或不完整工作）以及缺乏护栏（不可逆操作无监督）。
在企业AI战略中，共享框架基础设施至关重要。多数公司会构建数十个代理，分散在不同团队和工作流中。如果没有一致的框架设计，会导致代理蔓延：代理各自为政，无法统一治理、评估或改进。通过标准化框架组件和评估基础设施，企业可以构建可靠、可扩展的代理系统。