人工智能智能体已经不再局限于单次提示,而是能够连续数小时执行多步骤任务。根据METR的数据,前沿智能体能独立完成的任务时长大约每四个月翻一番;麦肯锡的调查则显示,40%的大型企业正在扩大智能体的部署规模,而一年前这一比例仅为27%。随着智能体运行时间更长、自主性更强,关注点已从“智能体能做什么”转向“如何安全、可靠且经济地大规模运行它们”。智能体执行的不仅是传统软件的工作:它们运行代码、浏览网页、访问敏感数据并代表用户采取行动。这些能力带来了全新的安全与基础设施需求,使得强隔离成为生产部署的必要条件。
每个智能体会话都需要一个安全、隔离的环境。然而,大规模实现这种隔离面临一个根本性挑战:如何在性能、成本和效率之间取得平衡。预配置环境即使在空闲时也会消耗资源,推高成本;按需环境减少了浪费,却引入了冷启动延迟,拖慢智能体执行。两种方法都无法在不做出取舍的情况下高效扩展。当组织从部署少量智能体转向运行数千个并发会话时,构建和管理自定义沙箱变得越来越复杂、昂贵且难以预测。
这一挑战显而易见。德勤的数据表明,只有15%的组织扩展了编排式多智能体系统,70%的组织表示他们尚无法信任和治理其智能体。扩展智能体不应意味着在安全性、速度和成本之间做选择。下一代智能体基础设施必须提供强隔离、快速启动、弹性伸缩和基于用量的经济性。因为当AI智能体进入生产环境时,安全执行不应成为瓶颈,而应成为实现规模化基础。通往生产的最快路径也应当是最安全的路径。
下一代 AgentCore 运行时
我们构建 Amazon Bedrock AgentCore 的目的是帮助开发者在规模化的同时安全地构建、连接和优化智能体。AgentCore 运行时是其中的托管计算层,为开发者提供完全托管的环境来部署和运行智能体,无需构建或维护基础设施。自推出以来,客户不断将智能体推向日益复杂的工作负载。随着工作负载增长,对执行环境的要求也水涨船高:更多计算资源、更灵活的计费方式,以及将信任边界扩展到数据而不仅是计算。只有当底层基础设施兼顾规模与速度时,智能体才能真正实现大规模生产。
今天,我们宣布 AgentCore 运行时的一系列更新,以满足这些需求。核心保障不变:每个会话都在其专属的硬件隔离 Firecracker 微虚拟机中运行,拥有独立的身份、策略和审计跟踪。这些更新扩展了该保障下的可能性:会话启动速度提升高达15倍,可扩展至4倍计算资源,运行效率提升高达68%,同时隔离边界完好无损。
以下是新增内容。
运行更大工作负载而无需等待更久
构建日益先进智能体的团队需要更大的灵活性:在隔离会话内按需调整内存和计算资源,以匹配工作负载需求。从大型代码库编译到浏览器驱动工作流,再到本地模型推理,执行环境必须跟上节奏。
会话现在可扩展至8个vCPU和32GB内存,相比上一版本提升4倍,并支持最大10GB的容器镜像。无论镜像大小和并发数如何,会话启动均在2秒内完成。您不再需要预热池和预配置集群来管理冷启动。
“迁移到下一代 AgentCore 运行时后,我们的智能体会话冷启动时间从近一分钟缩短到五秒以内,即使在高峰流量期间也是如此。它还消除了超过30秒的启动延迟,而我们的每周智能体数量却增加了一倍以上。”
—— Coinbase 工程副总裁 Siwei Shen
“Mission 使用 Amazon Bedrock AgentCore 运行时来驱动自然语言查询智能体,帮助用户检索房产和销售洞察,无需浏览复杂的数据系统。在我们对两个运行时版本的初步对比中,相同工作负载的推理请求冷启动快了35%,健康检查启动快了77%,同时每次调用的实测运行时成本降低了17%。新的 AgentCore 运行时为我们带来了更快的智能体体验和更高效的资源利用,这对于我们将企业智能体投入生产极具吸引力。”
—— Mission Cloud 首席AI与数据科学家 Ryan Ries 博士
“我们的方法是在 Zuora 的云环境中尽可能使用自动化和AI智能体,而这只有在运行时高效可靠的前提下才能实现。下一代 AgentCore 运行时在许多用例中将每次调用的内存占用减少了约60%,同时以稳定的延迟处理更多流量。随着我们在平台上扩展智能体工作负载,这为我们带来了更强的成本优势。”
—— Zuora 云与安全副总裁 Brad Ruppert
“Rescale 平台通过智能体数字工程帮助研发和工程团队加速产品开发。我们的工程专用智能体验证仿真输入、排查作业故障、选择硬件并生成报告,而工程师始终保持控制。Amazon Bedrock AgentCore 运行时使我们能够将智能体部署和扩展到生产环境,而无需构建或运营底层智能体基础设施,从而更快地向客户交付新智能体。”
—— Rescale 工程副总裁 Mark Whitney
不再为闲置智能体付费
随着团队将智能体推向生产,他们要求计费方式能反映智能体的实际工作模式。智能体大量时间花在等待模型响应、工具调用或人工决策上。它们应当为所做的工作付费,而不是为等待的时间付费。
运行时现在会在智能体释放内存后的几分钟内回收内存,空闲智能体会缩容至零。对于交互之间有自然停顿的多轮智能体,这意味着每个会话的内存消耗最多减少68%。对于始终在线的智能体,承诺基线定价为每个会话设定内存基线,按最低用量计费,并可按需突发至基线的四倍。这为稳定工作负载提供了可预测的费率,与 AWS Lambda 微虚拟机费率一致。运行时更高效地使用计算资源,因此您为相同工作支付更少费用。这使得常常阻碍生产推广的财务对话更容易达成。
“下一代 Amazon Bedrock AgentCore 运行时通过更快启动智能体和更高效地使用内存,帮助我们交付更响应迅速的AI体验。将消耗与实际使用量对齐,让我们的客户对扩展智能体解决方案充满信心,同时保持成本与实际需求挂钩。”
—— 德勤咨询有限责任公司 AI 与数据负责人 Ashwin Patil
“AgentCore 运行时为我们提供了一个托管基础,围绕客户的数据、工具和业务流程构建智能体产品和平台。下一代 AgentCore 运行时通过恢复初始化环境和回收未使用内存,使该基础更加响应迅速且资源高效。我们正开始基于最新版本进行构建,因为成本和延迟的降低对客户业务的运营方式产生了显著影响。”
—— Caylent 首席技术官 Randall Hunt
隔离边界现已扩展至您的数据
许多企业在智能体安全模型上存在一个持续缺口:智能体在隔离会话内运行,但其所需的数据却位于该边界之外。长时间运行的智能体会沿途获取上下文:文件、凭证、工具输出等。团队最终不得不自行制定数据进出规则,每增加一个智能体就增添一分复杂性和风险。
止步于计算的隔离只是边界的一半。下一代 AgentCore 运行时填补了这一缺口。每个会话仍在硬件隔离环境中运行,拥有独立的身份、访问策略和审计跟踪。智能体现在可以动态挂载工作文件系统并保存工作,例如支持 FUSE 的 Amazon S3 存储桶。您的数据在整个作业期间都留在信任边界内,由您一次性定义的单一控制集进行治理。
“在 Okta,AgentCore 运行时与 Lambda 微虚拟机的组合提供了我们的智能体所需的隔离执行环境和上下文记忆,使其能够在临时沙箱中检查代码、运行测试套件并打开拉取请求。结合我们身份治理的策略控制,AgentCore 运行时和 Lambda 微虚拟机展示了如何安全地扩展自主工程智能体,而不会冒工作区泄漏或权限升级的风险。”
—— Okta 工程高级副总裁 Monica Bajaj
“从帮助购车者评估置换价值,到帮助经销商预约服务并构建交易结构,Amazon Bedrock AgentCore 为 Cox Automotive 旗下品牌提供了数十种智能体解决方案。拥有一个统一的、受治理的智能体平台,使我们各业务团队能够自信地从试点走向生产。”
—— Cox Automotive 产品与工程副总裁 Chris Dillon
我们的承诺
能够进入生产的智能体,是那些您信任其代表您行动、涉及真实数据、真实风险和真实责任的智能体。信任不是事后添加的功能,而是您所构建于其上的运行时。本次发布是迈向该未来的一步:更大的会话、高效的资源使用、信任边界内的存储,同时不放松使工作可信的隔离。到 re:Invent 大会时,按会话作用域将通过会话标签凭证将每个会话绑定到其自己的存储文件夹,我们将继续在此基础上构建。
开始使用
下一代 AgentCore 运行时现已在北美、南美、欧洲和亚太地区的 AWS 区域可用。访问 Amazon Bedrock AgentCore 以在其上构建,或打开 Amazon Bedrock 控制台开始探索。
关于作者