推出结合Modal Sandboxes的Claude托管代理
Anthropic与Modal宣布推出Claude托管代理与Modal Sandboxes的集成,允许开发者在自己托管的可定制沙盒中运行工具调用,具有快速启动、成本效益和可扩展性。早期采用者包括Mason AI、DoorDash和Blend。
Anthropic今天宣布推出Claude托管代理,这是一套可组合的API,用于在云端大规模构建和部署代理。同时,Modal宣布与Anthropic合作,推出对Modal Sandboxes和托管代理的一流集成。
此次集成使开发者能够在自托管的Modal Sandbox中运行所有工具调用,受益于Modal的快速冷启动、自定义镜像、各种快照技术以及成本高效的爆发机制,同时保留Anthropic托管代理循环的便利性。
Modal一直推崇代理循环与实际代码执行分离的架构方法。托管代理是一种完全托管的REST API,Anthropic在其中运行代理循环并管理会话状态,而应用程序发送事件并流回结果。Modal认为这种方法很可能成为获胜模式,因为它使安全边界更易于推理,并让团队更好地控制可观测性、故障处理和规模。
Anthropic的托管沙盒适用于标准部署,而Modal是为AI工作负载构建的云平台,具有自定义容器运行时和编排层,专为快速、灵活、隔离的计算而设计。Modal提供快速启动(即使是自定义镜像)、持久化选项(卷、目录快照、文件系统快照和内存快照)、成本效率(爆发定价,仅按使用付费)、网络安全(短期连接令牌)以及大规模扩展(每个客户多达100,000个并发沙盒,支持CPU、内存和GPU配置)。
早期采用者反馈积极。Mason AI的CTO Sai Yandapalli表示:“我们的用例需要对复杂产品表面上的内部工具进行安全编排。Modal的沙盒提供了企业客户所需的安全边界,结合Claude托管代理,我们无需额外复杂性就获得了强大的框架。我们在不到一周的时间内就推出了工作版本,提高了客户的可靠性。”
DoorDash正在构建一个由AI代理组成的智能系统,涵盖聊天、语音、短信、浏览器操作、移动应用和店内订购,以支持商家。DoorDash团队已经在生产中使用Claude模型和Modal,并正在探索托管代理以加速扩展。DoorDash联合创始人Andy Fang说:“随着我们为本地企业扩展代理商务,我们需要一条高效的投产路径,具有完全的框架控制、规模和可靠性。我们很高兴评估Claude托管代理作为下一步。”
Blend运营着高度复杂的银行环境,每个客户都有独特的配置、工作流程、集成和合规要求。Blend已开始使用Claude Agent SDK和Modal Sandboxes支持代理辅助分类。为了在不分发Modal凭证的情况下让工程师访问完全配置的沙盒环境,Blend认为Claude托管代理与Modal Sandboxes的集成非常有价值。Blend联合创始人兼负责人Nima Ghamsari说:“当出现错误或支持请求时,答案通常存在于代码、配置和客户实际体验的交汇处。拥有一个已经具备正确工具、上下文和凭证的完全配置环境,是代理帮助工程师更快推理的关键。”
开发者现在可以开始使用。Modal提供了两个参考示例:一个CLI代理和一个Slack机器人,均基于相同的Modal + 托管代理框架。克隆、替换镜像和工具,即可获得生产部署的基础。Modal每月提供30美元的免费计算额度。