AI News HubLIVE
站内改写3 分钟阅读

Smartsheet如何在AWS上构建远程MCP服务器

本文从高层次概述了Smartsheet远程MCP架构,重点介绍了其背后的AWS基础设施,包括安全性、治理、扩展和部署,以及Smartsheet在AWS上构建的AI特定优化。

来源AWS Machine Learning Blog作者: Pyone Thant Win

Smartsheet是一个企业工作管理平台,数十万组织依赖它。随着企业团队采用AI代理,这些代理需要结构化地访问Smartsheet等系统中的数据,但大多数系统并非为此设计。为弥合这一差距,Smartsheet在AWS上构建了一个远程模型上下文协议(MCP)服务器,使AI客户端能够直接访问其数据和功能。Amazon Quick和Claude Desktop等AI助手帮助用户通过自然语言与Smartsheet的功能交互,分析项目数据、更新任务、创建表格、管理工作空间等。

企业还在构建自定义AI代理,用于无需人类提示的工作负载。这些AI代理可以自主工作,通过Smartsheet使用MCP进行协调。例如,捕获需求、拾取任务、附加测试结果、起草文档。这些操作在与人类同事相同的表格中进行,将原本需要数周的工作流程压缩到数天或数小时。

MCP服务器连接到Smartsheet现有的API和中央智能层。它还添加了一个AI优化的接口,旨在最小化token成本,帮助防止幻觉,并帮助大型语言模型(LLM)可靠地处理企业数据。自推出以来,Smartsheet通过内部遥测数据显示,这些优化节省了超过30亿个token。

架构方面,一个MCP层同时服务内部和外部代理。Smartsheet自己的Smart Assist(产品内AI体验)和外部连接的AI客户端(如Amazon Quick)运行在同一基础设施上,使用相同的工具、优化和智能堆栈。这种对等性是一种有意的架构选择:Smartsheet一次构建,所有代理客户端立即受益。架构中关键的AWS服务包括:用于无状态服务器容器的AWS Fargate for Amazon ECS;用于变更事件摄取到Amazon S3的Amazon Kinesis Data Streams和Amazon Managed Service for Apache Flink;以及用于LLM推理和知识图谱的Amazon Bedrock和Amazon Neptune。

部署和扩展方面,AI流量不同于传统请求模式。代理自主编排工具调用序列,在一秒内发起多个请求,然后在模型推理时静默。这种突发模式需要能够应对突然峰值和持续吞吐量的扩展策略。Smartsheet将MCP服务器构建在AWS Fargate for Amazon ECS上,ECS Auto Scaling使用目标跟踪策略,结合流量量和计算利用率。计算感知扩展在这里很重要,因为每个请求涉及服务器端处理,如LLM优化的序列化,而不仅仅是代理。在类似生产的流量模式下的广泛负载测试验证了基础设施能够吸收代理突发而不降级。

治理和可观测性方面,对于企业客户,治理是AI采用的门控因素。Smartsheet将其构建在工具框架本身中:访问控制、错误处理和审计跟踪默认随每个工具提供。访问按组织分层:管理员可以全局开启AI访问,限制为仅非破坏性操作,或开放完全写入和破坏性能力,让每个组织控制其采用曲线。工具带有MCP协议注解,如readOnlyHint和destructiveHint,以便AI客户端自动应用适当的确认流程。服务器在完整请求生命周期中发出OpenTelemetry信号(日志、跟踪和指标)。每个工具调用在隐私约束范围内捕获最大上下文:用户、组织、工具名称、结果等。这为使用洞察和合规审计提供了基础。

安全性方面,MCP服务器运行在Smartsheet生产API相同的安全基础设施之后。AWS WAF和AWS Shield位于边缘,VPC中的私有子网、服务间调用的mTLS,以及拒绝未认证请求的OAuth2代理。MCP服务器遵循AWS MCP服务器部署指南中的纵深防御模型。API网关层处理身份验证和范围验证。领域服务处理细粒度权限。如果用户无法通过UI访问表格,也无法通过MCP访问。AI流量增加了独特的速率限制挑战。单个用户问题可以在几秒内触发多个工具调用。许多企业用户位于共享公司代理后面,使基于IP的速率限制不可靠。为此,Smartsheet通过AWS WAF实现了分层速率限制。三层协同工作:外缘的全面保护、使用自定义聚合键对身份标头的每用户计量,以及针对昂贵操作的路径特定控制。每用户计量意味着会话单独计量,而不是按IP池化。

测试非确定性AI工作流方面,Smartsheet维护标准测试层:单元测试、集成测试、工具级验证。然而,MCP服务器带来了传统API服务没有的测试挑战。传统API响应由UI确定性渲染。MCP工具响应首先通过LLM。模型解释它,推理它,并生成用户实际看到的内容。这种非确定性层改变了测试中“正确”的含义。Smartsheet大力投资包含LLM的端到端工作流测试。这些测试模拟真实业务场景:创建工作空间、写入数据、查询结果,并验证模型的解释对最终用户是否有意义。这些测试在CI/CD流水线(GitLab CI,运行在AWS上的runner)中运行,并作为金丝雀测试持续针对每个生产AWS区域运行。

优化AI消费方面,随着企业扩展AI代理部署,token消耗成为一个实际成本驱动因素。每个工具响应在LLM上都要花钱,并争夺上下文窗口容量。大多数MCP工具调用目前在没有子代理编排的情况下运行。代理直接调用工具,一次一个,在每一步之间推理。没有智能工具设计,这会很快变得缓慢、昂贵且容易出错。Smartsheet在三个层面进行优化:渐进式披露限制每个响应的token消耗;强类型工具模式有助于防止幻觉参数和浪费的调用;专有序列化格式在数据密集型响应上减少35-47%的token数量。

总之,Smartsheet的远程MCP服务器架构展示了如何将企业级工作管理平台与AI代理集成,同时确保安全性、可扩展性和成本效益。