AI News HubLIVE
站內改寫3 分鐘閱讀

Smartsheet如何在AWS上構建遠端MCP伺服器

本文從高層次概述了Smartsheet遠端MCP架構,重點介紹了其背後的AWS基礎設施,包括安全性、治理、擴充套件和部署,以及Smartsheet在AWS上構建的AI特定最佳化。

來源AWS Machine Learning Blog作者: Pyone Thant Win

Smartsheet是一個企業工作管理平臺,數十萬組織依賴它。隨著企業團隊採用AI代理,這些代理需要結構化地訪問Smartsheet等系統中的資料,但大多數系統並非為此設計。為彌合這一差距,Smartsheet在AWS上構建了一個遠端模型上下文協議(MCP)伺服器,使AI客戶端能夠直接訪問其資料和功能。Amazon Quick和Claude Desktop等AI助手幫助使用者透過自然語言與Smartsheet的功能互動,分析專案資料、更新任務、建立表格、管理工作空間等。

企業還在構建自定義AI代理,用於無需人類提示的工作負載。這些AI代理可以自主工作,透過Smartsheet使用MCP進行協調。例如,捕獲需求、拾取任務、附加測試結果、起草文件。這些操作在與人類同事相同的表格中進行,將原本需要數週的工作流程壓縮到數天或數小時。

MCP伺服器連線到Smartsheet現有的API和中央智慧層。它還新增了一個AI最佳化的介面,旨在最小化token成本,幫助防止幻覺,並幫助大型語言模型(LLM)可靠地處理企業資料。自推出以來,Smartsheet透過內部遙測資料顯示,這些最佳化節省了超過30億個token。

架構方面,一個MCP層同時服務內部和外部代理。Smartsheet自己的Smart Assist(產品內AI體驗)和外部連線的AI客戶端(如Amazon Quick)執行在同一基礎設施上,使用相同的工具、最佳化和智慧堆疊。這種對等性是一種有意的架構選擇:Smartsheet一次構建,所有代理客戶端立即受益。架構中關鍵的AWS服務包括:用於無狀態伺服器容器的AWS Fargate for Amazon ECS;用於變更事件攝取到Amazon S3的Amazon Kinesis Data Streams和Amazon Managed Service for Apache Flink;以及用於LLM推理和知識圖譜的Amazon Bedrock和Amazon Neptune。

部署和擴充套件方面,AI流量不同於傳統請求模式。代理自主編排工具呼叫序列,在一秒內發起多個請求,然後在模型推理時靜默。這種突發模式需要能夠應對突然峰值和持續吞吐量的擴充套件策略。Smartsheet將MCP伺服器構建在AWS Fargate for Amazon ECS上,ECS Auto Scaling使用目標跟蹤策略,結合流量量和計算利用率。計算感知擴充套件在這裡很重要,因為每個請求涉及伺服器端處理,如LLM最佳化的序列化,而不僅僅是代理。在類似生產的流量模式下的廣泛負載測試驗證了基礎設施能夠吸收代理突發而不降級。

治理和可觀測性方面,對於企業客戶,治理是AI採用的門控因素。Smartsheet將其構建在工具框架本身中:訪問控制、錯誤處理和審計跟蹤預設隨每個工具提供。訪問按組織分層:管理員可以全域性開啟AI訪問,限制為僅非破壞性操作,或開放完全寫入和破壞效能力,讓每個組織控制其採用曲線。工具帶有MCP協議註解,如readOnlyHint和destructiveHint,以便AI客戶端自動應用適當的確認流程。伺服器在完整請求生命週期中發出OpenTelemetry訊號(日誌、跟蹤和指標)。每個工具呼叫在隱私約束範圍內捕獲最大上下文:使用者、組織、工具名稱、結果等。這為使用洞察和合規審計提供了基礎。

安全性方面,MCP伺服器執行在Smartsheet生產API相同的安全基礎設施之後。AWS WAF和AWS Shield位於邊緣,VPC中的私有子網、服務間呼叫的mTLS,以及拒絕未認證請求的OAuth2代理。MCP伺服器遵循AWS MCP伺服器部署指南中的縱深防禦模型。API閘道器層處理身份驗證和範圍驗證。領域服務處理細粒度許可權。如果使用者無法透過UI訪問表格,也無法透過MCP訪問。AI流量增加了獨特的速率限制挑戰。單個使用者問題可以在幾秒內觸發多個工具呼叫。許多企業使用者位於共享公司代理後面,使基於IP的速率限制不可靠。為此,Smartsheet透過AWS WAF實現了分層速率限制。三層協同工作:外緣的全面保護、使用自定義聚合鍵對身份標頭的每使用者計量,以及針對昂貴操作的路徑特定控制。每使用者計量意味著會話單獨計量,而不是按IP池化。

測試非確定性AI工作流方面,Smartsheet維護標準測試層:單元測試、整合測試、工具級驗證。然而,MCP伺服器帶來了傳統API服務沒有的測試挑戰。傳統API響應由UI確定性渲染。MCP工具響應首先透過LLM。模型解釋它,推理它,並生成使用者實際看到的內容。這種非確定性層改變了測試中“正確”的含義。Smartsheet大力投資包含LLM的端到端工作流測試。這些測試模擬真實業務場景:建立工作空間、寫入資料、查詢結果,並驗證模型的解釋對終端使用者是否有意義。這些測試在CI/CD流水線(GitLab CI,執行在AWS上的runner)中執行,並作為金絲雀測試持續針對每個生產AWS區域執行。

最佳化AI消費方面,隨著企業擴充套件AI代理部署,token消耗成為一個實際成本驅動因素。每個工具響應在LLM上都要花錢,並爭奪上下文視窗容量。大多數MCP工具呼叫目前在沒有子代理編排的情況下執行。代理直接呼叫工具,一次一個,在每一步之間推理。沒有智慧工具設計,這會很快變得緩慢、昂貴且容易出錯。Smartsheet在三個層面進行最佳化:漸進式披露限制每個響應的token消耗;強型別工具模式有助於防止幻覺引數和浪費的呼叫;專有序列化格式在資料密集型響應上減少35-47%的token數量。

總之,Smartsheet的遠端MCP伺服器架構展示瞭如何將企業級工作管理平臺與AI代理整合,同時確保安全性、可擴充套件性和成本效益。