在 AWS 上使用 Amazon Bedrock AgentCore 構建高度可擴充套件的無伺服器 LangGraph 多智慧體系統

生成式 AI 已從實驗性原型迅速演進為需要在生產中可靠執行、具有可擴充套件性並滿足實際效能約束的系統。隨著組織超越演示和概念驗證階段，他們越來越多地遇到推理延遲、可擴充套件性、狀態管理和運營可見性方面的挑戰。如今，構建高效能 AI 智慧體不僅需要強大的模型，還需要能夠提供一致效能、跨互動保持上下文，並深入洞察智慧體在生產中推理和行為的實現。

在本文中，我們提供了一種在 AWS 上使用 LangGraph 智慧體作為編排器，並與 Amazon Bedrock AgentCore Memory 和 Amazon Bedrock AgentCore Observability 整合，構建高度可擴充套件的無伺服器多智慧體生成式 AI 系統的解決方案。

我們的方法結合了 AWS Lambda 和 AWS Step Functions 等無伺服器技術來構建高度可擴充套件的無伺服器多智慧體編排。開發者可以使用這些服務構建自動擴充套件、即時響應事件且無需管理基礎設施的 LangGraph 智慧體，使其成為動態、突發性智慧體工作負載的理想選擇。透過結合這些服務，您可以編排複雜的多工具智慧體工作流，實現持久狀態管理、重試和精細成本控制。

LangGraph 的顯式圖執行模型支援智慧體之間的確定性協調、並行處理和條件路由，使複雜的多智慧體工作流更易於推理和除錯。透過將編排邏輯與智慧體行為分離，您可以獨立新增、刪除或演進專業智慧體，同時保持清晰、可審計的執行路徑。這對於需要可預測行為、可擴充套件性和對多智慧體推理進行結構化控制的生產系統尤其有價值。

AgentCore Observability 透過提供每個呼叫的詳細可見性，擴充套件了這些功能，捕獲了跨分散式無伺服器元件的模型輸入/輸出、延遲和工具鏈指標。AgentCore Memory 的整合記憶服務使智慧體能夠在會話間維護短期對話上下文和長期知識。

解決方案概覽

我們的基於 LangGraph 和 AgentCore 的無伺服器多智慧體編排系統是一個由生成式 AI 驅動的多智慧體營銷活動稽核系統，它使用不同角色協調人工稽核，使營銷活動能夠真實地與目標受眾產生共鳴，同時保持法律合規和品牌標準。該系統由三個專業 AI 智慧體組成，並行分析營銷活動：角色稽核智慧體從不同人口統計角度稽核內容並提供共振評分；驗證智慧體檢查法律合規和品牌指南遵循情況；最終智慧體將反饋綜合為可操作建議。使用者透過 React 前端上傳活動文件，該前端還輪詢結果並在可用時顯示稽核。

我們使用 LangGraph 實現編排器和專業智慧體，將系統建模為有狀態執行圖。每個節點代表一個離散的智慧體功能——角色稽核、合規驗證和反饋綜合——邊定義了這些步驟之間的控制流。編排器作為監督圖實現，路由執行、觸發專業智慧體的並行分支，並收集其輸出進行最終聚合。LangGraph 編排器和專業智慧體一起打包為 Docker 容器。

我們使用 AWS Lambda 作為 AWS 中的無伺服器託管執行時，使 Strands 智慧體自動擴充套件、即時響應事件並消除基礎設施管理。我們的編排器透過 Amazon API Gateway 提供 REST 介面展示其功能。

我們的智慧體實現使用 AgentCore Observability 提供每個智慧體工作流步驟的詳細視覺化，使開發者能夠檢查執行路徑、審計中間輸出並除錯效能瓶頸。在 AgentCore Observability 中，我們在 Amazon CloudWatch 中提供即時可見性，包括操作效能儀表板和關鍵指標遙測，如跟蹤、會話數、延遲、持續時間、標記使用和錯誤率。

我們使用 AgentCore Memory 實現兩個關鍵用例：跨多個智慧體執行提供上下文和共享記憶的多智慧體共享記憶體，以及支援多輪對話。您可以擴充套件此實現以提供 AI 助手自然語言介面，因為我們的實現使用 AgentCore Memory 內建支援儲存對話狀態和歷史。

先決條件

完成以下先決條件：

• 在 Amazon Bedrock 中驗證模型訪問。本解決方案使用 Amazon Bedrock 上的 Anthropic Claude 4.5 Sonnet。
• 安裝 AWS 命令列介面 (AWS CLI)。
• 安裝 AWS SAM CLI v1.100.0+。
• 安裝 Docker v20.x+。
• 安裝 Node.js v18.x+。
• 安裝 Python v3.11+。

依賴項

我們的 Strands Agents 實現具有以下依賴項，打包在 Dockerfile 中：

• langchain>=0.2.0
• langgraph==0.3.31
• langgraph-prebuilt~=0.1.8
• langgraph-sdk~=0.1.61
• langchain-aws>=0.2.18
• langchain_tavily
• requests
• bedrock-agentcore
• boto3

部署解決方案

您可以從我們的 GitHub 倉庫下載解決方案。按照以下步驟（也記錄在 GitHub 倉庫的 README 中）在您的 AWS 環境中部署和訪問解決方案：

**步驟 1：** 克隆倉庫。 **步驟 2：** 配置 AWS 憑證。 **步驟 3：** 設定 Amazon DynamoDB 角色表。 **步驟 4：** 構建 AWS SAM 應用程式。 **步驟 5：** 引導部署基礎設施。 **步驟 6：** 獲取部署輸出。 **步驟 8：** 配置前端環境。 **步驟 9：** 構建和部署前端。 **步驟 10：** 訪問應用程式。

清理

為避免重複收費，在嘗試解決方案後清理您的賬戶：刪除 CloudFormation 堆疊和 DynamoDB 表。

結論

在本文中，我們展示瞭如何結合 LangGraph、Amazon Bedrock AgentCore 和無伺服器 AWS 服務，幫助團隊構建高度可擴充套件、可投入生產的多智慧體生成式 AI 系統。透過使用 LangGraph 的顯式圖執行模型進行編排，以及基於 AWS Lambda 的執行時進行執行，開發者可以協調複雜、並行的智慧體工作流，具有確定性控制流、自動擴充套件和最小的運營開銷。整合的 AgentCore Memory 和 Observability 解決了實際智慧體部署中最常見的兩個挑戰——狀態管理和可見性——透過在智慧體執行間提供共享、持久的上下文，並深入洞察智慧體行為、效能和成本。

這些能力共同形成了一種在 AWS 上構建企業級 AI 智慧體的可重複架構模式。無論您是實施營銷活動稽核系統、數字助手還是其他多智慧體推理工作流，這種方法都允許您將編排與執行解耦，根據需求彈性擴充套件，並保持對智慧體推理和互動的完全透明。透過使用 LangGraph 進行結構化編排以及 Amazon Bedrock AgentCore 進行託管執行時、記憶和可觀測性，您可以自信地從實驗原型轉向可靠、可擴充套件的生產級生成式 AI 系統。