在 AWS 上使用 Amazon Bedrock AgentCore 構建高度可擴展的無服務器 LangGraph 多智能體系統

生成式 AI 已從實驗性原型迅速演進為需要在生產中可靠運行、具有可擴展性並滿足實際性能約束的系統。隨着組織超越演示和概念驗證階段，他們越來越多地遇到推理延遲、可擴展性、狀態管理和運營可見性方面的挑戰。如今，構建高性能 AI 智能體不僅需要強大的模型，還需要能夠提供一致性能、跨交互保持上下文，並深入洞察智能體在生產中推理和行為的實現。

在本文中，我們提供了一種在 AWS 上使用 LangGraph 智能體作為編排器，並與 Amazon Bedrock AgentCore Memory 和 Amazon Bedrock AgentCore Observability 集成，構建高度可擴展的無服務器多智能體生成式 AI 系統的解決方案。

我們的方法結合了 AWS Lambda 和 AWS Step Functions 等無服務器技術來構建高度可擴展的無服務器多智能體編排。開發者可以使用這些服務構建自動擴展、實時響應事件且無需管理基礎設施的 LangGraph 智能體，使其成為動態、突發性智能體工作負載的理想選擇。通過結合這些服務，您可以編排複雜的多工具智能體工作流，實現持久狀態管理、重試和精細成本控制。

LangGraph 的顯式圖執行模型支持智能體之間的確定性協調、並行處理和條件路由，使複雜的多智能體工作流更易於推理和調試。通過將編排邏輯與智能體行為分離，您可以獨立添加、刪除或演進專業智能體，同時保持清晰、可審計的執行路徑。這對於需要可預測行為、可擴展性和對多智能體推理進行結構化控制的生產系統尤其有價值。

AgentCore Observability 通過提供每個調用的詳細可見性，擴展了這些功能，捕獲了跨分佈式無服務器組件的模型輸入/輸出、延遲和工具鏈指標。AgentCore Memory 的集成記憶服務使智能體能夠在會話間維護短期對話上下文和長期知識。

解決方案概覽

我們的基於 LangGraph 和 AgentCore 的無服務器多智能體編排系統是一個由生成式 AI 驅動的多智能體營銷活動審核系統，它使用不同角色協調人工審核，使營銷活動能夠真實地與目標受眾產生共鳴，同時保持法律合規和品牌標準。該系統由三個專業 AI 智能體組成，並行分析營銷活動：角色審核智能體從不同人口統計角度審核內容並提供共振評分；驗證智能體檢查法律合規和品牌指南遵循情況；最終智能體將反饋綜合為可操作建議。用户通過 React 前端上傳活動文檔，該前端還輪詢結果並在可用時顯示審核。

我們使用 LangGraph 實現編排器和專業智能體，將系統建模為有狀態執行圖。每個節點代表一個離散的智能體功能——角色審核、合規驗證和反饋綜合——邊定義了這些步驟之間的控制流。編排器作為監督圖實現，路由執行、觸發專業智能體的並行分支，並收集其輸出進行最終聚合。LangGraph 編排器和專業智能體一起打包為 Docker 容器。

我們使用 AWS Lambda 作為 AWS 中的無服務器託管運行時，使 Strands 智能體自動擴展、實時響應事件並消除基礎設施管理。我們的編排器通過 Amazon API Gateway 提供 REST 接口展示其功能。

我們的智能體實現使用 AgentCore Observability 提供每個智能體工作流步驟的詳細可視化，使開發者能夠檢查執行路徑、審計中間輸出並調試性能瓶頸。在 AgentCore Observability 中，我們在 Amazon CloudWatch 中提供實時可見性，包括操作性能儀表板和關鍵指標遙測，如跟蹤、會話數、延遲、持續時間、標記使用和錯誤率。

我們使用 AgentCore Memory 實現兩個關鍵用例：跨多個智能體運行提供上下文和共享記憶的多智能體共享內存，以及支持多輪對話。您可以擴展此實現以提供 AI 助手自然語言界面，因為我們的實現使用 AgentCore Memory 內置支持存儲對話狀態和歷史。

先決條件

完成以下先決條件：

• 在 Amazon Bedrock 中驗證模型訪問。本解決方案使用 Amazon Bedrock 上的 Anthropic Claude 4.5 Sonnet。
• 安裝 AWS 命令行界面 (AWS CLI)。
• 安裝 AWS SAM CLI v1.100.0+。
• 安裝 Docker v20.x+。
• 安裝 Node.js v18.x+。
• 安裝 Python v3.11+。

依賴項

我們的 Strands Agents 實現具有以下依賴項，打包在 Dockerfile 中：

• langchain>=0.2.0
• langgraph==0.3.31
• langgraph-prebuilt~=0.1.8
• langgraph-sdk~=0.1.61
• langchain-aws>=0.2.18
• langchain_tavily
• requests
• bedrock-agentcore
• boto3

部署解決方案

您可以從我們的 GitHub 倉庫下載解決方案。按照以下步驟（也記錄在 GitHub 倉庫的 README 中）在您的 AWS 環境中部署和訪問解決方案：

**步驟 1：** 克隆倉庫。 **步驟 2：** 配置 AWS 憑證。 **步驟 3：** 設置 Amazon DynamoDB 角色表。 **步驟 4：** 構建 AWS SAM 應用程序。 **步驟 5：** 引導部署基礎設施。 **步驟 6：** 獲取部署輸出。 **步驟 8：** 配置前端環境。 **步驟 9：** 構建和部署前端。 **步驟 10：** 訪問應用程序。

清理

為避免重複收費，在嘗試解決方案後清理您的賬户：刪除 CloudFormation 堆棧和 DynamoDB 表。

結論

在本文中，我們展示瞭如何結合 LangGraph、Amazon Bedrock AgentCore 和無服務器 AWS 服務，幫助團隊構建高度可擴展、可投入生產的多智能體生成式 AI 系統。通過使用 LangGraph 的顯式圖執行模型進行編排，以及基於 AWS Lambda 的運行時進行執行，開發者可以協調複雜、並行的智能體工作流，具有確定性控制流、自動擴展和最小的運營開銷。集成的 AgentCore Memory 和 Observability 解決了實際智能體部署中最常見的兩個挑戰——狀態管理和可見性——通過在智能體運行間提供共享、持久的上下文，並深入洞察智能體行為、性能和成本。

這些能力共同形成了一種在 AWS 上構建企業級 AI 智能體的可重複架構模式。無論您是實施營銷活動審核系統、數字助手還是其他多智能體推理工作流，這種方法都允許您將編排與執行解耦，根據需求彈性擴展，並保持對智能體推理和交互的完全透明。通過使用 LangGraph 進行結構化編排以及 Amazon Bedrock AgentCore 進行託管運行時、記憶和可觀測性，您可以自信地從實驗原型轉向可靠、可擴展的生產級生成式 AI 系統。