AI News HubLIVE
站内改写

AWS SMGS如何利用基於Amazon Bedrock AgentCore的AI對話助手轉變業務管理

AWS SMGS使用NarrateAI(基於Amazon Bedrock AgentCore構建的智慧對話解決方案)實現大規模商業智慧。該方案採用雙層架構:批次敘事生成和即時互動,透過專用AI代理進行路由和驗證,支援自然語言查詢、行級安全及個性化角色體驗,顯著提升決策效率。

文章情報

工程師進階

要點

  • NarrateAI透過雙層架構(批次處理+即時互動)解決傳統BI的延遲和資料碎片化問題。
  • 使用Amazon Bedrock AgentCore實現多代理編排,支援自然語言查詢和上下文感知響應。
  • 架構包括資料提取(Redshift)、轉換(Lambda)、敘事渲染(Jinja模板)和即時查詢(AgentCore協調六個專用工具)。
  • 實施行級安全、基於角色的過濾以及透過CloudWatch和OpenTelemetry實現的可觀測性。

為什麼重要

這條新聞值得關注,因為NarrateAI透過雙層架構(批次處理+即時互動)解決傳統BI的延遲和資料碎片化問題。

技術影響

可能影響模型選型、推理成本、產品能力和評測基準。

AWS領導者在管理跨多個層級的資料時面臨時間敏感的決策挑戰。傳統的商業智慧依賴靜態儀表盤和手動報告,導致延遲並限制組織敏捷性。NarrateAI利用資料湖和Amazon Bedrock AgentCore構建的會話式代理AI解決了這一問題。透過Amazon Quick會話介面,NarrateAI按需提供上下文豐富的商業智慧,從CEO到現場人員的領導者均可使用。它透過自然語言問題回答業務表現,提供即時、準確且可操作的洞察,消除領導者與資料之間的障礙。

NarrateAI透過兩層架構應對資料複雜性:批次敘事生成和即時互動。這種分離支援預先全面處理資料,同時透過自然對話提供即時、上下文準確的響應。Amazon Bedrock AgentCore消除了構建自定義編排基礎設施的需求,提供無伺服器架構、內建身份驗證、記憶體管理以及與基礎模型的整合。這使部署週期從數月縮短至數週,同時透過原生Amazon CloudWatch整合和自動會話管理保持生產級可觀測性和安全性。

自動敘事生成層採用三階段流水線:

  • 資料提取:配置驅動的SQL模板從Amazon Redshift提取結構化資料,支援多層次細分和時間序列分析,並強制執行使用者特定的訪問控制。
  • 資料轉換:AWS Lambda使用基於部分型別(物件、陣列、細分和容器)的邏輯將提取的資料轉換為結構化JSON,包含欄位對映和層次組織。
  • 敘事渲染:Jinja模板從結構化資料生成可讀的敘事。系統使用層次化的、業務領域感知的分塊策略高效處理大型資料集。每個使用者的敘事以文本檔案形式儲存在Amazon S3中,透過完全資料隔離支援行級安全性。

會話式AI介面層由Amazon Bedrock AgentCore驅動。當問題到達時,AgentCore編排專門的AI代理從Amazon S3中檢索相關的人物特定敘事,並將其作為知識源。代理使用Anthropic的Claude Sonnet 4推理內容以生成上下文相關的響應。AgentCore的原生多代理協調框架使系統能夠立即處理簡單查詢,對於複雜問題,則自動分解為並行子任務以獲取全面答案。

核心能力包括:

  • 自然語言業務查詢與預生成知識:領導者用英語提問,從S3結構化知識中獲得即時響應,系統理解業務術語並跨區域、產品、客戶細分和時間段進行多維度分析。
  • 固有行級安全性:在敘事生成期間應用行級安全性,確保每個使用者的知識引擎僅包含授權資料。使用者許可權在資料處理期間應用,每個使用者的敘事檔案在S3中完全隔離,防止跨使用者資料洩露。
  • 角色定製體驗:基於使用者角色和組織級別調整響應,CEO獲得組織層面的戰略洞察,區域經理獲得其特定區域的詳細運營指標。

架構元件:

  • NarrateAI代理(Strands代理):構建在Amazon Bedrock AgentCore上,用於多代理編排。監督代理透過六個專門工具協調端到端查詢工作流:問題分類、人物知識標識、知識提取器(基於目錄的檢索)、相關性評估器、答案生成器(Claude Sonnet 4)和線上評估器(驗證響應)。
  • 知識引擎:資料從Redshift和企業源流入知識引擎服務,Lambda進行轉換,處理後的資料以人物特定敘事檔案儲存在S3中,資料重新整理排程器自動更新。

基礎設施和AI基礎:

  • 資料儲存與處理:Amazon S3儲存結構化的知識工件,Lambda無伺服器資料轉換,Redshift作為資料倉儲,自定義檢索系統使用目錄方法快速定位文件部分。
  • 基礎模型:Amazon Bedrock提供訪問包括Claude Sonnet 4在內的領先基礎模型,用於自然語言理解和業務推理。
  • 安全與護欄:Amazon Bedrock Guardrails透過三個自定義配置的過濾器(內容過濾、PII紅action、語氣護欄)執行安全。
  • 代理部署基礎設施:Amazon Bedrock AgentCore提供編排層,包括高階可觀測性、認證整合和無伺服器記憶體管理。
  • 可觀測性:AgentCore與CloudWatch整合,透過OpenTelemetry實現跟蹤,除錯時間從數十分鐘降至個位數分鐘。
  • 記憶體管理:對話歷史從自定義DynamoDB解決方案遷移到AgentCore的原生記憶體功能,消除了自定義會話管理程式碼,簡化了架構。

該架構實現了即時響應與資料準確即時性的平衡,使AWS領導者能夠做出更快、更明智的決策。