跳到主要内容
AI News HubLIVE
站内改写5 分钟阅读

DXC Technology 如何在 Amazon Bedrock 上构建多模型 AI 基座

文章摘要

DXC Technology 在 Amazon Bedrock 上构建了名为 DXC OASIS 的多模型 AI 基座,将弹性模型层与可信执行框架分离,用于关键 IT 运维,已实现平均解决时间缩短 95%。

来源AWS Machine Learning Blog作者: Asif Fouzi
DXC Technology 如何在 Amazon Bedrock 上构建多模型 AI 基座
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

当 AI 代理可以在银行或医院的生产服务器上执行操作时,仅仅接入一个强大的基础模型只是起点。近期公开的事件表明,自主代理可能采取操作者从未意图的破坏性行动,真正的风险很少仅来自模型本身,而在于代理被赋予了超出任务所需的权限,且架构中没有任何机制加以阻止。避免这种情况,需要从基础设施层面构建一个治理模型访问的基座。

Amazon Bedrock 正是这样的基座。通过单一托管接口,它为 DXC OASIS 提供了对多个基础模型的访问,包括 Anthropic Claude、Amazon Nova、Meta Llama 以及开源权重模型系列。Amazon Bedrock Guardrails 在所有模型上统一执行内容过滤、个人身份信息(PII)脱敏和禁止主题策略。AWS PrivateLink 将推理流量保留在客户的虚拟私有云(VPC)内,无服务器扩展避免了自管理 GPU 基础设施成为故障点。这些系统级控制而非附加组件,为 DXC Technology 提供了一个受治理的基础,使其能够构建模型层无法单独提供的能力:一个跨企业 IT 运维、大规模编排、治理和审计 AI 代理的可信框架。

DXC Technology 为全球监管最严格的行业提供托管 IT 服务,客户包括银行、医院和政府机构。公司在 70 个国家拥有超过 115,000 名员工,运营着任务关键型系统,弹性和治理不容妥协。在构建 DXC OASIS 这一面向关键 IT 运维的框架时,团队将问题分为两层:第一层是基于 Amazon Bedrock 的受治理模型基座;第二层是构建于其上的可信框架,即 DXC 自有的编排、治理和保障层。

本文探讨 DXC 如何在 Amazon Bedrock 上构建 DXC OASIS 之下弹性、灵活的模型基座,并展示 DXC 如何在基座提供的能力与框架必须提供的能力之间划清界限。自 2026 年 3 月正式可用以来,DXC OASIS 在 56 个实测用例中平均将解决时间缩短了 95%。

在所有模型上,客户数据都保留在 AWS 数据边界内:提示和补全不会与第三方模型提供商共享,也不会用于训练底层基础模型。DXC Technology 全球基础设施服务(GIS)总裁 Dan Gray 表示:“我们的客户运营着复杂、业务关键的环境,在采用 AI 时需要选择权和弹性。Amazon Bedrock 提供了广泛的模型生态,并具备企业级所需的治理、安全和运营控制。这种灵活性使我们能够为任务选择合适的模型,随技术演进调整,并专注于为客户交付可衡量的业务成果。”

解决方案概述

DXC OASIS 将“用哪个模型”与“工作如何完成”分开。Amazon Bedrock 是基座:一个受治理的基础模型网关,通过一致的 API 访问,并具有将流量保持在 AWS 边界内的安全和网络控制。框架是 DXC 在上层构建的一切:跨工具和系统的编排、源自 60 年运行手册和升级逻辑的运营上下文、策略执行、人工监督关卡,以及对每个代理操作的完全可审计性。

设计目标包括:弹性——模型层无单点故障;灵活性——根据成本、延迟和能力将每项任务路由到最合适的模型;监管主权——满足受监管租户的数据处理期望;安全设计——限制每个代理能做什么,确保任何有运营影响的操作都经过策略检查,并在必要时获得人工批准。

DXC 防范的主要风险是将系统耦合到任何单一提供商、框架或部署目标。架构中,工程师和操作员通过 Amazon Route 53 和客户 VPC 内的 Application Load Balancer 访问系统。DXC OASIS 代理运行时在私有子网中的 Amazon Elastic Kubernetes Service (Amazon EKS) 上运行。在那里,一个监督代理委托给能力代理,这些代理利用知识库、AWS Secrets Manager、Amazon EventBridge 和 Amazon Simple Storage Service (Amazon S3)。每次模型调用都通过 VPC 接口终端节点和 AWS PrivateLink 离开子网到达 Amazon Bedrock,因此推理流量不经过公共互联网。AWS Identity and Access Management (IAM)、AWS Key Management Service (KMS)、TLS 1.2、Amazon CloudWatch、VPC Flow Logs、AWS CloudTrail 和 OpenTelemetry 在每一层提供安全和可观测性。

构建 DXC OASIS 基座

DXC 于 2025 年初开始构建 DXC OASIS 原型。一个跨职能团队于 2026 年 3 月实现正式可用,并在 Amazon EKS 上扩展到 130 个客户环境,采用每租户命名空间和 GitOps 推出。构建基座涉及以下任务:通过 Amazon Bedrock 建立受治理的多模型访问;在架构的每一层设计弹性;将每个工作负载路由到最合适的模型;划清基座与框架的界限。

通过 Amazon Bedrock 建立受治理的多模型访问

DXC OASIS 使用的每个模型(Anthropic Claude、Amazon Nova、Meta Llama 和开源权重系列)都通过 Amazon Bedrock 模型推理访问。因此,提供商中断或弃用成为路由决策,而非系统重建。然而,统一访问不等于统一行为:模型在能力、响应风格和故障模式上存在差异。替换模型既是一项保障活动,也是一项路由变更。在模型进入生产路由之前,框架(而非 API)会根据 DXC OASIS 任务套件对其进行评估。

在每一层设计弹性

DXC OASIS 的弹性不是单一控制,而是多种控制的叠加。无单一提供商依赖:每个模型都通过 Amazon Bedrock 模型推理访问,提供商中断或弃用是路由决策而非系统重建,框架在切换上线前确保模型间的行为差异。无服务器模型层:Amazon Bedrock 是无服务器的,Amazon EKS 控制平面由 AWS 管理,消除了单点故障。影响范围遏制:Amazon Bedrock Guardrails 无论模型如何,都一致应用内容过滤器、禁止主题、PII 过滤器和上下文控制,遏制任何单一故障的影响范围。私有加密路径:Amazon VPC 和 AWS PrivateLink 使模型流量远离公共互联网。传输中使用 TLS 1.2,静态数据使用 AWS KMS 保护。弹性容量:Amazon EKS 自动扩展和每租户命名空间使新租户入职成为容量规划练习。

除了弹性,DXC OASIS 还解决数据驻留和主权问题。区域推理控制和 AWS PrivateLink 将推理保持在批准的 AWS 区域内并远离公共互联网,满足受监管租户的数据处理期望。

将每个工作负载路由到最合适的模型

DXC 在 Amazon Bedrock 上构建的战略原因是可选性。由于每个模型都位于同一 API 之后,团队根据成本、延迟和能力将每项任务路由到最合适的模型,并在新前沿模型出现时采用它们而无需重新铺设系统。模型选择作为工作负载决策:每项任务的能力、延迟和成本要求决定其使用哪个模型,而非系统约束。智能提示路由:单个无服务器终端节点预测响应质量,并在同一系列模型之间路由请求。它将简单提示发送到成本较低的模型,将复杂推理发送到能力更强的模型。提示缓存进一步降低延迟和成本。自定义模型导入:通过 Custom Model Import,相同的治理和工具扩展到 DXC 或其客户自带的模型。开放与封闭模型并存:Amazon Bedrock 支持开源权重模型与专有模型并存,因此 DXC 可以将前沿推理与客户可调整和部署的开源权重模型配对,并置于同一组护栏之下。

划清基座与框架的界限

每个企业代理都需要六项能力。有些是 Amazon Bedrock 直接提供的基座能力。另一些只有框架才能提供,因为它们依赖于 DXC 的运营上下文和问责模型。这个边界也是代理安全成败之处。对模型输入和输出的护栏是必要的,但只有框架才能限制代理被允许做什么。

编排:Bedrock 提供基础服务层,框架调用、包装或扩展它。框架添加跨工具、系统和多步骤工作流的监督代理和能力代理委托,构建于开源 LangGraph 运行时之上。上下文:Bedrock 提供知识库基础设施和用于检索的提示缓存。框架添加 60 年的运行手册、升级逻辑和实时 IT 服务管理(ITSM)数据。治理:Bedrock 提供 AWS IAM、区域推理控制和租户隔离的模型访问。框架添加每请求策略执行、基于角色的授权和字段级约束。护栏:Bedrock 提供 Amazon Bedrock Guardrails(内容过滤器、禁止主题、PII 过滤器)。框架添加基座过滤器之上的运营策略执行:分层知识层次、范围明确且可审计的代理角色,以及客户特定的代理可操作规则。人工监督:非基座功能。框架添加四个权限层级(观察、提议、批准后行动、范围内行动),每个角色从只读开始,外加批准关卡和升级路径。保障:Bedrock 提供加密、可审计的基础设施和 VPC Flow Logs。框架为每个操作添加 OpenTelemetry 跟踪,每个跟踪具有唯一执行 ID,提供从意图到行动的端到端可追溯性。

工作负载如何流经 DXC OASIS

为了具体说明架构,以下用例来自 DXC OASIS 演示环境。环境围绕 AnyCompany Airlines 构建,这是一家虚构的中型航空公司,运营混合本地和 AWS 资产。

事件解决:诊断并修复一台处于风险中的生产服务器,从告警到解决在 10 分钟内完成。问题管理:ITSM 代理对前五大事件类别进行排名,并建议如何减少每个类别,这项工作手动需要 2-3 小时。云成本分析:对于 AWS 云工程师,指标代理按服务和区域分解 90 天成本趋势,然后根据请求调查支出峰值。

事件解决工作流展示了基座和框架如何协同工作:告警以业务术语呈现——一个运行手册未能清除 FlightOps 服务器上的磁盘空间。CIO 将告警视为业务风险:航班运营调度可能在 4 小时内受到影响。与此同时,Linux 工程师看到相同的告警,但带有采取行动所需的技术细节。计划和委托——工程师从仪表板小部件打开 AI Assist,指标作为上下文带入聊天。一个监督代理...(原文截断)

展开要点与分析

文章情报

工程师进阶

要点

  • DXC OASIS 在 Amazon Bedrock 上统一访问 Claude、Nova、Llama 等多个模型,避免单一供应商依赖。
  • 通过 Guardrails、PrivateLink 和 VPC 实现系统级治理,确保数据不出 AWS 边界。
  • 将模型基座与编排、治理、审计的“可信框架”分离,后者负责策略执行和人工监督。
  • 自 2026 年 3 月 GA 以来,在 56 个用例中平均解决时间降低 95%。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。