解锁欧洲AI灵活性：跨区域推理助力欧盟数据处理与模型访问

随着全球对最新生成式AI模型和高性能加速计算的需求激增，AWS客户需要能够跨多个AWS区域利用模型可用性和容量的工具，同时满足安全和隐私要求。Amazon Bedrock上的跨区域推理（CRIS）通过自动将请求路由到预定义地理边界内的多个AWS区域来满足这些需求。这使得生成式AI应用能够利用地理范围内的广泛容量，帮助客户构建更体现其地理复杂性的弹性应用。

在本文中，我们将深入探讨跨区域推理（CRIS），并解释欧洲客户如何从中受益。我们重点介绍了AWS为客户提供的功能、服务和资源，以帮助其符合本地数据保护和处理要求，包括可能适用于其活动的《通用数据保护条例》（GDPR）。

跨区域推理配置文件

跨区域推理是Amazon Bedrock的一项托管能力，可将模型推理请求路由到支持的AWS区域。推理配置文件定义了请求可路由到的区域。CRIS路由旨在以最低的延迟开销优化模型吞吐量。Amazon Bedrock引入了系统定义的推理配置文件，这些配置文件以模型和支持的地理区域命名。

理解以下关键概念很重要：源区域——发起API请求的区域；目标区域——Bedrock服务可将请求路由到的区域。系统定义的CRIS配置文件具有全局或地理范围。接下来，我们将解释全局和欧盟地理范围，以及客户如何使用不同配置文件来帮助其遵守监管和合规义务。

全局推理

全局推理配置文件将模型推理请求路由到任何支持的AWS商业区域。输入提示被传输到目标区域进行模型推理，模型输出在目标区域生成并返回到源区域。传输的数据经过加密，且保持在安全的AWS网络内。目标区域自动选择以优化可用模型容量和最低延迟。通过使用所有可用区域，采用全局推理的生成式AI应用对高峰时段的容量短缺或其他区域模型可用性问题更具弹性。此外，与直接区域推理或地理CRIS相比，某些模型通过全局CRIS享有折扣价格。

欧盟地理推理

地理CRIS（Geo CRIS）是系统定义的推理配置文件，与全局推理不同。这些配置文件将模型附加到一个地理区域，从配置文件内定义的不同区域提供同一模型的副本。EU CRIS配置文件专门为帮助客户处理欧盟居民数据而创建。CRIS只能在目标区域集合内优化流量。对于EU CRIS，所有目标区域都位于欧盟内部。来自欧盟外部的请求也可以通过EU CRIS优化。使用EU CRIS的客户将获得以下效果：来自欧盟源区域的请求只能路由到欧盟内的其他AWS区域；这些请求不会路由到非欧盟区域。例如，伦敦和苏黎世不被视为此类请求的目标区域。

安全与控制

客户数据的安全是AWS的最高优先级，这也体现在Amazon Bedrock跨区域推理的设计中。AWS之间的流量（包括区域间、边缘节点和AWS Direct Connect路径）始终通过AWS运营的主干网络。跨区域操作中传输的数据不经过公共互联网。AWS对区域间传输的数据进行加密。消费者应用在调用模型时必须显式在代码中指定CRIS配置文件ID。地理推理配置文件（包括EU CRIS）是静态的，AWS不会向其中添加新区域。如果需要添加新的目标区域，Amazon Bedrock将发布新的地理特定配置文件。

透明度与审计性

许多数据处理法规要求控制者或消费者维护数据处理活动记录。通过AWS CloudTrail，客户可以持续监控AWS账户活动。CloudTrail捕获API调用的历史记录，包括管理事件。对于Amazon Bedrock，每次API调用的元数据（包括模型调用API如Converse和InvokeModel）默认被记录，但不包含实际负载。这些日志可在事件历史中查看90天。客户还可以配置更长的存储。在CloudTrail中，客户可以通过additionalEventData中的inferenceRegion字段查看模型调用的源区域和目标区域。客户还可以选择启用模型调用日志记录，将完整请求和响应发送到CloudWatch Logs或S3。使用跨区域推理时，CloudWatch、CloudTrail和模型调用日志记录仅在源区域记录日志条目。

如何检查可用的CRIS配置文件？

客户可以通过官方文档页面、AWS控制台或AWS SDK（如Boto3）查看可用的系统定义推理配置文件及其源和目标区域。代码示例展示了如何列出系统定义的配置文件。

推理配置文件与本地数据处理

许多客户有本地数据处理要求，需要了解数据在何处处理。AWS客户可以使用AWS服务处理GDPR定义的个人数据。Amazon Bedrock属于CISPE数据保护行为准则范围，该准则提供了GDPR合规的独立验证。2021年，CISPE准则获得欧洲数据保护委员会（EDPB）批准，并由CNIL正式采纳。AWS客户可以继续使用AWS服务将客户数据从EEA传输到未获得充分性决定的国家（包括美国），同时符合GDPR要求。总之，全局和地理CRIS配置文件都能帮助客户进行模型推理，但选择取决于具体的合规需求。