解鎖歐洲AI靈活性：跨區域推理助力歐盟數據處理與模型訪問

隨着全球對最新生成式AI模型和高性能加速計算的需求激增，AWS客户需要能夠跨多個AWS區域利用模型可用性和容量的工具，同時滿足安全和隱私要求。Amazon Bedrock上的跨區域推理（CRIS）通過自動將請求路由到預定義地理邊界內的多個AWS區域來滿足這些需求。這使得生成式AI應用能夠利用地理範圍內的廣泛容量，幫助客户構建更體現其地理複雜性的彈性應用。

在本文中，我們將深入探討跨區域推理（CRIS），並解釋歐洲客户如何從中受益。我們重點介紹了AWS為客户提供的功能、服務和資源，以幫助其符合本地數據保護和處理要求，包括可能適用於其活動的《通用數據保護條例》（GDPR）。

跨區域推理配置文件

跨區域推理是Amazon Bedrock的一項託管能力，可將模型推理請求路由到支持的AWS區域。推理配置文件定義了請求可路由到的區域。CRIS路由旨在以最低的延遲開銷優化模型吞吐量。Amazon Bedrock引入了系統定義的推理配置文件，這些配置文件以模型和支持的地理區域命名。

理解以下關鍵概念很重要：源區域——發起API請求的區域；目標區域——Bedrock服務可將請求路由到的區域。系統定義的CRIS配置文件具有全局或地理範圍。接下來，我們將解釋全局和歐盟地理範圍，以及客户如何使用不同配置文件來幫助其遵守監管和合規義務。

全局推理

全局推理配置文件將模型推理請求路由到任何支持的AWS商業區域。輸入提示被傳輸到目標區域進行模型推理，模型輸出在目標區域生成並返回到源區域。傳輸的數據經過加密，且保持在安全的AWS網絡內。目標區域自動選擇以優化可用模型容量和最低延遲。通過使用所有可用區域，採用全局推理的生成式AI應用對高峯時段的容量短缺或其他區域模型可用性問題更具彈性。此外，與直接區域推理或地理CRIS相比，某些模型通過全局CRIS享有折扣價格。

歐盟地理推理

地理CRIS（Geo CRIS）是系統定義的推理配置文件，與全局推理不同。這些配置文件將模型附加到一個地理區域，從配置文件內定義的不同區域提供同一模型的副本。EU CRIS配置文件專門為幫助客户處理歐盟居民數據而創建。CRIS只能在目標區域集合內優化流量。對於EU CRIS，所有目標區域都位於歐盟內部。來自歐盟外部的請求也可以通過EU CRIS優化。使用EU CRIS的客户將獲得以下效果：來自歐盟源區域的請求只能路由到歐盟內的其他AWS區域；這些請求不會路由到非歐盟區域。例如，倫敦和蘇黎世不被視為此類請求的目標區域。

安全與控制

客户數據的安全是AWS的最高優先級，這也體現在Amazon Bedrock跨區域推理的設計中。AWS之間的流量（包括區域間、邊緣節點和AWS Direct Connect路徑）始終通過AWS運營的主幹網絡。跨區域操作中傳輸的數據不經過公共互聯網。AWS對區域間傳輸的數據進行加密。消費者應用在調用模型時必須顯式在代碼中指定CRIS配置文件ID。地理推理配置文件（包括EU CRIS）是靜態的，AWS不會向其中添加新區域。如果需要添加新的目標區域，Amazon Bedrock將發佈新的地理特定配置文件。

透明度與審計性

許多數據處理法規要求控制者或消費者維護數據處理活動記錄。通過AWS CloudTrail，客户可以持續監控AWS賬户活動。CloudTrail捕獲API調用的歷史記錄，包括管理事件。對於Amazon Bedrock，每次API調用的元數據（包括模型調用API如Converse和InvokeModel）默認被記錄，但不包含實際負載。這些日誌可在事件歷史中查看90天。客户還可以配置更長的存儲。在CloudTrail中，客户可以通過additionalEventData中的inferenceRegion字段查看模型調用的源區域和目標區域。客户還可以選擇啓用模型調用日誌記錄，將完整請求和響應發送到CloudWatch Logs或S3。使用跨區域推理時，CloudWatch、CloudTrail和模型調用日誌記錄僅在源區域記錄日誌條目。

如何檢查可用的CRIS配置文件？

客户可以通過官方文檔頁面、AWS控制台或AWS SDK（如Boto3）查看可用的系統定義推理配置文件及其源和目標區域。代碼示例展示瞭如何列出系統定義的配置文件。

推理配置文件與本地數據處理

許多客户有本地數據處理要求，需要了解數據在何處處理。AWS客户可以使用AWS服務處理GDPR定義的個人數據。Amazon Bedrock屬於CISPE數據保護行為準則範圍，該準則提供了GDPR合規的獨立驗證。2021年，CISPE準則獲得歐洲數據保護委員會（EDPB）批准，並由CNIL正式採納。AWS客户可以繼續使用AWS服務將客户數據從EEA傳輸到未獲得充分性決定的國家（包括美國），同時符合GDPR要求。總之，全局和地理CRIS配置文件都能幫助客户進行模型推理，但選擇取決於具體的合規需求。