一鍵從 Hugging Face 到 Amazon SageMaker Studio
Hugging Face 與 Amazon SageMaker AI 推出深度鏈接集成,開發者只需一鍵即可從模型發現直接進入 SageMaker Studio 進行實驗。該集成自動配置權限,顯示 GPU 配額,簡化了模型微調和部署流程。
今日,我們激動地宣佈 Hugging Face 與 Amazon SageMaker AI 之間的一項深度鏈接集成。開發者現在只需一次點擊,即可從模型發現直接進入 SageMaker Studio 進行動手實驗。無論是微調 Amazon SageMaker JumpStart 中的基礎模型(FM),還是將其部署到 Amazon SageMaker 推理端點,您都可以直接進入相關的 SageMaker Studio 工作流。所選模型已預加載,環境已完全配置,隨時可用。
此前,在 Hugging Face 上發現模型後,要開始使用 SageMaker Studio 需要多個步驟。這些步驟包括打開 AWS 管理控制台中的 Amazon SageMaker AI、創建域、配置 AWS Identity and Access Management (IAM) 權限,有時還需要請求 GPU 配額。對於希望快速迭代的開發者來説,這種摩擦阻礙了從靈感到實驗的路徑。此次集成創建了一條從發現到企業部署的更直接路徑。
“在 Arcee,我們構建開放模型,以便開發者和企業能夠真正擁有他們所運行的內容:檢查權重、用自己的數據進行後訓練,並按自己的條件部署。此次集成將這一承諾推向最後一公里。從 Hugging Face 上的開放模型一鍵直達 SageMaker Studio,然後在您自己的 AWS 環境中進行微調或部署,無需任何額外配置,這正是開放模型所缺少的體驗。您擁有的開放權重,在您控制的雲中運行。這正是我們的客户一直在要求的組合。”
— Mark McQuade,Arcee AI 創始人兼首席執行官
通過一鍵式 Studio 登錄體驗,在支持的 Hugging Face 模型頁面上選擇“在 SageMaker AI 上定製”或“在 SageMaker AI 上部署”可直接進入控制台。SageMaker AI 會自動在幾秒鐘內預配置一個新域,並攜帶模型上下文。
新功能
此次發佈引入了三項能力,縮短了從 Hugging Face 模型到工作 SageMaker Studio 工作流的路徑。
從 Hugging Face 到 SageMaker Studio 的深度鏈接
在 Hugging Face 上瀏覽模型時,您現在會看到受支持模型旁的操作按鈕,直接映射到 SageMaker Studio 工作流:
“在 SageMaker AI 上定製”打開 Studio 中的模型定製頁面,所選模型已預加載,準備微調。
“在 SageMaker AI 上部署”打開 Studio 中的部署頁面,模型已預先配置用於端點部署。
每個入口點都保留了上下文,因此您無需在進入 Studio 後再次搜索模型。
預配置權限
通過此流程創建的新 Studio 環境已預先配置好 SageMaker AI 全套功能的權限,包括模型定製、訓練作業、筆記本實驗和端點部署。一個新的託管策略 AmazonSageMakerModelCustomizationCoreAccess 被創建並附加給您。它提供了使用監督微調 (SFT)、直接偏好優化 (DPO)、使用可驗證獎勵的強化學習 (RLVR) 以及從 AI 反饋中強化學習 (RLAIF) 進行無服務器模型定製作業的權限,並支持部署到 SageMaker AI 或 Amazon Bedrock 端點。這減輕了在開始實驗之前手動創建和配置 IAM 角色和策略的需求。對於現有 Studio 環境,帶有文檔直接鏈接的可操作消息會指導您添加這些權限。
GPU 配額可見性
在選擇用於部署或訓練的實例類型時,Studio UI 現在直接在實例選擇列表中顯示配額可用性。您可以立即查看哪些 GPU 實例類型(G5、G6)在當前賬户限制下可用。您無需單獨導航到 Service Quotas。如果您仍需要請求增加配額,您會被直接重定向到相應實例類型的 Service Quotas 頁面。
操作步驟:從 Hugging Face 深度鏈接到 SageMaker Studio
讓我們逐步體驗從 Hugging Face 開始定製或部署模型的過程。
第 1 步:發現並選擇
在 Hugging Face 模型頁面上,為支持的模型選擇“在 SageMaker AI 上定製”。
第 2 步:登錄
系統會提示您使用現有憑證登錄 AWS。如果您已有活躍的控制台會話,此步驟將自動跳過。有關更多信息,請參閲登錄 AWS 管理控制台。
第 3 步:進入 Studio
您直接進入 SageMaker Studio 內的模型定製頁面,模型已被預選。接下來,配置微調參數,例如訓練數據、超參數和實例類型,然後提交定製作業。
或者,選擇“在 SageMaker AI 上部署”會打開 Studio 中的端點部署頁面,模型已預配置。選擇實例類型(包含配額可見性),查看設置,然後部署。
第 4 步:測試端點
部署端點後,直接從 Studio 的端點測試界面測試推理。
開始使用
您現在即可體驗此功能:
在 Hugging Face 上瀏覽模型。
在受支持模型上查找“在 SageMaker AI 上定製”或“在 SageMaker AI 上部署”按鈕。
選擇並按照簡化的登錄流程操作。
在完全配置的 SageMaker Studio 環境中開始構建。
結論
一鍵式 Studio 登錄體驗的推出最大限度地減少了發現模型與實驗之間的摩擦。通過將 Hugging Face 直接連接到 SageMaker Studio 工作流,開發者可以保持流暢工作。無需切換上下文,無需手動設置環境,也無需排查權限問題。
要開始使用,請訪問 Amazon SageMaker Studio 頁面,或在 Hugging Face 上探索模型並選擇“在 SageMaker AI 上部署”或“定製”。