一鍵從 Hugging Face 到 Amazon SageMaker Studio
Hugging Face 與 Amazon SageMaker AI 推出深度連結整合,開發者只需一鍵即可從模型發現直接進入 SageMaker Studio 進行實驗。該整合自動配置許可權,顯示 GPU 配額,簡化了模型微調和部署流程。
今日,我們激動地宣佈 Hugging Face 與 Amazon SageMaker AI 之間的一項深度連結整合。開發者現在只需一次點選,即可從模型發現直接進入 SageMaker Studio 進行動手實驗。無論是微調 Amazon SageMaker JumpStart 中的基礎模型(FM),還是將其部署到 Amazon SageMaker 推理端點,您都可以直接進入相關的 SageMaker Studio 工作流。所選模型已預載入,環境已完全配置,隨時可用。
此前,在 Hugging Face 上發現模型後,要開始使用 SageMaker Studio 需要多個步驟。這些步驟包括開啟 AWS 管理控制台中的 Amazon SageMaker AI、建立域、配置 AWS Identity and Access Management (IAM) 許可權,有時還需要請求 GPU 配額。對於希望快速迭代的開發者來說,這種摩擦阻礙了從靈感到實驗的路徑。此次整合建立了一條從發現到企業部署的更直接路徑。
“在 Arcee,我們構建開放模型,以便開發者和企業能夠真正擁有他們所執行的內容:檢查權重、用自己的資料進行後訓練,並按自己的條件部署。此次整合將這一承諾推向最後一公里。從 Hugging Face 上的開放模型一鍵直達 SageMaker Studio,然後在您自己的 AWS 環境中進行微調或部署,無需任何額外配置,這正是開放模型所缺少的體驗。您擁有的開放權重,在您控制的雲中執行。這正是我們的客戶一直在要求的組合。”
— Mark McQuade,Arcee AI 創始人兼執行長
透過一鍵式 Studio 登入體驗,在支援的 Hugging Face 模型頁面上選擇“在 SageMaker AI 上定製”或“在 SageMaker AI 上部署”可直接進入控制台。SageMaker AI 會自動在幾秒鐘內預配置一個新域,並攜帶模型上下文。
新功能
此次釋出引入了三項能力,縮短了從 Hugging Face 模型到工作 SageMaker Studio 工作流的路徑。
從 Hugging Face 到 SageMaker Studio 的深度連結
在 Hugging Face 上瀏覽模型時,您現在會看到受支援模型旁的操作按鈕,直接對映到 SageMaker Studio 工作流:
“在 SageMaker AI 上定製”開啟 Studio 中的模型定製頁面,所選模型已預載入,準備微調。
“在 SageMaker AI 上部署”開啟 Studio 中的部署頁面,模型已預先配置用於端點部署。
每個入口點都保留了上下文,因此您無需在進入 Studio 後再次搜尋模型。
預配置許可權
透過此流程建立的新 Studio 環境已預先配置好 SageMaker AI 全套功能的許可權,包括模型定製、訓練作業、筆記本實驗和端點部署。一個新的託管策略 AmazonSageMakerModelCustomizationCoreAccess 被建立並附加給您。它提供了使用監督微調 (SFT)、直接偏好最佳化 (DPO)、使用可驗證獎勵的強化學習 (RLVR) 以及從 AI 反饋中強化學習 (RLAIF) 進行無伺服器模型定製作業的許可權,並支援部署到 SageMaker AI 或 Amazon Bedrock 端點。這減輕了在開始實驗之前手動建立和配置 IAM 角色和策略的需求。對於現有 Studio 環境,帶有文件直接連結的可操作訊息會指導您新增這些許可權。
GPU 配額可見性
在選擇用於部署或訓練的例項型別時,Studio UI 現在直接在例項選擇列表中顯示配額可用性。您可以立即檢視哪些 GPU 例項型別(G5、G6)在當前賬戶限制下可用。您無需單獨導航到 Service Quotas。如果您仍需要請求增加配額,您會被直接重定向到相應例項型別的 Service Quotas 頁面。
操作步驟:從 Hugging Face 深度連結到 SageMaker Studio
讓我們逐步體驗從 Hugging Face 開始定製或部署模型的過程。
第 1 步:發現並選擇
在 Hugging Face 模型頁面上,為支援的模型選擇“在 SageMaker AI 上定製”。
第 2 步:登入
系統會提示您使用現有憑證登入 AWS。如果您已有活躍的控制台會話,此步驟將自動跳過。有關更多資訊,請參閱登入 AWS 管理控制台。
第 3 步:進入 Studio
您直接進入 SageMaker Studio 內的模型定製頁面,模型已被預選。接下來,配置微調引數,例如訓練資料、超引數和例項型別,然後提交定製作業。
或者,選擇“在 SageMaker AI 上部署”會開啟 Studio 中的端點部署頁面,模型已預配置。選擇例項型別(包含配額可見性),檢視設定,然後部署。
第 4 步:測試端點
部署端點後,直接從 Studio 的端點測試介面測試推理。
開始使用
您現在即可體驗此功能:
在 Hugging Face 上瀏覽模型。
在受支援模型上查詢“在 SageMaker AI 上定製”或“在 SageMaker AI 上部署”按鈕。
選擇並按照簡化的登入流程操作。
在完全配置的 SageMaker Studio 環境中開始構建。
結論
一鍵式 Studio 登入體驗的推出最大限度地減少了發現模型與實驗之間的摩擦。透過將 Hugging Face 直接連線到 SageMaker Studio 工作流,開發者可以保持流暢工作。無需切換上下文,無需手動設定環境,也無需排查許可權問題。
要開始使用,請訪問 Amazon SageMaker Studio 頁面,或在 Hugging Face 上探索模型並選擇“在 SageMaker AI 上部署”或“定製”。