從Hugging Face一鍵直達Amazon SageMaker Studio
Hugging Face與Amazon SageMaker AI深度集成,開發者現在可以通過一鍵操作從模型發現直接進入SageMaker Studio進行實驗。該集成自動配置權限、顯示GPU配額,並支持模型微調和部署,大幅縮短從靈感到部署的路徑。
今天,Hugging Face與Amazon SageMaker AI宣佈推出深度鏈接集成,開發者現在可以通過一鍵操作,從Hugging Face的模型發現頁面直接進入Amazon SageMaker Studio進行實踐。無論是微調來自Amazon SageMaker JumpStart的基礎模型(FM),還是將其部署到Amazon SageMaker Inference端點,用户都可以直接進入相關的SageMaker Studio工作流程,所選模型已預加載,環境完全配置好,隨時可以使用。
此前,在Hugging Face發現模型後,要進入SageMaker Studio需要多個步驟,包括打開AWS管理控制台中的Amazon SageMaker AI、創建域、配置AWS Identity and Access Management (IAM) 權限,有時還需要申請GPU配額。對於希望快速迭代的開發者來説,這種摩擦減慢了從靈感到實驗的進程。而此次集成創建了一條從發現到企業部署的更直接路徑。
Arcee AI的創始人兼CEO Mark McQuade表示:“在Arcee,我們構建開放模型,讓開發者和企業能夠真正擁有他們運行的東西:檢查權重、用自己的數據進行後訓練,並按自己的方式部署。這個集成將這一承諾帶到了最後一英里。從Hugging Face上的開放模型一鍵進入SageMaker Studio,然後在自己的AWS環境中微調或部署,無需任何連接——這正是開放模型所缺失的體驗。你擁有的開放權重,運行在你控制的雲中。這正是我們客户一直要求的組合。”
此次發佈引入了三項新功能,縮短了從Hugging Face模型到工作SageMaker Studio工作流程的路徑:
從Hugging Face到SageMaker Studio的深度鏈接 在Hugging Face瀏覽模型時,支持的模型旁會出現直接映射到SageMaker Studio工作流程的操作按鈕:“Customize on SageMaker AI”打開Studio中的模型自定義頁面,模型已預加載,可以立即微調;“Deploy on SageMaker AI”打開Studio中的部署頁面,模型已預配置用於端點部署。每個入口點都保留上下文,無需在Studio內再次搜索模型。
預配置權限 通過此流程創建的新Studio環境已配置好完整權限,涵蓋模型自定義、訓練作業、筆記本實驗和端點部署。新的託管策略AmazonSageMakerModelCustomizationCoreAccess會自動創建並附加,提供使用監督微調(SFT)、直接偏好優化(DPO)、可驗證獎勵的強化學習(RLVR)和來自AI反饋的強化學習(RLAIF)進行無服務器模型自定義作業的權限,並支持部署到SageMaker AI或Amazon Bedrock端點。這消除了手動創建和配置IAM角色和策略的需求。對於現有Studio環境,會顯示帶有直接鏈接的可操作消息,引導用户添加這些權限。
GPU配額可見性 在選擇用於部署或訓練的實例類型時,Studio UI現在直接在實例選擇列表中顯示配額可用性。用户可以立即看到賬户當前限制下哪些GPU實例類型(G5、G6)可用,無需單獨導航到Service Quotas。如果需要申請增加配額,用户會被直接重定向到相應實例類型的Service Quotas頁面。
操作演示:從Hugging Face深度鏈接到SageMaker Studio 步驟1:在Hugging Face模型頁面上,為支持的模型選擇“Customize on SageMaker AI”。步驟2:使用現有AWS憑證登錄(如果已有活動控制台會話,此步驟自動跳過)。步驟3:直接進入SageMaker Studio中的模型自定義頁面,模型已預選。然後配置微調參數,如訓練數據、超參數和實例類型,提交自定義作業。或者,選擇“Deploy on SageMaker AI”會打開端點部署頁面,模型已預配置。選擇實例類型(包含配額可見性),審查設置,然後部署。步驟4:部署端點後,直接從Studio的端點測試界面測試推理。
要開始體驗,瀏覽Hugging Face上的模型,查找支持模型旁的“Customize on SageMaker AI”或“Deploy on SageMaker AI”按鈕,選擇並按照簡化的登錄流程操作,即可在完全配置的SageMaker Studio環境中開始構建。
這一鍵Studio體驗最大程度地減少了從發現模型到實驗之間的摩擦。通過將Hugging Face直接連接到SageMaker Studio工作流程,開發者可以保持工作流不中斷,無需上下文切換、手動環境設置或權限故障排除。