從Hugging Face一鍵直達Amazon SageMaker Studio
Hugging Face與Amazon SageMaker AI深度整合,開發者現在可以透過一鍵操作從模型發現直接進入SageMaker Studio進行實驗。該整合自動配置許可權、顯示GPU配額,並支援模型微調和部署,大幅縮短從靈感到部署的路徑。
今天,Hugging Face與Amazon SageMaker AI宣佈推出深度連結整合,開發者現在可以透過一鍵操作,從Hugging Face的模型發現頁面直接進入Amazon SageMaker Studio進行實踐。無論是微調來自Amazon SageMaker JumpStart的基礎模型(FM),還是將其部署到Amazon SageMaker Inference端點,使用者都可以直接進入相關的SageMaker Studio工作流程,所選模型已預載入,環境完全配置好,隨時可以使用。
此前,在Hugging Face發現模型後,要進入SageMaker Studio需要多個步驟,包括開啟AWS管理控制台中的Amazon SageMaker AI、建立域、配置AWS Identity and Access Management (IAM) 許可權,有時還需要申請GPU配額。對於希望快速迭代的開發者來說,這種摩擦減慢了從靈感到實驗的程序。而此次整合建立了一條從發現到企業部署的更直接路徑。
Arcee AI的創始人兼CEO Mark McQuade表示:“在Arcee,我們構建開放模型,讓開發者和企業能夠真正擁有他們執行的東西:檢查權重、用自己的資料進行後訓練,並按自己的方式部署。這個整合將這一承諾帶到了最後一英里。從Hugging Face上的開放模型一鍵進入SageMaker Studio,然後在自己的AWS環境中微調或部署,無需任何連線——這正是開放模型所缺失的體驗。你擁有的開放權重,執行在你控制的雲中。這正是我們客戶一直要求的組合。”
此次釋出引入了三項新功能,縮短了從Hugging Face模型到工作SageMaker Studio工作流程的路徑:
從Hugging Face到SageMaker Studio的深度連結 在Hugging Face瀏覽模型時,支援的模型旁會出現直接對映到SageMaker Studio工作流程的操作按鈕:“Customize on SageMaker AI”開啟Studio中的模型自定義頁面,模型已預載入,可以立即微調;“Deploy on SageMaker AI”開啟Studio中的部署頁面,模型已預配置用於端點部署。每個入口點都保留上下文,無需在Studio內再次搜尋模型。
預配置許可權 透過此流程建立的新Studio環境已配置好完整許可權,涵蓋模型自定義、訓練作業、筆記本實驗和端點部署。新的託管策略AmazonSageMakerModelCustomizationCoreAccess會自動建立並附加,提供使用監督微調(SFT)、直接偏好最佳化(DPO)、可驗證獎勵的強化學習(RLVR)和來自AI反饋的強化學習(RLAIF)進行無伺服器模型自定義作業的許可權,並支援部署到SageMaker AI或Amazon Bedrock端點。這消除了手動建立和配置IAM角色和策略的需求。對於現有Studio環境,會顯示帶有直接連結的可操作訊息,引導使用者新增這些許可權。
GPU配額可見性 在選擇用於部署或訓練的例項型別時,Studio UI現在直接在例項選擇列表中顯示配額可用性。使用者可以立即看到賬戶當前限制下哪些GPU例項型別(G5、G6)可用,無需單獨導航到Service Quotas。如果需要申請增加配額,使用者會被直接重定向到相應例項型別的Service Quotas頁面。
操作演示:從Hugging Face深度連結到SageMaker Studio 步驟1:在Hugging Face模型頁面上,為支援的模型選擇“Customize on SageMaker AI”。步驟2:使用現有AWS憑證登入(如果已有活動控制台會話,此步驟自動跳過)。步驟3:直接進入SageMaker Studio中的模型自定義頁面,模型已預選。然後配置微調引數,如訓練資料、超引數和例項型別,提交自定義作業。或者,選擇“Deploy on SageMaker AI”會開啟端點部署頁面,模型已預配置。選擇例項型別(包含配額可見性),審查設定,然後部署。步驟4:部署端點後,直接從Studio的端點測試介面測試推理。
要開始體驗,瀏覽Hugging Face上的模型,查詢支援模型旁的“Customize on SageMaker AI”或“Deploy on SageMaker AI”按鈕,選擇並按照簡化的登入流程操作,即可在完全配置的SageMaker Studio環境中開始構建。
這一鍵Studio體驗最大程度地減少了從發現模型到實驗之間的摩擦。透過將Hugging Face直接連線到SageMaker Studio工作流程,開發者可以保持工作流不中斷,無需上下文切換、手動環境設定或許可權故障排除。