从Hugging Face一键直达Amazon SageMaker Studio
Hugging Face与Amazon SageMaker AI深度集成,开发者现在可以通过一键操作从模型发现直接进入SageMaker Studio进行实验。该集成自动配置权限、显示GPU配额,并支持模型微调和部署,大幅缩短从灵感到部署的路径。
今天,Hugging Face与Amazon SageMaker AI宣布推出深度链接集成,开发者现在可以通过一键操作,从Hugging Face的模型发现页面直接进入Amazon SageMaker Studio进行实践。无论是微调来自Amazon SageMaker JumpStart的基础模型(FM),还是将其部署到Amazon SageMaker Inference端点,用户都可以直接进入相关的SageMaker Studio工作流程,所选模型已预加载,环境完全配置好,随时可以使用。
此前,在Hugging Face发现模型后,要进入SageMaker Studio需要多个步骤,包括打开AWS管理控制台中的Amazon SageMaker AI、创建域、配置AWS Identity and Access Management (IAM) 权限,有时还需要申请GPU配额。对于希望快速迭代的开发者来说,这种摩擦减慢了从灵感到实验的进程。而此次集成创建了一条从发现到企业部署的更直接路径。
Arcee AI的创始人兼CEO Mark McQuade表示:“在Arcee,我们构建开放模型,让开发者和企业能够真正拥有他们运行的东西:检查权重、用自己的数据进行后训练,并按自己的方式部署。这个集成将这一承诺带到了最后一英里。从Hugging Face上的开放模型一键进入SageMaker Studio,然后在自己的AWS环境中微调或部署,无需任何连接——这正是开放模型所缺失的体验。你拥有的开放权重,运行在你控制的云中。这正是我们客户一直要求的组合。”
此次发布引入了三项新功能,缩短了从Hugging Face模型到工作SageMaker Studio工作流程的路径:
从Hugging Face到SageMaker Studio的深度链接 在Hugging Face浏览模型时,支持的模型旁会出现直接映射到SageMaker Studio工作流程的操作按钮:“Customize on SageMaker AI”打开Studio中的模型自定义页面,模型已预加载,可以立即微调;“Deploy on SageMaker AI”打开Studio中的部署页面,模型已预配置用于端点部署。每个入口点都保留上下文,无需在Studio内再次搜索模型。
预配置权限 通过此流程创建的新Studio环境已配置好完整权限,涵盖模型自定义、训练作业、笔记本实验和端点部署。新的托管策略AmazonSageMakerModelCustomizationCoreAccess会自动创建并附加,提供使用监督微调(SFT)、直接偏好优化(DPO)、可验证奖励的强化学习(RLVR)和来自AI反馈的强化学习(RLAIF)进行无服务器模型自定义作业的权限,并支持部署到SageMaker AI或Amazon Bedrock端点。这消除了手动创建和配置IAM角色和策略的需求。对于现有Studio环境,会显示带有直接链接的可操作消息,引导用户添加这些权限。
GPU配额可见性 在选择用于部署或训练的实例类型时,Studio UI现在直接在实例选择列表中显示配额可用性。用户可以立即看到账户当前限制下哪些GPU实例类型(G5、G6)可用,无需单独导航到Service Quotas。如果需要申请增加配额,用户会被直接重定向到相应实例类型的Service Quotas页面。
操作演示:从Hugging Face深度链接到SageMaker Studio 步骤1:在Hugging Face模型页面上,为支持的模型选择“Customize on SageMaker AI”。步骤2:使用现有AWS凭证登录(如果已有活动控制台会话,此步骤自动跳过)。步骤3:直接进入SageMaker Studio中的模型自定义页面,模型已预选。然后配置微调参数,如训练数据、超参数和实例类型,提交自定义作业。或者,选择“Deploy on SageMaker AI”会打开端点部署页面,模型已预配置。选择实例类型(包含配额可见性),审查设置,然后部署。步骤4:部署端点后,直接从Studio的端点测试界面测试推理。
要开始体验,浏览Hugging Face上的模型,查找支持模型旁的“Customize on SageMaker AI”或“Deploy on SageMaker AI”按钮,选择并按照简化的登录流程操作,即可在完全配置的SageMaker Studio环境中开始构建。
这一键Studio体验最大程度地减少了从发现模型到实验之间的摩擦。通过将Hugging Face直接连接到SageMaker Studio工作流程,开发者可以保持工作流不中断,无需上下文切换、手动环境设置或权限故障排除。