AI News HubLIVE
站内改写3 分钟阅读

一键从 Hugging Face 到 Amazon SageMaker Studio

Hugging Face 与 Amazon SageMaker AI 推出深度链接集成,开发者只需一键即可从模型发现直接进入 SageMaker Studio 进行实验。该集成自动配置权限,显示 GPU 配额,简化了模型微调和部署流程。

来源AWS Machine Learning Blog作者: Hazim Qudah

今日,我们激动地宣布 Hugging Face 与 Amazon SageMaker AI 之间的一项深度链接集成。开发者现在只需一次点击,即可从模型发现直接进入 SageMaker Studio 进行动手实验。无论是微调 Amazon SageMaker JumpStart 中的基础模型(FM),还是将其部署到 Amazon SageMaker 推理端点,您都可以直接进入相关的 SageMaker Studio 工作流。所选模型已预加载,环境已完全配置,随时可用。

此前,在 Hugging Face 上发现模型后,要开始使用 SageMaker Studio 需要多个步骤。这些步骤包括打开 AWS 管理控制台中的 Amazon SageMaker AI、创建域、配置 AWS Identity and Access Management (IAM) 权限,有时还需要请求 GPU 配额。对于希望快速迭代的开发者来说,这种摩擦阻碍了从灵感到实验的路径。此次集成创建了一条从发现到企业部署的更直接路径。

“在 Arcee,我们构建开放模型,以便开发者和企业能够真正拥有他们所运行的内容:检查权重、用自己的数据进行后训练,并按自己的条件部署。此次集成将这一承诺推向最后一公里。从 Hugging Face 上的开放模型一键直达 SageMaker Studio,然后在您自己的 AWS 环境中进行微调或部署,无需任何额外配置,这正是开放模型所缺少的体验。您拥有的开放权重,在您控制的云中运行。这正是我们的客户一直在要求的组合。”

— Mark McQuade,Arcee AI 创始人兼首席执行官

通过一键式 Studio 登录体验,在支持的 Hugging Face 模型页面上选择“在 SageMaker AI 上定制”或“在 SageMaker AI 上部署”可直接进入控制台。SageMaker AI 会自动在几秒钟内预配置一个新域,并携带模型上下文。

新功能

此次发布引入了三项能力,缩短了从 Hugging Face 模型到工作 SageMaker Studio 工作流的路径。

从 Hugging Face 到 SageMaker Studio 的深度链接

在 Hugging Face 上浏览模型时,您现在会看到受支持模型旁的操作按钮,直接映射到 SageMaker Studio 工作流:

“在 SageMaker AI 上定制”打开 Studio 中的模型定制页面,所选模型已预加载,准备微调。

“在 SageMaker AI 上部署”打开 Studio 中的部署页面,模型已预先配置用于端点部署。

每个入口点都保留了上下文,因此您无需在进入 Studio 后再次搜索模型。

预配置权限

通过此流程创建的新 Studio 环境已预先配置好 SageMaker AI 全套功能的权限,包括模型定制、训练作业、笔记本实验和端点部署。一个新的托管策略 AmazonSageMakerModelCustomizationCoreAccess 被创建并附加给您。它提供了使用监督微调 (SFT)、直接偏好优化 (DPO)、使用可验证奖励的强化学习 (RLVR) 以及从 AI 反馈中强化学习 (RLAIF) 进行无服务器模型定制作业的权限,并支持部署到 SageMaker AI 或 Amazon Bedrock 端点。这减轻了在开始实验之前手动创建和配置 IAM 角色和策略的需求。对于现有 Studio 环境,带有文档直接链接的可操作消息会指导您添加这些权限。

GPU 配额可见性

在选择用于部署或训练的实例类型时,Studio UI 现在直接在实例选择列表中显示配额可用性。您可以立即查看哪些 GPU 实例类型(G5、G6)在当前账户限制下可用。您无需单独导航到 Service Quotas。如果您仍需要请求增加配额,您会被直接重定向到相应实例类型的 Service Quotas 页面。

操作步骤:从 Hugging Face 深度链接到 SageMaker Studio

让我们逐步体验从 Hugging Face 开始定制或部署模型的过程。

第 1 步:发现并选择

在 Hugging Face 模型页面上,为支持的模型选择“在 SageMaker AI 上定制”。

第 2 步:登录

系统会提示您使用现有凭证登录 AWS。如果您已有活跃的控制台会话,此步骤将自动跳过。有关更多信息,请参阅登录 AWS 管理控制台。

第 3 步:进入 Studio

您直接进入 SageMaker Studio 内的模型定制页面,模型已被预选。接下来,配置微调参数,例如训练数据、超参数和实例类型,然后提交定制作业。

或者,选择“在 SageMaker AI 上部署”会打开 Studio 中的端点部署页面,模型已预配置。选择实例类型(包含配额可见性),查看设置,然后部署。

第 4 步:测试端点

部署端点后,直接从 Studio 的端点测试界面测试推理。

开始使用

您现在即可体验此功能:

在 Hugging Face 上浏览模型。

在受支持模型上查找“在 SageMaker AI 上定制”或“在 SageMaker AI 上部署”按钮。

选择并按照简化的登录流程操作。

在完全配置的 SageMaker Studio 环境中开始构建。

结论

一键式 Studio 登录体验的推出最大限度地减少了发现模型与实验之间的摩擦。通过将 Hugging Face 直接连接到 SageMaker Studio 工作流,开发者可以保持流畅工作。无需切换上下文,无需手动设置环境,也无需排查权限问题。

要开始使用,请访问 Amazon SageMaker Studio 页面,或在 Hugging Face 上探索模型并选择“在 SageMaker AI 上部署”或“定制”。