AI News HubLIVE
站内改写1 分钟阅读

产品更新:RTX Pro 6000 Blackwell、Command K、Sandbox FS API 等

Modal 发布多项产品更新,包括 NVIDIA RTX Pro 6000 Blackwell GPU 支持、Dashboard 命令面板 Command K、Sandbox 文件系统 API Beta、SDK 改进以及多个客户案例与社区内容。

Modal 近期推出了一系列产品更新,旨在提升开发者的工作效率和平台性能。其中最引人注目的是 NVIDIA RTX Pro 6000 Blackwell 显卡现已可在 Modal 上使用,只需一行代码即可调用。该显卡拥有 96GB 的 VRAM 和强大的 fp4/fp8 吞吐能力,非常适合推理工作负载、微调任务以及其他需要大量内存的场景。

在用户界面方面,Modal 仪表盘新增了命令面板功能,用户可以通过 CMD+K(Windows 上为 Ctrl+K)快捷键快速打开。该功能目前支持基本导航快捷键,并允许用户通过粘贴 Modal ID 直接跳转到任何 Modal 对象页面。此外,用户还可以通过 CLI 使用 modal dashboard 命令直接跳转到对象页面。

Sandbox 文件系统 API 已从 Alpha 版本升级到 Beta,显著提升了可靠性和稳定性。该 API 是在沙箱中移动文件的最简便方式,支持读取最大 5GB 的文件、写入任意大小的文件、双向流传输以及将数据同步到 Volumes V2。

SDK 方面,最新版本 1.4.0 带来多项改进。CLI 日志功能得到增强,modal app logsmodal container logs 命令现在可以按计数或时间范围获取历史日志,并支持按来源、函数、容器等过滤。新增 --strategy recreate 部署策略,可在部署完成后立即终止运行中的容器,确保后续请求直接访问新版本,适用于开发工作流。此外,还引入了 modal.Image.from_scratch() 方法用于创建最小空镜像,以及沙箱中的 OIDC 身份令牌支持。

内容方面,Modal 发布了部署 Gemma 4 的详细教程,涵盖了权重缓存、vLLM 配置以及工具使用和推理解析。同时,Runway 的实时推理案例展示了其如何在 30 天内从概念验证到生产部署,而 Imbue 则在 Modal 上构建了代理开发栈,包括 Mngr、Keystone 和 Offload 等组件。Doppel 通过迁移到 Modal,利用镜像层缓存和持久卷将构建时间缩短了 10 倍。

最后,Modal 还列出了 4 月份的线下活动,包括旧金山和伦敦的开发者聚会等。