AI News HubLIVE
站內改寫1 分鐘閱讀

產品更新:RTX Pro 6000 Blackwell、Command K、Sandbox FS API 等

Modal 發佈多項產品更新,包括 NVIDIA RTX Pro 6000 Blackwell GPU 支持、Dashboard 命令面板 Command K、Sandbox 文件系統 API Beta、SDK 改進以及多個客户案例與社區內容。

Modal 近期推出了一系列產品更新,旨在提升開發者的工作效率和平台性能。其中最引人注目的是 NVIDIA RTX Pro 6000 Blackwell 顯卡現已可在 Modal 上使用,只需一行代碼即可調用。該顯卡擁有 96GB 的 VRAM 和強大的 fp4/fp8 吞吐能力,非常適合推理工作負載、微調任務以及其他需要大量內存的場景。

在用户界面方面,Modal 儀表盤新增了命令面板功能,用户可以通過 CMD+K(Windows 上為 Ctrl+K)快捷鍵快速打開。該功能目前支持基本導航快捷鍵,並允許用户通過粘貼 Modal ID 直接跳轉到任何 Modal 對象頁面。此外,用户還可以通過 CLI 使用 modal dashboard 命令直接跳轉到對象頁面。

Sandbox 文件系統 API 已從 Alpha 版本升級到 Beta,顯著提升了可靠性和穩定性。該 API 是在沙箱中移動文件的最簡便方式,支持讀取最大 5GB 的文件、寫入任意大小的文件、雙向流傳輸以及將數據同步到 Volumes V2。

SDK 方面,最新版本 1.4.0 帶來多項改進。CLI 日誌功能得到增強,modal app logsmodal container logs 命令現在可以按計數或時間範圍獲取歷史日誌,並支持按來源、函數、容器等過濾。新增 --strategy recreate 部署策略,可在部署完成後立即終止運行中的容器,確保後續請求直接訪問新版本,適用於開發工作流。此外,還引入了 modal.Image.from_scratch() 方法用於創建最小空鏡像,以及沙箱中的 OIDC 身份令牌支持。

內容方面,Modal 發佈了部署 Gemma 4 的詳細教程,涵蓋了權重緩存、vLLM 配置以及工具使用和推理解析。同時,Runway 的實時推理案例展示了其如何在 30 天內從概念驗證到生產部署,而 Imbue 則在 Modal 上構建了代理開發棧,包括 Mngr、Keystone 和 Offload 等組件。Doppel 通過遷移到 Modal,利用鏡像層緩存和持久卷將構建時間縮短了 10 倍。

最後,Modal 還列出了 4 月份的線下活動,包括舊金山和倫敦的開發者聚會等。