產品更新:RTX Pro 6000 Blackwell、Command K、Sandbox FS API 等
Modal 釋出多項產品更新,包括 NVIDIA RTX Pro 6000 Blackwell GPU 支援、Dashboard 命令面板 Command K、Sandbox 檔案系統 API Beta、SDK 改進以及多個客戶案例與社群內容。
Modal 近期推出了一系列產品更新,旨在提升開發者的工作效率和平臺效能。其中最引人注目的是 NVIDIA RTX Pro 6000 Blackwell 顯示卡現已可在 Modal 上使用,只需一行程式碼即可呼叫。該顯示卡擁有 96GB 的 VRAM 和強大的 fp4/fp8 吞吐能力,非常適合推理工作負載、微調任務以及其他需要大量記憶體的場景。
在使用者介面方面,Modal 儀表盤新增了命令面板功能,使用者可以透過 CMD+K(Windows 上為 Ctrl+K)快捷鍵快速開啟。該功能目前支援基本導航快捷鍵,並允許使用者透過貼上 Modal ID 直接跳轉到任何 Modal 物件頁面。此外,使用者還可以透過 CLI 使用 modal dashboard 命令直接跳轉到物件頁面。
Sandbox 檔案系統 API 已從 Alpha 版本升級到 Beta,顯著提升了可靠性和穩定性。該 API 是在沙箱中移動檔案的最簡便方式,支援讀取最大 5GB 的檔案、寫入任意大小的檔案、雙向流傳輸以及將資料同步到 Volumes V2。
SDK 方面,最新版本 1.4.0 帶來多項改進。CLI 日誌功能得到增強,modal app logs 和 modal container logs 命令現在可以按計數或時間範圍獲取歷史日誌,並支援按來源、函式、容器等過濾。新增 --strategy recreate 部署策略,可在部署完成後立即終止執行中的容器,確保後續請求直接訪問新版本,適用於開發工作流。此外,還引入了 modal.Image.from_scratch() 方法用於建立最小空映象,以及沙箱中的 OIDC 身份令牌支援。
內容方面,Modal 釋出了部署 Gemma 4 的詳細教程,涵蓋了權重快取、vLLM 配置以及工具使用和推理解析。同時,Runway 的即時推理案例展示了其如何在 30 天內從概念驗證到生產部署,而 Imbue 則在 Modal 上構建了代理開發棧,包括 Mngr、Keystone 和 Offload 等元件。Doppel 透過遷移到 Modal,利用映象層快取和持久卷將構建時間縮短了 10 倍。
最後,Modal 還列出了 4 月份的線下活動,包括舊金山和倫敦的開發者聚會等。