推出結合Modal Sandboxes的Claude託管代理
Anthropic與Modal宣佈推出Claude託管代理與Modal Sandboxes的集成,允許開發者在自己託管的可定製沙盒中運行工具調用,具有快速啓動、成本效益和可擴展性。早期採用者包括Mason AI、DoorDash和Blend。
Anthropic今天宣佈推出Claude託管代理,這是一套可組合的API,用於在雲端大規模構建和部署代理。同時,Modal宣佈與Anthropic合作,推出對Modal Sandboxes和託管代理的一流集成。
此次集成使開發者能夠在自託管的Modal Sandbox中運行所有工具調用,受益於Modal的快速冷啓動、自定義鏡像、各種快照技術以及成本高效的爆發機制,同時保留Anthropic託管代理循環的便利性。
Modal一直推崇代理循環與實際代碼執行分離的架構方法。託管代理是一種完全託管的REST API,Anthropic在其中運行代理循環並管理會話狀態,而應用程序發送事件並流回結果。Modal認為這種方法很可能成為獲勝模式,因為它使安全邊界更易於推理,並讓團隊更好地控制可觀測性、故障處理和規模。
Anthropic的託管沙盒適用於標準部署,而Modal是為AI工作負載構建的雲平台,具有自定義容器運行時和編排層,專為快速、靈活、隔離的計算而設計。Modal提供快速啓動(即使是自定義鏡像)、持久化選項(卷、目錄快照、文件系統快照和內存快照)、成本效率(爆發定價,僅按使用付費)、網絡安全(短期連接令牌)以及大規模擴展(每個客户多達100,000個併發沙盒,支持CPU、內存和GPU配置)。
早期採用者反饋積極。Mason AI的CTO Sai Yandapalli表示:“我們的用例需要對複雜產品表面上的內部工具進行安全編排。Modal的沙盒提供了企業客户所需的安全邊界,結合Claude託管代理,我們無需額外複雜性就獲得了強大的框架。我們在不到一週的時間內就推出了工作版本,提高了客户的可靠性。”
DoorDash正在構建一個由AI代理組成的智能系統,涵蓋聊天、語音、短信、瀏覽器操作、移動應用和店內訂購,以支持商家。DoorDash團隊已經在生產中使用Claude模型和Modal,並正在探索托管代理以加速擴展。DoorDash聯合創始人Andy Fang説:“隨着我們為本地企業擴展代理商務,我們需要一條高效的投產路徑,具有完全的框架控制、規模和可靠性。我們很高興評估Claude託管代理作為下一步。”
Blend運營着高度複雜的銀行環境,每個客户都有獨特的配置、工作流程、集成和合規要求。Blend已開始使用Claude Agent SDK和Modal Sandboxes支持代理輔助分類。為了在不分發Modal憑證的情況下讓工程師訪問完全配置的沙盒環境,Blend認為Claude託管代理與Modal Sandboxes的集成非常有價值。Blend聯合創始人兼負責人Nima Ghamsari説:“當出現錯誤或支持請求時,答案通常存在於代碼、配置和客户實際體驗的交匯處。擁有一個已經具備正確工具、上下文和憑證的完全配置環境,是代理幫助工程師更快推理的關鍵。”
開發者現在可以開始使用。Modal提供了兩個參考示例:一個CLI代理和一個Slack機器人,均基於相同的Modal + 託管代理框架。克隆、替換鏡像和工具,即可獲得生產部署的基礎。Modal每月提供30美元的免費計算額度。