AI News HubLIVE
站內改寫2 分鐘閱讀

推出結合Modal Sandboxes的Claude託管代理

Anthropic與Modal宣佈推出Claude託管代理與Modal Sandboxes的整合,允許開發者在自己託管的可定製沙盒中執行工具呼叫,具有快速啟動、成本效益和可擴充套件性。早期採用者包括Mason AI、DoorDash和Blend。

Anthropic今天宣佈推出Claude託管代理,這是一套可組合的API,用於在雲端大規模構建和部署代理。同時,Modal宣佈與Anthropic合作,推出對Modal Sandboxes和託管代理的一流整合。

此次整合使開發者能夠在自託管的Modal Sandbox中執行所有工具呼叫,受益於Modal的快速冷啟動、自定義映象、各種快照技術以及成本高效的爆發機制,同時保留Anthropic託管代理迴圈的便利性。

Modal一直推崇代理迴圈與實際程式碼執行分離的架構方法。託管代理是一種完全託管的REST API,Anthropic在其中執行代理迴圈並管理會話狀態,而應用程式傳送事件並流回結果。Modal認為這種方法很可能成為獲勝模式,因為它使安全邊界更易於推理,並讓團隊更好地控制可觀測性、故障處理和規模。

Anthropic的託管沙盒適用於標準部署,而Modal是為AI工作負載構建的雲平臺,具有自定義容器執行時和編排層,專為快速、靈活、隔離的計算而設計。Modal提供快速啟動(即使是自定義映象)、持久化選項(卷、目錄快照、檔案系統快照和記憶體快照)、成本效率(爆發定價,僅按使用付費)、網路安全(短期連線令牌)以及大規模擴充套件(每個客戶多達100,000個併發沙盒,支援CPU、記憶體和GPU配置)。

早期採用者反饋積極。Mason AI的CTO Sai Yandapalli表示:“我們的用例需要對複雜產品表面上的內部工具進行安全編排。Modal的沙盒提供了企業客戶所需的安全邊界,結合Claude託管代理,我們無需額外複雜性就獲得了強大的框架。我們在不到一週的時間內就推出了工作版本,提高了客戶的可靠性。”

DoorDash正在構建一個由AI代理組成的智慧系統,涵蓋聊天、語音、簡訊、瀏覽器操作、移動應用和店內訂購,以支援商家。DoorDash團隊已經在生產中使用Claude模型和Modal,並正在探索托管代理以加速擴充套件。DoorDash聯合創始人Andy Fang說:“隨著我們為本地企業擴充套件代理商務,我們需要一條高效的投產路徑,具有完全的框架控制、規模和可靠性。我們很高興評估Claude託管代理作為下一步。”

Blend運營著高度複雜的銀行環境,每個客戶都有獨特的配置、工作流程、整合和合規要求。Blend已開始使用Claude Agent SDK和Modal Sandboxes支援代理輔助分類。為了在不分發Modal憑證的情況下讓工程師訪問完全配置的沙盒環境,Blend認為Claude託管代理與Modal Sandboxes的整合非常有價值。Blend聯合創始人兼負責人Nima Ghamsari說:“當出現錯誤或支援請求時,答案通常存在於程式碼、配置和客戶實際體驗的交匯處。擁有一個已經具備正確工具、上下文和憑證的完全配置環境,是代理幫助工程師更快推理的關鍵。”

開發者現在可以開始使用。Modal提供了兩個參考示例:一個CLI代理和一個Slack機器人,均基於相同的Modal + 託管代理框架。克隆、替換映象和工具,即可獲得生產部署的基礎。Modal每月提供30美元的免費計算額度。