AI News HubLIVE
站内改写

CopilotKit 推出企業智慧平臺,為代理應用提供跨會話和裝置的持久記憶

大多數代理應用目前存在記憶問題,每次新會話都從零開始。CopilotKit 的企業智慧平臺透過新增託管基礎設施層,自動處理狀態和記憶,使得任何代理框架都能擁有持久記憶,支援跨會話和裝置保留上下文、狀態和互動歷史。核心原語是執行緒(Thread),它捕獲生成式UI、人在迴路工作流、共享狀態、語音、檔案和多模態互動。平臺可自託管於Kubernetes,符合SOC 2 Type II標準,未來將推出分析和持續學習功能。

文章情報

工程師入門

要點

  • 企業智慧平臺提供託管持久層,支援跨會話和裝置的狀態與記憶保留
  • 執行緒(Thread)核心原語捕獲六類互動,實現可恢復的會話物件
  • 支援自託管,符合SOC 2 Type II,未來計劃整合分析和自我改進層

為什麼重要

這條新聞值得關注,因為企業智慧平臺提供託管持久層,支援跨會話和裝置的狀態與記憶保留。

技術影響

可能影響模型選型、推理成本、產品能力和評測基準。

大多數代理應用當前面臨一個記憶問題:每次使用者開啟新會話時,代理都從零開始,無法記住之前的討論、工作流進度或已做出的決策。會話結束,一切消失。對於部署生產級代理應用的開發團隊而言,唯一的解決方法是手動構建儲存層——選擇資料庫、序列化狀態、管理會話ID,再將其連線回代理執行時,這導致在編寫實際產品邏輯前需投入大量精力。CopilotKit 的企業智慧平臺透過提供託管基礎設施層解決了這一問題,該層自動處理狀態和記憶,獨立於代理框架執行,使任何代理都能擁有記憶。

CopilotKit 是AI代理的前端棧——生產級基礎設施,用於構建生成式UI,使使用者和代理能在UI內透過互動式、有狀態的工作流直接協作。它支援A2UI和MCP應用、多模態輸入(包括檔案上傳、語音及轉錄),並具備生產級特性:持久流(自動中間流重連)、移動端最佳化和自動遷移。它與所有主流代理框架和編排層整合。該公司也是AG-UI(代理-使用者互動)協議的幕後力量,該協議標準化了AI代理與使用者端應用程式的連線。

企業智慧平臺是CopilotKit基於開源棧的新託管平臺層,它不替代SDK,而是增添SDK目前缺失的基礎設施層:代理應用的持久化記憶,使應用能跨會話保留上下文、狀態和互動歷史,而無需團隊自建儲存基礎設施。平臺可自託管於Kubernetes,託管雲部署選項正在開發中。企業安全方面,符合SOC 2 Type II標準,支援SSO整合、基於角色的訪問控制,以及透過許可證金鑰驗證實現氣隙離線部署。開發團隊在自託管模式下也可自備資料庫,確保完全的資料主權。

該平臺的核心結構原語是執行緒(Thread)。執行緒是一級持久會話物件,可跨使用者、裝置和代理執行存活。它在架構上不同於在資料庫中儲存平面聊天訊息陣列——執行緒捕獲代理應用隨時間推移的全部互動表面,而非僅文本交換。具體而言,執行緒持久化六類互動:生成式UI(動態UI元件)、人在迴路工作流(審批、編輯、決策步驟)、共享狀態(代理後端與前端UI之間的同步狀態層)、語音(輸入和輸出)、檔案(上傳、生成工件和輸出檔案)以及多模態互動(文本、UI元件、音訊和檔案共存於同一執行緒物件)。實踐上,這意味著代理能處理複雜的長執行工作流(如起草法律文件或管理多步驟資料管道)而無需擔心狀態丟失。一個使用者啟動的流程可由另一團隊成員在完全不同裝置上精確恢復。這些執行緒不僅是靜態日誌,而是結構化、可恢復的物件,代理執行時可直接從中讀取以維持連續性。

CopilotKit團隊將當前代理應用的預設狀態描述為無狀態互動:僅聊天介面、無跨會話記憶、無超越文本的結構、會話結束後工作丟失。而透過持久化執行緒,同一應用在結構上變得不同——它擁有跨時間的完整互動歷史、結構化的UI和動作記錄,並能預設在多模態上下文中跨會話恢復。這對於從演示邁向生產的代理應用尤為重要:演示環境很少需要持久化,但生產應用涉及回訪使用者、多會話工作流以及需在互動間存活的狀態。執行緒彌合了這一鴻溝,無需團隊設計和維護自定義記憶基礎設施。

展望未來,CopilotKit正在擴充套件其平臺,包含兩個即將推出的能力層:分析與洞察以及自我改進。分析層將提供即時監控專用儀表盤和可SQL查詢的資料湖倉,並支援OTLP匯出以整合諸如DataDog等工具。同時,自我改進層引入基於人類反饋的持續學習(CLHF),利用上下文強化學習和提示變異,根據生產訊號最佳化代理行為。透過將每次使用者互動轉化為直接學習事件,CopilotKit旨在繞過傳統資料標註和微調週期的高成本與延遲,使代理能在生產環境中自主進化。