AI News HubLIVE
站内改写

CopilotKit 推出企業智能平台,為代理應用提供跨會話和設備的持久記憶

大多數代理應用目前存在記憶問題,每次新會話都從零開始。CopilotKit 的企業智能平台通過添加託管基礎設施層,自動處理狀態和記憶,使得任何代理框架都能擁有持久記憶,支持跨會話和設備保留上下文、狀態和交互歷史。核心原語是線程(Thread),它捕獲生成式UI、人在迴路工作流、共享狀態、語音、文件和多模態交互。平台可自託管於Kubernetes,符合SOC 2 Type II標準,未來將推出分析和持續學習功能。

文章情報

工程師入門

要點

  • 企業智能平台提供託管持久層,支持跨會話和設備的狀態與記憶保留
  • 線程(Thread)核心原語捕獲六類交互,實現可恢復的會話對象
  • 支持自託管,符合SOC 2 Type II,未來計劃集成分析和自我改進層

為甚麼重要

這條新聞值得關注,因為企業智能平台提供託管持久層,支持跨會話和設備的狀態與記憶保留。

技術影響

可能影響模型選型、推理成本、產品能力和評測基準。

大多數代理應用當前面臨一個記憶問題:每次用户開啓新會話時,代理都從零開始,無法記住之前的討論、工作流進度或已做出的決策。會話結束,一切消失。對於部署生產級代理應用的開發團隊而言,唯一的解決方法是手動構建存儲層——選擇數據庫、序列化狀態、管理會話ID,再將其連接回代理運行時,這導致在編寫實際產品邏輯前需投入大量精力。CopilotKit 的企業智能平台通過提供託管基礎設施層解決了這一問題,該層自動處理狀態和記憶,獨立於代理框架運行,使任何代理都能擁有記憶。

CopilotKit 是AI代理的前端棧——生產級基礎設施,用於構建生成式UI,使用户和代理能在UI內通過交互式、有狀態的工作流直接協作。它支持A2UI和MCP應用、多模態輸入(包括文件上傳、語音及轉錄),並具備生產級特性:持久流(自動中間流重連)、移動端優化和自動遷移。它與所有主流代理框架和編排層集成。該公司也是AG-UI(代理-用户交互)協議的幕後力量,該協議標準化了AI代理與用户端應用程序的連接。

企業智能平台是CopilotKit基於開源棧的新託管平台層,它不替代SDK,而是增添SDK目前缺失的基礎設施層:代理應用的持久化記憶,使應用能跨會話保留上下文、狀態和交互歷史,而無需團隊自建存儲基礎設施。平台可自託管於Kubernetes,託管雲部署選項正在開發中。企業安全方面,符合SOC 2 Type II標準,支持SSO集成、基於角色的訪問控制,以及通過許可證密鑰驗證實現氣隙離線部署。開發團隊在自託管模式下也可自備數據庫,確保完全的數據主權。

該平台的核心結構原語是線程(Thread)。線程是一級持久會話對象,可跨用户、設備和代理運行存活。它在架構上不同於在數據庫中存儲平面聊天消息數組——線程捕獲代理應用隨時間推移的全部交互表面,而非僅文本交換。具體而言,線程持久化六類交互:生成式UI(動態UI組件)、人在迴路工作流(審批、編輯、決策步驟)、共享狀態(代理後端與前端UI之間的同步狀態層)、語音(輸入和輸出)、文件(上傳、生成工件和輸出文件)以及多模態交互(文本、UI組件、音頻和文件共存於同一線程對象)。實踐上,這意味着代理能處理複雜的長運行工作流(如起草法律文檔或管理多步驟數據管道)而無需擔心狀態丟失。一個用户啓動的流程可由另一團隊成員在完全不同設備上精確恢復。這些線程不僅是靜態日誌,而是結構化、可恢復的對象,代理運行時可直接從中讀取以維持連續性。

CopilotKit團隊將當前代理應用的默認狀態描述為無狀態交互:僅聊天界面、無跨會話記憶、無超越文本的結構、會話結束後工作丟失。而通過持久化線程,同一應用在結構上變得不同——它擁有跨時間的完整交互歷史、結構化的UI和動作記錄,並能默認在多模態上下文中跨會話恢復。這對於從演示邁向生產的代理應用尤為重要:演示環境很少需要持久化,但生產應用涉及回訪用户、多會話工作流以及需在交互間存活的狀態。線程彌合了這一鴻溝,無需團隊設計和維護自定義記憶基礎設施。

展望未來,CopilotKit正在擴展其平台,包含兩個即將推出的能力層:分析與洞察以及自我改進。分析層將提供實時監控專用儀表盤和可SQL查詢的數據湖倉,並支持OTLP導出以集成諸如DataDog等工具。同時,自我改進層引入基於人類反饋的持續學習(CLHF),利用上下文強化學習和提示變異,根據生產信號優化代理行為。通過將每次用户交互轉化為直接學習事件,CopilotKit旨在繞過傳統數據標註和微調週期的高成本與延遲,使代理能在生產環境中自主進化。