AI News HubLIVE
站内改写

CopilotKit 推出企业智能平台,为代理应用提供跨会话和设备的持久记忆

大多数代理应用目前存在记忆问题,每次新会话都从零开始。CopilotKit 的企业智能平台通过添加托管基础设施层,自动处理状态和记忆,使得任何代理框架都能拥有持久记忆,支持跨会话和设备保留上下文、状态和交互历史。核心原语是线程(Thread),它捕获生成式UI、人在回路工作流、共享状态、语音、文件和多模态交互。平台可自托管于Kubernetes,符合SOC 2 Type II标准,未来将推出分析和持续学习功能。

文章情报

工程师入门

要点

  • 企业智能平台提供托管持久层,支持跨会话和设备的状态与记忆保留
  • 线程(Thread)核心原语捕获六类交互,实现可恢复的会话对象
  • 支持自托管,符合SOC 2 Type II,未来计划集成分析和自我改进层

为什么重要

这条新闻值得关注,因为企业智能平台提供托管持久层,支持跨会话和设备的状态与记忆保留。

技术影响

可能影响模型选型、推理成本、产品能力和评测基准。

大多数代理应用当前面临一个记忆问题:每次用户开启新会话时,代理都从零开始,无法记住之前的讨论、工作流进度或已做出的决策。会话结束,一切消失。对于部署生产级代理应用的开发团队而言,唯一的解决方法是手动构建存储层——选择数据库、序列化状态、管理会话ID,再将其连接回代理运行时,这导致在编写实际产品逻辑前需投入大量精力。CopilotKit 的企业智能平台通过提供托管基础设施层解决了这一问题,该层自动处理状态和记忆,独立于代理框架运行,使任何代理都能拥有记忆。

CopilotKit 是AI代理的前端栈——生产级基础设施,用于构建生成式UI,使用户和代理能在UI内通过交互式、有状态的工作流直接协作。它支持A2UI和MCP应用、多模态输入(包括文件上传、语音及转录),并具备生产级特性:持久流(自动中间流重连)、移动端优化和自动迁移。它与所有主流代理框架和编排层集成。该公司也是AG-UI(代理-用户交互)协议的幕后力量,该协议标准化了AI代理与用户端应用程序的连接。

企业智能平台是CopilotKit基于开源栈的新托管平台层,它不替代SDK,而是增添SDK目前缺失的基础设施层:代理应用的持久化记忆,使应用能跨会话保留上下文、状态和交互历史,而无需团队自建存储基础设施。平台可自托管于Kubernetes,托管云部署选项正在开发中。企业安全方面,符合SOC 2 Type II标准,支持SSO集成、基于角色的访问控制,以及通过许可证密钥验证实现气隙离线部署。开发团队在自托管模式下也可自备数据库,确保完全的数据主权。

该平台的核心结构原语是线程(Thread)。线程是一级持久会话对象,可跨用户、设备和代理运行存活。它在架构上不同于在数据库中存储平面聊天消息数组——线程捕获代理应用随时间推移的全部交互表面,而非仅文本交换。具体而言,线程持久化六类交互:生成式UI(动态UI组件)、人在回路工作流(审批、编辑、决策步骤)、共享状态(代理后端与前端UI之间的同步状态层)、语音(输入和输出)、文件(上传、生成工件和输出文件)以及多模态交互(文本、UI组件、音频和文件共存于同一线程对象)。实践上,这意味着代理能处理复杂的长运行工作流(如起草法律文档或管理多步骤数据管道)而无需担心状态丢失。一个用户启动的流程可由另一团队成员在完全不同设备上精确恢复。这些线程不仅是静态日志,而是结构化、可恢复的对象,代理运行时可直接从中读取以维持连续性。

CopilotKit团队将当前代理应用的默认状态描述为无状态交互:仅聊天界面、无跨会话记忆、无超越文本的结构、会话结束后工作丢失。而通过持久化线程,同一应用在结构上变得不同——它拥有跨时间的完整交互历史、结构化的UI和动作记录,并能默认在多模态上下文中跨会话恢复。这对于从演示迈向生产的代理应用尤为重要:演示环境很少需要持久化,但生产应用涉及回访用户、多会话工作流以及需在交互间存活的状态。线程弥合了这一鸿沟,无需团队设计和维护自定义记忆基础设施。

展望未来,CopilotKit正在扩展其平台,包含两个即将推出的能力层:分析与洞察以及自我改进。分析层将提供实时监控专用仪表盘和可SQL查询的数据湖仓,并支持OTLP导出以集成诸如DataDog等工具。同时,自我改进层引入基于人类反馈的持续学习(CLHF),利用上下文强化学习和提示变异,根据生产信号优化代理行为。通过将每次用户交互转化为直接学习事件,CopilotKit旨在绕过传统数据标注和微调周期的高成本与延迟,使代理能在生产环境中自主进化。