从互联代理到集体智能

本文分析的访谈由Cisco Outshift赞助，并按照Emerj赞助内容指南撰写、编辑和发布。

在企业中，代理AI正面临同样的困境：由于共享意义、共享状态和受控访问的基础设施缺失，代理会出现漂移、死锁，并以机器速度传播错误。

加州大学伯克利分校的研究人员分析了七个生产级多代理框架中的1642条实际执行轨迹，发现当代理需要协作而非独立工作时，故障率在41%至86.7%之间。他们的分类法表明，这种故障是结构性的，而非偶然的：41.8%的故障源于规范缺失和共享治理（死锁问题），36.9%源于代理间的不一致——代理基于错误假设相互误解（语义漂移问题）。

同一研究显示，当代理在没有真正协调的情况下运行时，错误放大可达单个代理独立工作时的17倍；即使有集中检查点，放大仍约为4.4倍。

治理也没有跟上步伐。美国国家标准与技术研究院（NIST）直到2026年2月才启动其AI代理标准倡议，互操作性指南预计2026年第四季度才能发布——这意味着企业治理所依赖的联邦参考框架仍未解决多代理协调问题。

代理之间的连接是存在的，但协作基础设施却没有。在企业构建本研究指出的缺失的共享语义、记忆和治理层之前，多代理项目将继续以如今已充分记录、可衡量且代价高昂的方式失败。

Emerj的Yolandi de Weerdt最近与Cisco Outshift工程与AI/ML副总裁Guillaume De Saint Marc探讨了企业如何从互联代理转向协调智能。

本文探讨了三个要点，阐明多代理系统为何在扩展时停滞，以及哪些架构条件能使其在企业内部作为可靠的协作智能运行。

语义对齐：协调代理行为的基础

共享意义和持久上下文可防止漂移、死锁和遗忘，而这些正是导致多代理工作流在需要协作时崩溃的原因。Guillaume De Saint Marc在对话开始时指出，多代理系统的核心失败不在于任务本身，而在于解释。当两个代理阅读相同的指令但得出不同意图时，协调就会崩溃。由于企业没有强制执行共享意图的机制，这些分歧会以机器速度加剧。

他将此视为语义治理的差距，而非模型弱点。连接不等于协调；只有当代理共享意义、上下文和状态时，协调才会出现。没有共享语义层，代理之间的每一次交接都会成为分歧点，而分歧正是破坏工作流的原因。

为说明操作后果，Guillaume强调了三种在需要协作时出现的故障模式：

• 解释漂移：代理对任务的理解逐渐分歧。
• 协调死锁：代理因内部状态不再对齐而相互等待。
• 上下文遗忘：代理丢失先前决策的记录，迫使人类干预。

在定义语义层时，Guillaume将其描述为一组每个代理都必须使用的受管共享结构：

• 共享本体：定义代理操作的对象、动作和关系。
• 任务语法：标准化指令、约束和目标的表达方式。
• 持久上下文存储：代理读写以确保状态连续性。
• 语义验证器：在代理输出传播前检查其是否符合共享意义模型。

Guillaume总结道：“如果代理不基于相同的本体、任务语法和上下文进行推理，它们就不是在协作，而是在即兴发挥。而机器速度下的即兴发挥就是混乱。语义层强制每个代理从相同的思维模型出发，无论其由谁构建或在哪里运行。”

代理特定控制：安全扩展的基础

Guillaume将话题从语义转向架构，并警告说风险显而易见：代理系统以机器速度失败。控制不是第二阶段的问题，而是实现扩展的条件。他强调，代理必须被视为具有身份、权限和审计需求的一等公民。

他描述了一种反复出现的模式：团队部署具有广泛权限和最低可观测性的代理，在隔离环境中一切正常。但一旦这些代理接触生产系统，一个错误权限操作就会导致紧急回滚、手动分类或完整的架构重建。

Guillaume概述了决定代理系统能否安全扩展的四个控制类别：

• 身份与撤销：代理必须有可验证的身份和可撤销的凭证。
• 语义可观测性：领导者需要了解代理行为的原因，而不仅仅是行为本身。
• 访问治理：代理必须始终遵循最小权限原则。
• 跨系统互操作性：控制必须在异构环境中生效，而非仅在单个供应商栈内。

Guillaume指出：“危险不在于错误本身，而在于错误的速度。没有身份、可观测性和访问治理，每个错误都会成为系统级事件。事后追溯控制不是修复，而是重建。”

开放互操作性：多代理生态系统增长之路

多代理系统无法在围墙内扩展。当代理被限制在单个专有栈内时，它们会继承其边界：数据孤岛、编排约束和集成瓶颈。结果显而易见——个别代理表现良好，但无法在企业内部协作。

Guillaume在对话结尾提出了务实建议：不要尝试破坏性迁移。相反，在开放基础上验证一个真实工作流。该工作流将成为未来代理（无论是内部还是供应商提供的）无缝接入的锚点，无需架构摩擦。

他指出反复出现的陷阱：封闭生态系统无法与关键遗留系统集成；代理因底层语义专有而不同解释数据；试点成功但扩展时每个工作流都需要重新架构才能添加新代理。

Guillaume强调：“封闭系统提供快速试点和硬性天花板。开放基础提供较慢的试点却无天花板。如果你希望新代理加入时不破坏现有工作，开放不是偏好，而是唯一可行的架构。”

互操作性不在于开放本身，而在于避免架构死胡同。封闭系统将代理困在单一栈的限制内；开放基础允许企业添加、替换和扩展代理，而不会引发级联式的架构重建。

Guillaume的观点表明，代理生态系统的长期可行性取决于新代理能否加入现有工作流而无需破坏性架构变更。

收听完整播客：

嘉宾：Guillaume De Saint Marc，Cisco Outshift工程与AI/ML副总裁 专长：生成式AI、代理AI、云原生架构、新兴技术 简介：Guillaume De Saint Marc是一位技术高管，在领导工程、产品架构和新兴技术计划方面拥有丰富经验。他目前担任Cisco Outshift工程副总裁，负责跨生成式AI、代理AI、云技术、量子网络和安全等项目的工程、软件架构和平台战略。此前，他曾担任Cisco新兴技术与孵化高级总监以及首席技术与架构办公室高级总监，领导创新计划、研究项目以及与初创企业、大学和开源社区的合作。