從互聯代理到集體智慧

本文分析的訪談由Cisco Outshift贊助，並按照Emerj贊助內容指南撰寫、編輯和釋出。

在企業中，代理AI正面臨同樣的困境：由於共享意義、共享狀態和受控訪問的基礎設施缺失，代理會出現漂移、死鎖，並以機器速度傳播錯誤。

加州大學伯克利分校的研究人員分析了七個生產級多代理框架中的1642條實際執行軌跡，發現當代理需要協作而非獨立工作時，故障率在41%至86.7%之間。他們的分類法表明，這種故障是結構性的，而非偶然的：41.8%的故障源於規範缺失和共享治理（死鎖問題），36.9%源於代理間的不一致——代理基於錯誤假設相互誤解（語義漂移問題）。

同一研究顯示，當代理在沒有真正協調的情況下執行時，錯誤放大可達單個代理獨立工作時的17倍；即使有集中檢查點，放大仍約為4.4倍。

治理也沒有跟上步伐。美國國家標準與技術研究院（NIST）直到2026年2月才啟動其AI代理標準倡議，互操作性指南預計2026年第四季度才能釋出——這意味著企業治理所依賴的聯邦參考框架仍未解決多代理協調問題。

代理之間的連線是存在的，但協作基礎設施卻沒有。在企業構建本研究指出的缺失的共享語義、記憶和治理層之前，多代理專案將繼續以如今已充分記錄、可衡量且代價高昂的方式失敗。

Emerj的Yolandi de Weerdt最近與Cisco Outshift工程與AI/ML副總裁Guillaume De Saint Marc探討了企業如何從互聯代理轉向協調智慧。

本文探討了三個要點，闡明多代理系統為何在擴充套件時停滯，以及哪些架構條件能使其在企業內部作為可靠的協作智慧執行。

語義對齊：協調代理行為的基礎

共享意義和持久上下文可防止漂移、死鎖和遺忘，而這些正是導致多代理工作流在需要協作時崩潰的原因。Guillaume De Saint Marc在對話開始時指出，多代理系統的核心失敗不在於任務本身，而在於解釋。當兩個代理閱讀相同的指令但得出不同意圖時，協調就會崩潰。由於企業沒有強制執行共享意圖的機制，這些分歧會以機器速度加劇。

他將此視為語義治理的差距，而非模型弱點。連線不等於協調；只有當代理共享意義、上下文和狀態時，協調才會出現。沒有共享語義層，代理之間的每一次交接都會成為分歧點，而分歧正是破壞工作流的原因。

為說明操作後果，Guillaume強調了三種在需要協作時出現的故障模式：

• 解釋漂移：代理對任務的理解逐漸分歧。
• 協調死鎖：代理因內部狀態不再對齊而相互等待。
• 上下文遺忘：代理丟失先前決策的記錄，迫使人類干預。

在定義語義層時，Guillaume將其描述為一組每個代理都必須使用的受管共享結構：

• 共享本體：定義代理操作的物件、動作和關係。
• 任務語法：標準化指令、約束和目標的表達方式。
• 持久上下文儲存：代理讀寫以確保狀態連續性。
• 語義驗證器：在代理輸出傳播前檢查其是否符合共享意義模型。

Guillaume總結道：“如果代理不基於相同的本體、任務語法和上下文進行推理，它們就不是在協作，而是在即興發揮。而機器速度下的即興發揮就是混亂。語義層強制每個代理從相同的思維模型出發，無論其由誰構建或在哪裡執行。”

代理特定控制：安全擴充套件的基礎

Guillaume將話題從語義轉向架構，並警告說風險顯而易見：代理系統以機器速度失敗。控制不是第二階段的問題，而是實現擴充套件的條件。他強調，代理必須被視為具有身份、許可權和審計需求的一等公民。

他描述了一種反覆出現的模式：團隊部署具有廣泛許可權和最低可觀測性的代理，在隔離環境中一切正常。但一旦這些代理接觸生產系統，一個錯誤許可權操作就會導致緊急回滾、手動分類或完整的架構重建。

Guillaume概述了決定代理系統能否安全擴充套件的四個控制類別：

• 身份與撤銷：代理必須有可驗證的身份和可撤銷的憑證。
• 語義可觀測性：領導者需要了解代理行為的原因，而不僅僅是行為本身。
• 訪問治理：代理必須始終遵循最小許可權原則。
• 跨系統互操作性：控制必須在異構環境中生效，而非僅在單個供應商棧內。

Guillaume指出：“危險不在於錯誤本身，而在於錯誤的速度。沒有身份、可觀測性和訪問治理，每個錯誤都會成為系統級事件。事後追溯控制不是修復，而是重建。”

開放互操作性：多代理生態系統增長之路

多代理系統無法在圍牆內擴充套件。當代理被限制在單個專有棧內時，它們會繼承其邊界：資料孤島、編排約束和整合瓶頸。結果顯而易見——個別代理表現良好，但無法在企業內部協作。

Guillaume在對話結尾提出了務實建議：不要嘗試破壞性遷移。相反，在開放基礎上驗證一個真實工作流。該工作流將成為未來代理（無論是內部還是供應商提供的）無縫接入的錨點，無需架構摩擦。

他指出反覆出現的陷阱：封閉生態系統無法與關鍵遺留系統整合；代理因底層語義專有而不同解釋資料；試點成功但擴充套件時每個工作流都需要重新架構才能新增新代理。

Guillaume強調：“封閉系統提供快速試點和硬性天花板。開放基礎提供較慢的試點卻無天花板。如果你希望新代理加入時不破壞現有工作，開放不是偏好，而是唯一可行的架構。”

互操作性不在於開放本身，而在於避免架構死衚衕。封閉系統將代理困在單一棧的限制內；開放基礎允許企業新增、替換和擴充套件代理，而不會引發級聯式的架構重建。

Guillaume的觀點表明，代理生態系統的長期可行性取決於新代理能否加入現有工作流而無需破壞性架構變更。

收聽完整播客：

嘉賓：Guillaume De Saint Marc，Cisco Outshift工程與AI/ML副總裁 專長：生成式AI、代理AI、雲原生架構、新興技術 簡介：Guillaume De Saint Marc是一位技術高管，在領導工程、產品架構和新興技術計劃方面擁有豐富經驗。他目前擔任Cisco Outshift工程副總裁，負責跨生成式AI、代理AI、雲技術、量子網路和安全等專案的工程、軟體架構和平臺戰略。此前，他曾擔任Cisco新興技術與孵化高階總監以及首席技術與架構辦公室高階總監，領導創新計劃、研究專案以及與初創企業、大學和開源社群的合作。