AI 設計模式：打造能夠驗證自身工作的代理系統

近日，一個名為“AI 設計模式”的項目在 Hacker News 上引發關注。該項目由一羣經驗豐富的 AI 工程師發起，系統性地提出了用於構建可靠 AI 代理系統的設計模式。其核心目標是通過驗證讓概率系統接近確定性行為，從而解決 LLM 無法通過簡單的自我審查可靠地自我糾正的問題。

項目首先指出了 AI 代理系統面臨的兩類失敗：方差失敗和偏差失敗。方差失敗包括採樣不穩定、環境狀態污染、異步時序問題以及非確定性工具狀態等；偏差失敗則包括模型諂媚、自我審查失效、評審偏好偏差、確認偏誤以及同系列模型盲點等。這些失敗類型嚴重影響了代理系統的可靠性，而傳統的 prompt 工程難以從根本上解決。

針對這些問題，項目提出了三組共 17 個模式。第一組是“上下文與狀態”模式，包含 5 個具體模式：因果標籤（Causal Tag）為每個事件附加穩定且可連接的標識符（必要時包含父標識符），使驗證能夠將觀察到的效果歸因於特定的代理動作，而不是從共享環境狀態的時間接近性推斷因果關係；憲法（Constitution）將系統的驗證標準表示為顯式、版本化、機器可讀的數據，而非分散的 prompt 文本；護欄裝飾器（Guardrail Decorator）在模型調用、工具調用或其他模型輸出邊界包裹策略裝飾器，可以拒絕、替換、清理或轉換錯誤，使策略駐留在模型跨越的邊界代碼中；狀態基線（State Baseline）在驗證前捕獲相關環境或過程狀態，使驗證者能夠證明動作引起了觀察到的變化；軌跡光標（Trajectory Cursor）維護代理在其多步驟過程中的顯式結構化記錄，以及每個邊界發生的事件，使驗證者和下一步能讀取軌跡而非從聊天曆史或模型回憶中推斷。

第二組是“驗證”模式，包含 6 個模式：對抗框架（Adversarial Frame）以可接受性規則替換語氣層面的懷疑指令，定義什麼算作證據，命名常見的捷徑路徑加以拒絕，並將驗證者的默認從“如果合理則接受”反轉為“除非有可信證據否則失敗”；盲預言機（Blind Oracle）根據規範、問題或獨立重執行推導預期證據，而不以代理的草稿、推理軌跡或捷徑歷史為條件；比較器（Comparator）將驗證比較表示為有限家族中的命名算子，使裁決成為（預期、觀察、算子、閾值、歸一化）的確定性函數；增量驗證（Delta）通過斷言環境狀態的變化而非絕對狀態來驗證代理動作的成功；可執行模擬（Executable Analog）將主觀的、基於語言的驗證步驟轉化為確定性的、可編程的執行步驟，產生獨立於代理判斷的二進制通過/失敗信號；法官框架（Judge Harness）將 LLM 法官包裹在擾動、重複、校準和報告的結構性約束中，使單個法官裁決成為具有可見一致性和偏差控制的測量信號。

第三組是“編排”模式，包含 6 個模式：對手（Adversary）分配一個結構上獨立的角色，其唯一任務是發現另一角色輸出中的失敗，並要求該角色發出編排者可檢查的負面通道；背壓（Backpressure）當下遊檢查失敗時，將失敗作為結構化的重運行上下文路由回上游，並在有限的重試預算內處理；跨家族（Cross-Family）在故意不同的模型家族上運行高影響力的生成和評估，並記錄雙方身份，使共享訓練數據偏差和共享潛在先驗無法通過驗證邊界而不被發現；辯論（Debate）在決策前進行有界的多角色分歧，回合順序、輪數、階段和共識閾值保持在編排狀態中而非模型自由裁量；升級鏈（Escalation Chain）通過類型化、驗證的交接將工作路由到更高權限或不同能力的處理者；工具適配器（Tool Adapter）在類型化邊界處規範化模型發出的工具調用：派生或獲取模式，調用前驗證參數，以類型化參數調用工具，並返回類型化觀察。

項目強調，這些模式不僅是理論，更是可直接使用的設計指南。每個模式都明確指出了它所約束的具體問題，開發者可以通過組合使用這些模式構建更加可靠、可審計的 AI 代理系統。項目網站提供了模式瀏覽、原則閲讀以及貢獻指南，吸引了社區廣泛討論。