AI 設計模式：打造能夠驗證自身工作的代理系統

近日，一個名為“AI 設計模式”的專案在 Hacker News 上引發關注。該專案由一群經驗豐富的 AI 工程師發起，系統性地提出了用於構建可靠 AI 代理系統的設計模式。其核心目標是透過驗證讓機率系統接近確定性行為，從而解決 LLM 無法透過簡單的自我審查可靠地自我糾正的問題。

專案首先指出了 AI 代理系統面臨的兩類失敗：方差失敗和偏差失敗。方差失敗包括取樣不穩定、環境狀態汙染、非同步時序問題以及非確定性工具狀態等；偏差失敗則包括模型諂媚、自我審查失效、評審偏好偏差、確認偏誤以及同系列模型盲點等。這些失敗型別嚴重影響了代理系統的可靠性，而傳統的 prompt 工程難以從根本上解決。

針對這些問題，專案提出了三組共 17 個模式。第一組是“上下文與狀態”模式，包含 5 個具體模式：因果標籤（Causal Tag）為每個事件附加穩定且可連線的識別符號（必要時包含父識別符號），使驗證能夠將觀察到的效果歸因於特定的代理動作，而不是從共享環境狀態的時間接近性推斷因果關係；憲法（Constitution）將系統的驗證標準表示為顯式、版本化、機器可讀的資料，而非分散的 prompt 文本；護欄裝飾器（Guardrail Decorator）在模型呼叫、工具呼叫或其他模型輸出邊界包裹策略裝飾器，可以拒絕、替換、清理或轉換錯誤，使策略駐留在模型跨越的邊界程式碼中；狀態基線（State Baseline）在驗證前捕獲相關環境或過程狀態，使驗證者能夠證明動作引起了觀察到的變化；軌跡游標（Trajectory Cursor）維護代理在其多步驟過程中的顯式結構化記錄，以及每個邊界發生的事件，使驗證者和下一步能讀取軌跡而非從聊天曆史或模型回憶中推斷。

第二組是“驗證”模式，包含 6 個模式：對抗框架（Adversarial Frame）以可接受性規則替換語氣層面的懷疑指令，定義什麼算作證據，命名常見的捷徑路徑加以拒絕，並將驗證者的預設從“如果合理則接受”反轉為“除非有可信證據否則失敗”；盲預言機（Blind Oracle）根據規範、問題或獨立重執行推導預期證據，而不以代理的草稿、推理軌跡或捷徑歷史為條件；比較器（Comparator）將驗證比較表示為有限家族中的命名運算元，使裁決成為（預期、觀察、運算元、閾值、歸一化）的確定性函式；增量驗證（Delta）透過斷言環境狀態的變化而非絕對狀態來驗證代理動作的成功；可執行模擬（Executable Analog）將主觀的、基於語言的驗證步驟轉化為確定性的、可程式設計的執行步驟，產生獨立於代理判斷的二進位制透過/失敗訊號；法官框架（Judge Harness）將 LLM 法官包裹在擾動、重複、校準和報告的結構性約束中，使單個法官裁決成為具有可見一致性和偏差控制的測量訊號。

第三組是“編排”模式，包含 6 個模式：對手（Adversary）分配一個結構上獨立的角色，其唯一任務是發現另一角色輸出中的失敗，並要求該角色發出編排者可檢查的負面通道；背壓（Backpressure）當下遊檢查失敗時，將失敗作為結構化的重執行上下文路由回上游，並在有限的重試預算內處理；跨家族（Cross-Family）在故意不同的模型家族上執行高影響力的生成和評估，並記錄雙方身份，使共享訓練資料偏差和共享潛在先驗無法透過驗證邊界而不被發現；辯論（Debate）在決策前進行有界的多角色分歧，回合順序、輪數、階段和共識閾值保持在編排狀態中而非模型自由裁量；升級鏈（Escalation Chain）透過型別化、驗證的交接將工作路由到更高許可權或不同能力的處理者；工具介面卡（Tool Adapter）在型別化邊界處規範化模型發出的工具呼叫：派生或獲取模式，呼叫前驗證引數，以型別化引數呼叫工具，並返回型別化觀察。

專案強調，這些模式不僅是理論，更是可直接使用的設計指南。每個模式都明確指出了它所約束的具體問題，開發者可以透過組合使用這些模式構建更加可靠、可審計的 AI 代理系統。專案網站提供了模式瀏覽、原則閱讀以及貢獻指南，吸引了社群廣泛討論。