什麼是AI代理框架？
AI代理框架是圍繞大型語言模型（LLM）的軟件基礎設施，使其能夠執行任務而不僅僅是響應提示。本文介紹框架的核心組件——工具、內存、沙箱和護欄，以及它們如何通過推理-行動-觀察循環實現可靠操作。還討論了八個關鍵構建模塊，如系統提示、工具執行、反饋循環等，以及常見故障模式如上下文腐爛、工具過載和缺乏護欄。最後強調，在企業AI戰略中，共享框架基礎設施對於擴展和管理代理至關重要。
AI代理框架是圍繞大型語言模型（LLM）的軟件基礎設施，它賦予模型執行任務的能力，而不僅僅是生成文本響應。模型負責推理和決策，框架則提供工具、內存、執行環境和護欄，使模型能夠安全可靠地採取行動。簡單來説，代理 = 模型 + 框架。
框架的核心機制是“推理→行動→觀察”循環。模型讀取上下文（包括任務描述、歷史記憶和先前結果），決定下一步行動；框架負責執行該行動，例如運行代碼、調用API或寫入存儲；然後捕獲結果並反饋給模型，模型據此決定後續步驟。這一循環重複進行，直到任務完成。這種模式被稱為ReAct循環，由Yao等人在2022年提出，現已成為許多生產級代理系統的基礎。例如，一個負責修復bug的編碼代理：模型提出代碼修改方案，框架在隔離的沙箱中運行代碼，捕獲測試結果並返回給模型；如果測試失敗，模型分析原因並再次嘗試。
生產級框架通常包含八個構建模塊：
- 系統提示：每次運行前給予模型的固定指令，定義其身份、目標和行為規則。
- 工具與工具執行：預構建的函數，使模型能夠搜索網絡、查詢數據庫、發送郵件等。趨勢是賦予模型編寫和執行通用代碼的能力，而非依賴大量窄用途工具。
- 沙箱與執行環境：隔離的工作空間，確保代理安全運行代碼，避免對真實系統造成影響，並支持大規模並行執行。
- 文件系統與持久存儲：代理讀寫文件的空間，支持跨會話持久化進度，便於人與代理或代理間協作。
- 內存與上下文管理：基礎模型不保留上下文窗口外的記憶，框架通過上下文壓縮、會話間記憶存儲與檢索來管理長期記憶。
- 反饋循環與自我驗證：框架在每次行動後檢查結果，運行測試或提示模型複核，實現自動糾錯。
- 護欄與人工介入控制：內置規則阻止不安全操作，如要求人工批准刪除文件或發送消息。
- 可觀測性與日誌記錄：通過日誌、跟蹤和儀表盤記錄代理行為，便於調試和合規審計。
框架設計對性能的影響日益顯著。隨着模型能力趨同，框架成為決定可靠性關鍵。同一模型搭配不同框架在基準測試中可能表現迥異，強框架加中端模型常優於弱框架加高端模型。例如，Databricks將GPT-5.5與OfficeQA Pro代理框架結合後，得分從36.10%躍升至52.63%，錯誤率減半。
框架工程是繼提示工程和上下文工程之後的最新階段。提示工程優化輸入措辭，上下文工程控制模型所見信息，而框架工程則設計整個系統——工具、沙箱、循環、護欄——以最大化模型能力。三者層層遞進，框架工程包含前兩者。
生產中常見的故障模式包括：上下文腐爛（長對話中推理質量下降）、工具過載（工具過多導致混亂）、脆弱的工具接線（描述微變導致誤用）、延遲（多步驟響應慢）、無關檢索（錯誤信息引發錯誤答案）、弱驗證（過早停止或不完整工作）以及缺乏護欄（不可逆操作無監督）。
在企業AI戰略中，共享框架基礎設施至關重要。多數公司會構建數十個代理，分散在不同團隊和工作流中。如果沒有一致的框架設計，會導致代理蔓延：代理各自為政，無法統一治理、評估或改進。通過標準化框架組件和評估基礎設施，企業可以構建可靠、可擴展的代理系統。