如何思考智慧體框架

在人工智慧領域，智慧體框架的選擇和設計一直是熱點話題。近日，LangChain的Harrison發表了一篇深度部落格，試圖釐清智慧體框架的核心概念和比較維度。他指出，構建可靠智慧體系統的真正難點並不在於模型本身，而在於如何確保每一步都向LLM傳遞正確的上下文。這包括精確控制輸入的內容以及執行適當的步驟來生成相關上下文。

文章首先澄清了“智慧體”的定義。Harrison批評了OpenAI過於籠統的“智慧體是獨立完成任務的系統”這一說法，認為它缺乏實用性。相比之下，他讚賞Anthropic的定義，即將“工作流”視為透過預定義程式碼路徑編排的系統，而“智慧體”則是由LLM動態控制自身流程和工具使用的系統。他強調，大多數生產環境中的智慧體系統都是工作流和智慧體的混合體，因此框架必須同時支援兩者。

接著，作者討論了智慧體系統在可預測性與自主性之間的權衡。隨著系統自主性增加，可預測性通常會降低，而可靠性往往與可預測性相關。LangGraph被定位為一個低階別的編排框架，提供宣告式和命令式兩種API，並在此基礎上構建智慧體抽象。它的核心優勢在於透過節點和邊（Nodes and Edges）的圖形化表示來構建系統，同時支援持久化層、人類介入模式以及流式輸出。

文章中特別比較了工作流框架和智慧體框架的“地板”和“天花板”。工作流框架通常“高地板、高天花板”，即入門門檻高但功能強大；而純智慧體框架是“低地板、低天花板”，易於上手但有侷限性。LangGraph試圖同時提供低門檻的智慧體抽象和高靈活性的底層編排能力。

最後，Harrison回應了OpenAI智慧體指南中的爭議觀點，並重申了上下文控制在構建可靠系統中的核心地位。他認為，任何使控制LLM輸入變得更加困難的框架都是適得其反的。這篇文章為開發者選擇和使用智慧體框架提供了寶貴的思考框架。