使用NVIDIA Nemotron 3 Ultra和LangChain Deep Agents在Baseten上構建智能體

AI工程

使用NVIDIA Nemotron 3 Ultra和LangChain Deep Agents在Baseten上構建智能體

隨着AI應用中的工具鏈變得越來越重要，模型與工具鏈的協同開發正不斷推動超越模型原始基準的能力。對於同時擁有模型和工具鏈的開發者來説，這一改進循環早已顯而易見。然而，依賴開放模型和第三方工具鏈的開發者此前並未享受到同樣的便利。

這一局面隨着LangChain Deep Agents配置文件的出現而改變。這些模型特定的配置文件能調整提示、工具描述、中間件和子智能體，使工具鏈行為與模型的特性相匹配。

今天，LangChain團隊發佈了針對NVIDIA Nemotron 3 Ultra的Deep Agents配置文件。有了這個配置文件，NVIDIA Nemotron 3 Ultra在LangChain Deep Agents評估套件中獲得了開放模型中最高的智能體準確率，而成本僅為領先封閉替代方案的約十分之一。

實現這樣的性能結果無需微調底層模型或更改服務基礎設施。因此，該配置可直接與Baseten為NVIDIA Nemotron 3 Ultra提供的快速、經濟的模型API配合使用。下面，我將介紹如何通過Baseten設置NVIDIA Nemotron 3 Ultra與LangChain Deep Agents Code。

使用Baseten設置LangChain Deep Agents Code（dcode）

我們將構建的系統包含四個組件：

模型：NVIDIA Nemotron 3 Ultra。 推理提供商：Baseten，它以模型API形式託管NVIDIA Nemotron 3 Ultra。 工具鏈：LangChain dcode，一個開源包。 配置文件：一組為LangChain Deep Agents所做的模型特定修改。

不過，設置只需兩步。

首先，安裝帶有Baseten支持的最新版LangChain dcode。

!curl -LsSf https://langch.in/dcode | bash !dcode --install baseten --yes

然後，獲取你的Baseten API密鑰（若沒有則創建賬户），並確保在環境中設置為BASETEN_API_KEY。

之後，模型slug baseten:nvidia/NVIDIA-Nemotron-3-Ultra-550B-A55B便可在dcode中使用。NVIDIA Nemotron 3 Ultra的配置文件會在檢測到模型時自動應用，無需額外步驟來安裝或激活。

構建簡單智能體

在本示例中，我們將構建一個用於審查提議工作流程並標記潛在合規性錯誤的智能體。這是金融服務和醫療保健等多個行業正在構建的智能體的高度簡化版本。對於這些智能體，高準確率和低任務成本對於投入生產至關重要。

讓我們設想幾個示例工作流程作為智能體的輸入。

（代碼略）

我們將使用NVIDIA Nemotron 3 Ultra通過dcode處理這些任務。提醒一下，配置文件會根據模型slug自動應用。

（代碼略）

智能體使用文件讀取工具讀取任務，然後使用文件寫入工具創建輸出。這可以通過在工具鏈中實現創建工單、發送Slack消息和更新項目狀態等工具來擴展。

雖然生產級智能體要複雜得多，但這個示例表明，使用模型特定的配置文件，在dcode中幾乎不需要更改代碼就能以約10倍低的成本獲得前沿性能。

通過Baseten的NVIDIA Nemotron 3 Ultra模型API和LangChain Deep Agents Code，你可以立即開始構建前沿智能體。

訂閲我們的新聞通訊

隨時瞭解模型性能、推理基礎設施等最新動態。