使用NVIDIA Nemotron 3 Ultra和LangChain Deep Agents在Baseten上构建智能体

AI工程

使用NVIDIA Nemotron 3 Ultra和LangChain Deep Agents在Baseten上构建智能体

随着AI应用中的工具链变得越来越重要，模型与工具链的协同开发正不断推动超越模型原始基准的能力。对于同时拥有模型和工具链的开发者来说，这一改进循环早已显而易见。然而，依赖开放模型和第三方工具链的开发者此前并未享受到同样的便利。

这一局面随着LangChain Deep Agents配置文件的出现而改变。这些模型特定的配置文件能调整提示、工具描述、中间件和子智能体，使工具链行为与模型的特性相匹配。

今天，LangChain团队发布了针对NVIDIA Nemotron 3 Ultra的Deep Agents配置文件。有了这个配置文件，NVIDIA Nemotron 3 Ultra在LangChain Deep Agents评估套件中获得了开放模型中最高的智能体准确率，而成本仅为领先封闭替代方案的约十分之一。

实现这样的性能结果无需微调底层模型或更改服务基础设施。因此，该配置可直接与Baseten为NVIDIA Nemotron 3 Ultra提供的快速、经济的模型API配合使用。下面，我将介绍如何通过Baseten设置NVIDIA Nemotron 3 Ultra与LangChain Deep Agents Code。

使用Baseten设置LangChain Deep Agents Code（dcode）

我们将构建的系统包含四个组件：

模型：NVIDIA Nemotron 3 Ultra。 推理提供商：Baseten，它以模型API形式托管NVIDIA Nemotron 3 Ultra。 工具链：LangChain dcode，一个开源包。 配置文件：一组为LangChain Deep Agents所做的模型特定修改。

不过，设置只需两步。

首先，安装带有Baseten支持的最新版LangChain dcode。

!curl -LsSf https://langch.in/dcode | bash !dcode --install baseten --yes

然后，获取你的Baseten API密钥（若没有则创建账户），并确保在环境中设置为BASETEN_API_KEY。

之后，模型slug baseten:nvidia/NVIDIA-Nemotron-3-Ultra-550B-A55B便可在dcode中使用。NVIDIA Nemotron 3 Ultra的配置文件会在检测到模型时自动应用，无需额外步骤来安装或激活。

构建简单智能体

在本示例中，我们将构建一个用于审查提议工作流程并标记潜在合规性错误的智能体。这是金融服务和医疗保健等多个行业正在构建的智能体的高度简化版本。对于这些智能体，高准确率和低任务成本对于投入生产至关重要。

让我们设想几个示例工作流程作为智能体的输入。

（代码略）

我们将使用NVIDIA Nemotron 3 Ultra通过dcode处理这些任务。提醒一下，配置文件会根据模型slug自动应用。

（代码略）

智能体使用文件读取工具读取任务，然后使用文件写入工具创建输出。这可以通过在工具链中实现创建工单、发送Slack消息和更新项目状态等工具来扩展。

虽然生产级智能体要复杂得多，但这个示例表明，使用模型特定的配置文件，在dcode中几乎不需要更改代码就能以约10倍低的成本获得前沿性能。

通过Baseten的NVIDIA Nemotron 3 Ultra模型API和LangChain Deep Agents Code，你可以立即开始构建前沿智能体。

订阅我们的新闻通讯

随时了解模型性能、推理基础设施等最新动态。