AI News HubLIVE
站内改写2 分钟阅读

开放、前沿、属于你:LangChain Deep Agents 在 NVIDIA Nemotron 3 Ultra 上运行于 Fireworks

LangChain 为 NVIDIA Nemotron 3 Ultra 调优了 Deep Agents 框架,实现了开源模型中领先的智能体性能,成本仅为闭源替代方案的十分之一。该模型在 Fireworks 上运行,支持后训练定制,帮助企业构建专属智能。

LangChain 已将其 Deep Agents 框架针对 NVIDIA Nemotron 3 Ultra 模型进行了深度调优,实现了开源模型中领先的智能体性能,同时将每次运行的成本降低至闭源领先模型的十分之一。这一调优后的框架已集成至 LangChain Deep Agents 产品中,而 Nemotron 3 Ultra 模型已在 Fireworks 平台上获得首发支持,用户即日起便可使用。

在 Fireworks 上,用户不仅限于调用模型,还可以对其进行后训练,打造企业自有且能持续改进的专属模型。这一点至关重要,因为运行核心工作流的智能体正是构建持久竞争优势的关键所在,而这种优势理应属于企业自身,而非某个封闭的 API 提供商。

衡量标准:每任务成本

智能体并非仅仅回答单个提示。它需要与自身及工具进行多轮交互:主智能体进行推理、调用软件、将任务分配给子智能体,然后再次推理。一个简单的“处理工单”或“修复仓库”请求可能衍生出数十次模型调用。推理和智能体工作负载的 token 消耗通常是单次问答的五到三十倍,而对于复杂的自主多轮工程任务,如修复代码仓库,消耗可能超过 1,000 倍。当单个任务承载如此大量的推理时,关键指标不再是每次响应的成本,而是每完成任务的成本。在这一指标上,开源模型已达到了前沿水平。

LangChain 通过调整提示、工具和中间件来优化 Deep Agents 框架,并未重新训练模型。据 LangChain 报告,该结果在智能体性能上领先所有开源模型,同时每次运行成本比领先的闭源替代方案低约十倍。这是一项扎实的工程成果,也印证了 Fireworks 一贯的主张:最适合某项工作的模型往往不是最大或最昂贵的,而是为任务专门优化并在专为此设计的引擎上运行的模型。

为何选择 Fireworks

Nemotron 3 Ultra 自发布首日起便在 Fireworks 上运行。该模型旨在快速、经济地完成长序列智能体运行,而这一经济优势只有在专门为此优化的基础设施上才能显现。

Fireworks 构建了业界领先的推理栈。其完全分离的引擎运行在最新的 NVIDIA AI 基础设施上,包括 NVIDIA Blackwell 和 Blackwell Ultra,并采用自定义的 FireAttention 内核,在完全保持模型质量的同时吞吐量提升高达 4 倍。对于一个参数规模达 5500 亿、核心目标是高效完成任务的模型而言,底层推理栈决定了智能体能否在生产环境中可行,还是会在每次运行中悄悄消耗预算和延迟。

专属智能的含义

LangChain 的调优提供了开箱即用的领先性能,无需繁重工作。在 Fireworks 上,用户可以更进一步,将模型变为己有。专属智能是指模型根据您的数据、工作流程和领域进行适配,从而在您业务运行的具体工作上以更低成本超越通用模型。您可以在同一个提供推理服务的平台上对 Nemotron 3 Ultra 进行后训练,使用监督微调和基于人类反馈的直接偏好优化(包括 LoRA 或全参数训练),然后将结果部署在相同的优化栈上。训练即服务的模型,生产环境中无需交接,也无意外。

这完善了开放栈。NVIDIA 提供了开放模型、对开放框架的支持以及开放运行时(NVIDIA OpenShell 作为安全的智能体运行时),让您拥有完整栈并可随处运行。Fireworks 增加了训练与推理循环,使模型能够根据积累的信号持续改进,从而让您的优势在每个周期中不断累积,而不是在每个新闭源模型发布时归零。如果一个封闭的通用 API 运行着您业务核心的专有工作流,那么这种优势从未真正属于您。

企业已在评估

自宣布支持 Nemotron 以来,Fireworks 见证了众多企业采用该方案构建智能体,涵盖编码、深度研究和复杂领域工作流。选择这条路径的团队希望获得前沿的智能体性能,快速且经济高效,同时不将业务核心的智能拱手让人。

开始使用

调优已完成,模型已在专为其构建的引擎上运行。创建一个账户,几分钟内即可启动整个栈。