AI News HubLIVE
站內改寫2 分鐘閱讀

開放、前沿、屬於你:LangChain Deep Agents 在 NVIDIA Nemotron 3 Ultra 上運行於 Fireworks

LangChain 為 NVIDIA Nemotron 3 Ultra 調優了 Deep Agents 框架,實現了開源模型中領先的智能體性能,成本僅為閉源替代方案的十分之一。該模型在 Fireworks 上運行,支持後訓練定製,幫助企業構建專屬智能。

LangChain 已將其 Deep Agents 框架針對 NVIDIA Nemotron 3 Ultra 模型進行了深度調優,實現了開源模型中領先的智能體性能,同時將每次運行的成本降低至閉源領先模型的十分之一。這一調優後的框架已集成至 LangChain Deep Agents 產品中,而 Nemotron 3 Ultra 模型已在 Fireworks 平台上獲得首發支持,用户即日起便可使用。

在 Fireworks 上,用户不僅限於調用模型,還可以對其進行後訓練,打造企業自有且能持續改進的專屬模型。這一點至關重要,因為運行核心工作流的智能體正是構建持久競爭優勢的關鍵所在,而這種優勢理應屬於企業自身,而非某個封閉的 API 提供商。

衡量標準:每任務成本

智能體並非僅僅回答單個提示。它需要與自身及工具進行多輪交互:主智能體進行推理、調用軟件、將任務分配給子智能體,然後再次推理。一個簡單的“處理工單”或“修復倉庫”請求可能衍生出數十次模型調用。推理和智能體工作負載的 token 消耗通常是單次問答的五到三十倍,而對於複雜的自主多輪工程任務,如修復代碼倉庫,消耗可能超過 1,000 倍。當單個任務承載如此大量的推理時,關鍵指標不再是每次響應的成本,而是每完成任務的成本。在這一指標上,開源模型已達到了前沿水平。

LangChain 通過調整提示、工具和中間件來優化 Deep Agents 框架,並未重新訓練模型。據 LangChain 報告,該結果在智能體性能上領先所有開源模型,同時每次運行成本比領先的閉源替代方案低約十倍。這是一項紮實的工程成果,也印證了 Fireworks 一貫的主張:最適合某項工作的模型往往不是最大或最昂貴的,而是為任務專門優化並在專為此設計的引擎上運行的模型。

為何選擇 Fireworks

Nemotron 3 Ultra 自發布首日起便在 Fireworks 上運行。該模型旨在快速、經濟地完成長序列智能體運行,而這一經濟優勢只有在專門為此優化的基礎設施上才能顯現。

Fireworks 構建了業界領先的推理棧。其完全分離的引擎運行在最新的 NVIDIA AI 基礎設施上,包括 NVIDIA Blackwell 和 Blackwell Ultra,並採用自定義的 FireAttention 內核,在完全保持模型質量的同時吞吐量提升高達 4 倍。對於一個參數規模達 5500 億、核心目標是高效完成任務的模型而言,底層推理棧決定了智能體能否在生產環境中可行,還是會在每次運行中悄悄消耗預算和延遲。

專屬智能的含義

LangChain 的調優提供了開箱即用的領先性能,無需繁重工作。在 Fireworks 上,用户可以更進一步,將模型變為己有。專屬智能是指模型根據您的數據、工作流程和領域進行適配,從而在您業務運行的具體工作上以更低成本超越通用模型。您可以在同一個提供推理服務的平台上對 Nemotron 3 Ultra 進行後訓練,使用監督微調和基於人類反饋的直接偏好優化(包括 LoRA 或全參數訓練),然後將結果部署在相同的優化棧上。訓練即服務的模型,生產環境中無需交接,也無意外。

這完善了開放棧。NVIDIA 提供了開放模型、對開放框架的支持以及開放運行時(NVIDIA OpenShell 作為安全的智能體運行時),讓您擁有完整棧並可隨處運行。Fireworks 增加了訓練與推理循環,使模型能夠根據積累的信號持續改進,從而讓您的優勢在每個週期中不斷累積,而不是在每個新閉源模型發佈時歸零。如果一個封閉的通用 API 運行着您業務核心的專有工作流,那麼這種優勢從未真正屬於您。

企業已在評估

自宣佈支持 Nemotron 以來,Fireworks 見證了眾多企業採用該方案構建智能體,涵蓋編碼、深度研究和複雜領域工作流。選擇這條路徑的團隊希望獲得前沿的智能體性能,快速且經濟高效,同時不將業務核心的智能拱手讓人。

開始使用

調優已完成,模型已在專為其構建的引擎上運行。創建一個賬户,幾分鐘內即可啓動整個棧。