AI News HubLIVE
站內改寫2 分鐘閱讀

開放、前沿、屬於你:LangChain Deep Agents 在 NVIDIA Nemotron 3 Ultra 上執行於 Fireworks

LangChain 為 NVIDIA Nemotron 3 Ultra 調優了 Deep Agents 框架,實現了開源模型中領先的智慧體效能,成本僅為閉源替代方案的十分之一。該模型在 Fireworks 上執行,支援後訓練定製,幫助企業構建專屬智慧。

LangChain 已將其 Deep Agents 框架針對 NVIDIA Nemotron 3 Ultra 模型進行了深度調優,實現了開源模型中領先的智慧體效能,同時將每次執行的成本降低至閉源領先模型的十分之一。這一調優後的框架已整合至 LangChain Deep Agents 產品中,而 Nemotron 3 Ultra 模型已在 Fireworks 平臺上獲得首發支援,使用者即日起便可使用。

在 Fireworks 上,使用者不僅限於呼叫模型,還可以對其進行後訓練,打造企業自有且能持續改進的專屬模型。這一點至關重要,因為執行核心工作流的智慧體正是構建持久競爭優勢的關鍵所在,而這種優勢理應屬於企業自身,而非某個封閉的 API 提供商。

衡量標準:每任務成本

智慧體並非僅僅回答單個提示。它需要與自身及工具進行多輪互動:主智慧體進行推理、呼叫軟體、將任務分配給子智慧體,然後再次推理。一個簡單的“處理工單”或“修復倉庫”請求可能衍生出數十次模型呼叫。推理和智慧體工作負載的 token 消耗通常是單次問答的五到三十倍,而對於複雜的自主多輪工程任務,如修復程式碼倉庫,消耗可能超過 1,000 倍。當單個任務承載如此大量的推理時,關鍵指標不再是每次響應的成本,而是每完成任務的成本。在這一指標上,開源模型已達到了前沿水平。

LangChain 透過調整提示、工具和中介軟體來最佳化 Deep Agents 框架,並未重新訓練模型。據 LangChain 報告,該結果在智慧體效能上領先所有開源模型,同時每次執行成本比領先的閉源替代方案低約十倍。這是一項紮實的工程成果,也印證了 Fireworks 一貫的主張:最適合某項工作的模型往往不是最大或最昂貴的,而是為任務專門最佳化並在專為此設計的引擎上執行的模型。

為何選擇 Fireworks

Nemotron 3 Ultra 自發布首日起便在 Fireworks 上執行。該模型旨在快速、經濟地完成長序列智慧體執行,而這一經濟優勢只有在專門為此最佳化的基礎設施上才能顯現。

Fireworks 構建了業界領先的推理棧。其完全分離的引擎執行在最新的 NVIDIA AI 基礎設施上,包括 NVIDIA Blackwell 和 Blackwell Ultra,並採用自定義的 FireAttention 核心,在完全保持模型質量的同時吞吐量提升高達 4 倍。對於一個引數規模達 5500 億、核心目標是高效完成任務的模型而言,底層推理棧決定了智慧體能否在生產環境中可行,還是會在每次執行中悄悄消耗預算和延遲。

專屬智慧的含義

LangChain 的調優提供了開箱即用的領先效能,無需繁重工作。在 Fireworks 上,使用者可以更進一步,將模型變為己有。專屬智慧是指模型根據您的資料、工作流程和領域進行適配,從而在您業務執行的具體工作上以更低成本超越通用模型。您可以在同一個提供推理服務的平臺上對 Nemotron 3 Ultra 進行後訓練,使用監督微調和基於人類反饋的直接偏好最佳化(包括 LoRA 或全引數訓練),然後將結果部署在相同的最佳化棧上。訓練即服務的模型,生產環境中無需交接,也無意外。

這完善了開放棧。NVIDIA 提供了開放模型、對開放框架的支援以及開放執行時(NVIDIA OpenShell 作為安全的智慧體執行時),讓您擁有完整棧並可隨處執行。Fireworks 增加了訓練與推理迴圈,使模型能夠根據積累的訊號持續改進,從而讓您的優勢在每個週期中不斷累積,而不是在每個新閉源模型釋出時歸零。如果一個封閉的通用 API 執行著您業務核心的專有工作流,那麼這種優勢從未真正屬於您。

企業已在評估

自宣佈支援 Nemotron 以來,Fireworks 見證了眾多企業採用該方案構建智慧體,涵蓋編碼、深度研究和複雜領域工作流。選擇這條路徑的團隊希望獲得前沿的智慧體效能,快速且經濟高效,同時不將業務核心的智慧拱手讓人。

開始使用

調優已完成,模型已在專為其構建的引擎上執行。建立一個賬戶,幾分鐘內即可啟動整個棧。