AI News HubLIVE
站內改寫2 分鐘閱讀

NVIDIA Nemotron 藉助 LangChain 深度代理框架實現基準領先效能

NVIDIA Nemotron 3 Ultra 與 LangChain 深度代理框架結合,在開放模型中取得最高準確率,同時以比頂級封閉模型低 10 倍的推理成本完成更多工。該成果無需重新訓練模型,而是透過最佳化模型周圍環境實現。Abridge、Amdocs、Box 等企業正在將專業代理嵌入其平臺,EY 等系統整合商則基於此開放棧為客戶構建定製化代理。

來源NVIDIA Blog作者: Adel El Hallak

NVIDIA 宣佈其 Nemotron 3 Ultra 模型在與 LangChain 深度代理(Deep Agents)框架整合後,在基準測試中取得了領先效能。該組合以遠低於頂級封閉模型的成本,實現了更高的任務完成率和吞吐量。

LangChain 針對 Nemotron 3 Ultra 調優了其深度代理框架,使其在開放模型中達到最高準確率,並在 LangChain 的深度代理基準測試中與得分最高的封閉模型持平。值得注意的是,所有改進均來自模型周圍環境的工程最佳化,而非模型本身的重新訓練。最佳化內容包括系統提示、工具描述和中介軟體的調整。

LangChain 的代理工程平臺每月下載量超過 2 億次。透過為 Nemotron 3 Ultra 量身定製深度代理框架,企業可以構建高效能代理,完成更多工,執行更快,同時擁有完全開放的堆疊,可自定義、擁有並在任何地方執行。

“構建更好代理的方法是不斷改進模型周圍的系統,”LangChain 聯合創始人兼 CEO Harrison Chase 表示,“記憶體、工具使用、評估和模型行為在團隊能夠協同調整時會相互疊加。我們與 NVIDIA 的合作表明,企業可以從開放棧中獲得強勁效能,同時保持對正在構建的代理系統的控制。”

Abridge、Amdocs 和 Box 正在將專業代理嵌入其平臺,而全球系統整合商 EY 則圍繞 NVIDIA NemoClaw for LangChain Deep Agents 藍圖擴充套件其 NVIDIA 實施能力,幫助客戶定製、評估和治理高價值工作流中的專業代理。

NVIDIA 創始人兼 CEO 黃仁勳最近與 Chase 討論了為什麼過去六個月企業 AI 取得了飛躍性進展。

工程最佳化,而非微調

LangChain 團隊將 Nemotron 3 Ultra 執行在其公開的深度代理基準套件上,然後分析執行軌跡以找到失分點。他們不是重新訓練模型,而是調整了框架——包括系統提示、工具描述和中介軟體。所有使用 LangChain Deep Agents 與 Nemotron 3 Ultra 的開發人員今天即可應用此調優配置檔案,該檔案已透過 LangChain 直接提供。

可擁有的開放棧

NVIDIA NemoClaw for LangChain Deep Agents 是一個開放參考藍圖,將這項工作打包,供企業構建自己的專業 AI——包括模型、工具和執行時的系統——並針對自己的工作流進行調優。它結合了為 Nemotron 3 Ultra 調優的 LangChain Deep Agents 程式碼,以及用於安全執行代理操作的 NVIDIA OpenShell 安全執行時。

開放模型、開放框架和開放安全執行時意味著企業擁有完整的端到端堆疊。他們可以圍繞自己的專業知識進行定製,持續改進,並在任何地方執行——自己的基礎設施、自己的雲、自己的治理。

隨著代理承擔更高風險的工作,這種區別變得越來越重要。從回答問題的 AI 助手轉變為在核心繫統中採取行動的代理,改變了企業從 AI 中獲得的價值。

NemoClaw for LangChain Deep Agents 和調優後的 Nemotron 3 Ultra 模型配置檔案現已可用。開發人員可以直接從 LangChain 拉取調優後的深度代理框架,或者使用 NemoClaw for LangChain Deep Agents 藍圖作為從零開始構建專業代理的起點。

如何開始

LangChain 開發人員可以在 Baseten、Crusoe Cloud、DeepInfra、Fireworks、Nebius 和 Together AI 等平臺上訪問 Nemotron 3 Ultra,從而在生產中直接使用調優框架。

EY 可以幫助企業今天就開始使用這一開放軟體棧構建自己的專業代理。

瞭解更多關於 NVIDIA NemoClaw for LangChain Deep Agents 和 NVIDIA Nemotron 的資訊。

透過訂閱 NVIDIA 新聞、加入社群以及關注 NVIDIA AI 在 LinkedIn、Instagram、X 和 Facebook 上的賬號,隨時瞭解代理 AI、NVIDIA Nemotron 等最新動態。

探索自定進度的影片教程和直播。