跳到主要內容
AI News HubLIVE
站內改寫2 分鐘閱讀

NVIDIA 釋出 Nemotron 3 Nano Omni 模型,融合視覺、音訊和語言,AI 代理效率提升高達 9 倍

文章摘要

NVIDIA 今日釋出了 Nemotron 3 Nano Omni,這是一款開放的多模態模型,將視覺、語音和語言能力整合到一個系統中,使 AI 代理能夠更快、更智慧地響應,並在影片、音訊、影像和文本之間進行高階推理。該模型在六個權威榜單上排名領先,效率是同類開放全模態模型的 9 倍。

來源NVIDIA Blog作者: Kari Briski
NVIDIA 釋出 Nemotron 3 Nano Omni 模型,融合視覺、音訊和語言,AI 代理效率提升高達 9 倍
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

當前的 AI 代理系統在處理視覺、語音和語言任務時,通常需要分別呼叫不同的模型,導致資料在模型間傳遞時產生延遲和上下文丟失。為了解決這一問題,NVIDIA 今日釋出了 Nemotron 3 Nano Omni,這是一款開放的全模態模型(omni-modal model),將視覺、音訊和語言能力整合到一個統一的系統中。該模型能夠處理影片、音訊、影像和文本輸入,並輸出文本,使 AI 代理能夠更快、更智慧地響應,同時具備跨模態的先進推理能力。

Nemotron 3 Nano Omni 在效率上樹立了新的標杆,在多個多模態基準測試中取得領先成績,包括複雜的文件智慧、影片和音訊理解等六個權威榜單。其核心架構為 30B-A3B 的混合專家模型(MoE),結合 Conv3D 和 EVS,支援高達 256K 的上下文長度。與同類開放全模態模型相比,Nemotron 3 Nano Omni 實現了 9 倍的吞吐量提升,從而降低了成本並提高了可擴充套件性,同時保持了響應速度和質量。

在實際應用中,Nemotron 3 Nano Omni 可與其他 Nemotron 模型(如 Nemotron 3 Super 和 Ultra)或第三方專有模型協同工作,為計算機使用代理、文件智慧和音影片推理等場景提供感知子代理能力。例如,H Company 利用該模型構建的計算機使用代理,能夠以 1920×1080 畫素的原生解析度處理螢幕錄製,在 OSWorld 基準測試中展現出顯著的效能提升。此外,該模型還能整合文件中的圖表、表格和混合媒體輸入,以及保持音訊-影片上下文的連貫推理,從而提升客戶服務、研究和監控等應用的效果。

Nemotron 3 Nano Omni 以開放權重、資料集和訓練技術的形式釋出,賦予組織完全透明度和控制權,便於針對特定領域進行定製和部署。開發者可以透過 NVIDIA NeMo 等工具進行模型微調、評估和最佳化。該模型支援從本地系統(如 NVIDIA Jetson、DGX Spark 和 DGX Station)到資料中心和雲環境的一致部署。目前,包括 Aible、Applied Scientific Intelligence (ASI)、Eka Care、Foxconn、H Company、Palantir 和 Pyler 在內的多家 AI 和軟體公司已開始採用該模型,而 Dell Technologies、Docusign、Infosys 等企業正在評估中。模型將於 2026 年 4 月 28 日透過 Hugging Face、OpenRouter、build.nvidia.com 及超過 25 個合作伙伴平臺提供。

展開要點與分析

文章情報

工程師進階

要點

  • Nemotron 3 Nano Omni 是一個開放的 omni 模態推理模型,將文本、影像、音訊、影片、文件等輸入統一處理,輸出文本。
  • 採用 30B-A3B 混合專家架構,支援 256K 上下文,在多模態準確性上領先,吞吐量是同類模型的 9 倍。
  • 適用於計算機使用代理、文件智慧和音影片理解等場景,已在 H Company、Palantir 等企業得到應用。
  • 模型以開放權重、資料集和訓練技術釋出,可在本地、資料中心和雲端靈活部署,將於 2026 年 4 月 28 日上線。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。