NVIDIA Jetson 將自主 AI 帶入物理世界
NVIDIA 在 COMPUTEX 上宣佈推出 JetPack 7.2 和 Jetson 上的 NemoClaw 支持,將自主 AI 帶到邊緣設備。這些更新包括 Yocto 支持、CUDA 13、性能提升、MIG 支持以及用於在機器人、檢測和工業自動化中部署 AI 代理的 NemoClaw 框架。
自主 AI 正在變得實體化。
週二在 COMPUTEX 上,NVIDIA 宣佈了 NVIDIA JetPack 7.2 和 Jetson 上的 NVIDIA NemoClaw 支持。
JetPack 7.2 帶來了自主 AI 技能、Yocto 項目支持、NVIDIA Jetson Orin 上的 NVIDIA CUDA 13、Jetson AGX Orin 32GB 模塊的顯著性能提升以及 NVIDIA Jetson Thor 上的多實例 GPU (MIG) 支持。
此次發佈與 GTC 台北 Build-a-Claw 活動同時進行,將來自 GTC 聖何塞的熱門動手活動帶到了台灣——全球頂級技術中心之一。
NVIDIA 的 Asier Arrnaz 展示了 Build-a-Claw 如何將 AI 帶到邊緣,一個直接在 NVIDIA Jetson 上運行的個性化、始終在線的助手。
該版本將 NVIDIA 的自主 AI 框架 NemoClaw 部署到生產級 Jetson 堆棧上——將自主 AI 從服務器和工作站帶入物理世界,涵蓋機器人技術、檢測和工業自動化。
“自主 AI 已經到來,Jetson 的可編程性和高性能使開發人員能夠在邊緣的生產環境中立即部署物理 AI 代理,”NVIDIA 機器人和邊緣計算副總裁 Deepu Talla 説。“憑藉為自主開發和工作流量身定製的技能,開發人員可以加快上市時間、降低總擁有成本並大規模部署——所有這些都在一個內存優化的平台上。”
Jetson 已經是一個多代平台——Orin、Thor 及更高版本——為機器人技術、自主系統、工業檢測和醫療設備中的邊緣 AI 提供動力。JetPack 7.2 建立在該基礎之上;NemoClaw 擴展了它。
此版本包含三個層。底層的 JetPack 7.2——操作系統、計算、確定性性能。中間的新代理技能層,自動化開發人員任務。頂層的 NemoClaw。
JetPack 7.2 為 Jetson 軟件基礎帶來了重大升級。基於 Yocto 的操作系統支持為工業客户提供了更精簡、更可定製的 Linux 基礎——對於內存受限的部署很重要。Jetson Orin 上的 CUDA 13 為現有設備帶來了最新的計算堆棧。Jetson Thor 上的 MIG 加實時內核允許開發人員為確定性工作負載保留專用的 GPU 資源,例如不能因無關 AI 推理而暫停的機器人感知系統。Jetson AGX Orin 32GB 也獲得了性能提升,達到 241 TOPS 的 AI 計算能力,比其原始規格高出 20%。
中間層——代理技能——加速了構建基於 Jetson 的系統本身的工作。Jetson 代理技能現在包括 Linux 定製、內存優化、模型基準測試和類似的開發人員任務。這些現在可作為代理可部署的技能使用,從 NVIDIA 文檔和設計指南中開發。結果:以前需要數週的任務現在可以在幾天內完成。
在頂層,NemoClaw 通過單個命令部署到 Jetson。這種配對將自主 AI 定位在生產級機器人和視覺 AI 堆棧上,加速工業系統的任務自動化。開發人員可以通過 NVIDIA Metropolis VSS 藍圖技能進一步擴展,添加視覺推理代理,觀察、解釋並根據所見採取行動。
自主 AI 已隨 Jetson 到來
Jetson 平台已經在機器人技術、工業自動化、無人機、醫療設備、農業機械、人形系統等領域部署。
Solomon 使用 NVIDIA NemoClaw 協調人形機器人上的 AI 代理,將推理、感知、傳感器融合、運動和操作集成到一個工作流中。藉助 Solomon 的主動感知技術,由 NVIDIA 的開源基礎模型提供支持,機器人可以理解任務、優化抓取定位並動態適應。所有這些使機器人能夠在複雜環境中可靠自主地運行。
Advantech 正在其自己的製造設施中構建和部署代理工廠大腦,使用 NVIDIA NemoClaw、NVIDIA Nemotron 3 和 NVIDIA Jetson Thor 實現 AI 原生操作。該平台自動化機器人車隊管理、智能缺陷檢測和自主決策,以驅動下一代工業操作。
跨行業的構建已經在出貨。
Rebotnix 製造具有代理推理能力的智能城市攝像頭,用於更快的城市級決策。
Spingence 構建制造缺陷代理,通過分析和知識推理識別根本原因和流程改進建議。
ANIWEAVE 和 Avalanche Computing 正在合作,通過 AI 驅動的對話代理將房地產空間轉變為沉浸式 3D 遊覽體驗。
更多 AI,更少內存
SandStar 使用 NVIDIA Jetson Orin NX 和 NemoClaw 為 AI 自動售貨機和智能零售運營提供動力,具有 AI 視覺、LLM 驅動的交互、標準操作程序監控和商店優化,覆蓋 30 多個國家。通過實現近 40% 的內存優化,SandStar 報告從 16GB 設備遷移到 8GB 設備,顯著降低了部署成本,同時保持了高性能。
圖片由 Sandstar 提供。
NoTraffic 開發了 AI 驅動的智能交通管理系統,分析實時交通狀況並動態優化信號操作。NoTraffic 報告通過靜態編譯和針對性內核修剪優化了 CUDA 庫開銷。這些優化將內存使用減少了 29%,提高了效率並簡化了感知堆棧,以實現更快的實時推理。
GROOVE X,LOVOT 伴侶機器人的製造商,正在 Jetson 模塊上使用各種 AI 加速器來卸載 CPU 和 GPU 工作負載並減少內存佔用。
基於 Yocto 的 JetPack 7.2 投入生產
Hexagon Robotics 正在集成 NVIDIA Jetson Thor,通過實時 AI、高速傳感器處理和多模態數據融合,為更安全、更自主的人形機器人提供動力。結合基於 Yocto 的操作系統定製以提高可重複性和安全性,這些人形機器人在製造、物流和建築等要求苛刻的環境中更可靠地運行。
Zipline 在其自主送貨無人機中使用 NVIDIA Jetson Orin NX,實現實時傳感器融合、環境感知和安全導航,以在全球範圍內進行快速的醫療、食品和零售配送。Zipline 使用 Yocto 構建其自定義操作系統,該操作系統專為高性能機載 AI 處理而設計,同時優化了可靠性、效率和更低的內存佔用。
1X(Neo 人形機器人的製造商)和 Universal Robots 計劃在其生產部署中採用基於 Yocto 的 JetPack 7.2。
Yocto 生態系統合作伙伴
Balena、Konsulko Group、Neurealm、Peridio、RidgeRun 和 Wind River 提供 Linux 發行版產品、工程服務和長期支持,幫助客户更快地交付生產級基於 Yocto 的部署。
AAEON、ASUS、Avermedia、Connect Tech 和 YUAN 已在其生產邊緣計算系統中驗證了 Yocto 操作系統,以加速客户部署。
下一步
NemoClaw 始於數據中心。現在它運行在零售店、工廠車間的人形機器人、繁忙交叉路口的交通系統中。物理 AI 代理的時代才剛剛開始。
開發人員可以從 Jetson 軟件頁面開始他們的自主 AI 之旅。
觀看 NVIDIA 創始人兼首席執行官黃仁勳的主題演講,並在 NVIDIA GTC 台北瞭解更多信息。
關於軟件產品信息的通知。