NVIDIA 正式釋出 Nemotron 3.5 Bolt E4B 4GB，一款主打快速對話式智慧體的開源小型語言模型。它的目標是讓語音助手、遊戲 NPC 和機器人互動介面直接在本地裝置上執行，覆蓋 RTX 顯示卡、Jetson 以及 Spark 系列硬體。該模型以 Google 的 Gemma 4 E4B 為基礎，僅使用強化學習進行後訓練。對開發者而言，這意味著約 4GB 視訊記憶體即可承載智慧體行為，從而為語音模型和視覺模型留出空間。
從規格看，Bolt E4B 總引數 8B、有效引數 4B，上下文長度為 64K。NVIDIA 測試中，Q4_K_M 量化版本在 RTX 上佔用 3.1 至 4.3GB 視訊記憶體。官方稱其在 21 項基準中的 15 項上取得對 Gemma 4 E4B、Qwen3.5-4B 和 Nemotron 3 Nano 4B 的最高分，但強調這些均為 NVIDIA 自行測量的結果。表現最好的是 IHEval，得分 84.8，對比 Gemma 4 E4B 的 67.0 和 Qwen3.5-4B 的 60.6；最弱的是 Tau2-Bench，僅 55.1，比 Qwen3.5-4B 的 75.1 落後約 20 分。
定位方面，NVIDIA 列出三類目標工作負載：裝置與語音助手、互動角色，以及嵌入式或工業智慧體。研究報告展示了一臺執行在 Jetson Orin Nano 8GB 上的 Reachy Mini 機器人，由 Cosmos 3 Edge 負責視覺，Bolt 負責語音回覆與工具呼叫。NVIDIA 團隊還稱 Bolt 是其 ACE 遊戲角色方案的第三代小型模型。釋出資訊列出的核心特性包括：支援多輪工具呼叫並提供非同步呼叫指導、用於生成簡短適合語音播報回覆的 conversational_mode 標誌、可配置的推理能力及可限制延遲的執行時思考預算，以及用於儲存歷史、工具定義和應用狀態的 64K 上下文。
訓練方式是該模型最特別之處。NVIDIA 完全跳過了監督微調（SFT），研究報告中指出，SFT 雖能改善工具呼叫，卻會損害 Gemma 的對話質量和冗長度。團隊轉而透過 NeMo-RL 與 NeMo-Gym 使用 RLVR 和 RLHF。每個訓練樣本都同時以推理和非推理模式執行，每批資料保持 2:1 的非推理與推理樣本比例，GenRM 環境中的長度懲罰則防止答案在訓練過程中不斷變長。資料集和完整配方均已公開。
部署方面，NVIDIA 將 BF16 檢查點量化為 Q4_K_M，並使用重要性矩陣校準，校準資料約為 100 萬 token 的 RL rollout。釋出包還附帶用於投機解碼的 DFlash 草稿模型。在 RTX 5070 上，Bolt 配合 DFlash 達到每秒 272.6 token，而 Gemma 4 E4B 配合其 MTP 草稿模型為每秒 225.9 token，Bolt 快約 1.21 倍。
基準測試共 21 項，被歸入 5 個能力領域，所有分數均為 BF16 精度、由 NVIDIA 在自有 NeMo-Gym 測試框架中測得，推理模式下 Bolt 領先 15 項。NVIDIA 還稱其平均分比 Nemotron 3 Nano 4B 高約 40%，在啟用推理的對比中輸出 token 最多減少 80%。另據 X 平臺帖文，Scale Labs 在多輪挑戰 MultiChallenge 上將 Bolt 列為小型模型第一，得分 56.03%。不過 Bolt 並非全面領先：Qwen3.5-4B 在 Tau2-Bench（75.1 對 55.1）、RULER 64K（95.1 對 87.0）、LongBench v2（59.9 對 50.5）和 BFCL-v3（70.9 對 68.5）上佔優，Gemma 4 E4B 則在 EQ-Bench v3 上以 41.1 對 39.4 保持微弱優勢。
與其他小型模型相比，Bolt 的引數為 8B 總量、4B 有效；Gemma 4 E4B 為含嵌入的 8B、有效 4.5B；Qwen3.5-4B 為 4B 語言模型；Nemotron 3 Nano 4B 為 3.97B。上下文長度上 Bolt 的 64K 明顯短於 Gemma 的 128K 和 Qwen、Nano 的 262K。許可證為 OpenMDW-1.1，而 Gemma 和 Qwen 採用 Apache 2.0，Nano 使用 NVIDIA Nemotron 開放模型許可。輸入方面，模型卡標註為純文本，但 NIM 介面還接受影像和音訊。
硬體實測使用 llama.cpp、batch size 1、3K 輸入和 50 輸出 token。RTX 5070（12GB）視訊記憶體佔用 3.5GB，首 token 延遲 548 毫秒，每秒 133.4 token；RTX Spark（32GB）為 3.1GB、930 毫秒、每秒 67.0 token；Jetson AGX Orin（32GB）為 4.2GB、3687 毫秒、每秒 24.0 token；Jetson Orin Nano（8GB）為 4.2GB、5785 毫秒、每秒 15.5 token。需要注意，“4GB”描述的是目標視訊記憶體區間而非檔案體積，Hugging Face 上的 Q4_K_M GGUF 實際大小為 6.18GB。
Bolt 已在 Hugging Face、Ollama、LM Studio、Unsloth 和 Jetson AI Lab 上線，同時提供 NVIDIA NIM 形式及透過 In-Game Inferencing SDK 使用。官方同時公開了技術報告、GGUF 模型、BF16 模型和訓練配方。