NVIDIA 正式发布 Nemotron 3.5 Bolt E4B 4GB，一款主打快速对话式智能体的开源小型语言模型。它的目标是让语音助手、游戏 NPC 和机器人交互界面直接在本地设备上运行，覆盖 RTX 显卡、Jetson 以及 Spark 系列硬件。该模型以 Google 的 Gemma 4 E4B 为基础，仅使用强化学习进行后训练。对开发者而言，这意味着约 4GB 显存即可承载智能体行为，从而为语音模型和视觉模型留出空间。
从规格看，Bolt E4B 总参数 8B、有效参数 4B，上下文长度为 64K。NVIDIA 测试中，Q4_K_M 量化版本在 RTX 上占用 3.1 至 4.3GB 显存。官方称其在 21 项基准中的 15 项上取得对 Gemma 4 E4B、Qwen3.5-4B 和 Nemotron 3 Nano 4B 的最高分，但强调这些均为 NVIDIA 自行测量的结果。表现最好的是 IHEval，得分 84.8，对比 Gemma 4 E4B 的 67.0 和 Qwen3.5-4B 的 60.6；最弱的是 Tau2-Bench，仅 55.1，比 Qwen3.5-4B 的 75.1 落后约 20 分。
定位方面，NVIDIA 列出三类目标工作负载：设备与语音助手、互动角色，以及嵌入式或工业智能体。研究报告展示了一台运行在 Jetson Orin Nano 8GB 上的 Reachy Mini 机器人，由 Cosmos 3 Edge 负责视觉，Bolt 负责语音回复与工具调用。NVIDIA 团队还称 Bolt 是其 ACE 游戏角色方案的第三代小型模型。发布信息列出的核心特性包括：支持多轮工具调用并提供异步调用指导、用于生成简短适合语音播报回复的 conversational_mode 标志、可配置的推理能力及可限制延迟的运行时思考预算，以及用于保存历史、工具定义和应用状态的 64K 上下文。
训练方式是该模型最特别之处。NVIDIA 完全跳过了监督微调（SFT），研究报告中指出，SFT 虽能改善工具调用，却会损害 Gemma 的对话质量和冗长度。团队转而通过 NeMo-RL 与 NeMo-Gym 使用 RLVR 和 RLHF。每个训练样本都同时以推理和非推理模式运行，每批数据保持 2:1 的非推理与推理样本比例，GenRM 环境中的长度惩罚则防止答案在训练过程中不断变长。数据集和完整配方均已公开。
部署方面，NVIDIA 将 BF16 检查点量化为 Q4_K_M，并使用重要性矩阵校准，校准数据约为 100 万 token 的 RL rollout。发布包还附带用于投机解码的 DFlash 草稿模型。在 RTX 5070 上，Bolt 配合 DFlash 达到每秒 272.6 token，而 Gemma 4 E4B 配合其 MTP 草稿模型为每秒 225.9 token，Bolt 快约 1.21 倍。
基准测试共 21 项，被归入 5 个能力领域，所有分数均为 BF16 精度、由 NVIDIA 在自有 NeMo-Gym 测试框架中测得，推理模式下 Bolt 领先 15 项。NVIDIA 还称其平均分比 Nemotron 3 Nano 4B 高约 40%，在启用推理的对比中输出 token 最多减少 80%。另据 X 平台帖文，Scale Labs 在多轮挑战 MultiChallenge 上将 Bolt 列为小型模型第一，得分 56.03%。不过 Bolt 并非全面领先：Qwen3.5-4B 在 Tau2-Bench（75.1 对 55.1）、RULER 64K（95.1 对 87.0）、LongBench v2（59.9 对 50.5）和 BFCL-v3（70.9 对 68.5）上占优，Gemma 4 E4B 则在 EQ-Bench v3 上以 41.1 对 39.4 保持微弱优势。
与其他小型模型相比，Bolt 的参数为 8B 总量、4B 有效；Gemma 4 E4B 为含嵌入的 8B、有效 4.5B；Qwen3.5-4B 为 4B 语言模型；Nemotron 3 Nano 4B 为 3.97B。上下文长度上 Bolt 的 64K 明显短于 Gemma 的 128K 和 Qwen、Nano 的 262K。许可证为 OpenMDW-1.1，而 Gemma 和 Qwen 采用 Apache 2.0，Nano 使用 NVIDIA Nemotron 开放模型许可。输入方面，模型卡标注为纯文本，但 NIM 接口还接受图像和音频。
硬件实测使用 llama.cpp、batch size 1、3K 输入和 50 输出 token。RTX 5070（12GB）显存占用 3.5GB，首 token 延迟 548 毫秒，每秒 133.4 token；RTX Spark（32GB）为 3.1GB、930 毫秒、每秒 67.0 token；Jetson AGX Orin（32GB）为 4.2GB、3687 毫秒、每秒 24.0 token；Jetson Orin Nano（8GB）为 4.2GB、5785 毫秒、每秒 15.5 token。需要注意，“4GB”描述的是目标显存区间而非文件体积，Hugging Face 上的 Q4_K_M GGUF 实际大小为 6.18GB。
Bolt 已在 Hugging Face、Ollama、LM Studio、Unsloth 和 Jetson AI Lab 上线，同时提供 NVIDIA NIM 形式及通过 In-Game Inferencing SDK 使用。官方同时公开了技术报告、GGUF 模型、BF16 模型和训练配方。