Nemotron 3.5 Bolt 74B-A9B 24GB 是一款面向本地智能体工作负载设计的混合视觉语言模型，其核心目标是在每一 GB 显存上同时优化速度与智能水平。该模型于 2026 年 10 月 15 日以 arXiv 预印本形式发布，编号为 arXiv:2610.33039（cs.CV），作者阵容庞大，由 Ganesh Ajjanagadde 领衔，论文页面另列出 108 位合著者，提交人为 Tijmen Blankevoort。
从架构上看，该模型采用 Mamba-Transformer 混合结构，并具备视觉语言能力，能够同时处理文本与图像输入。它并非从零训练，而是从 Nemotron 3.5 Super VL 120B-A12B 模型家族衍生而来，通过压缩与蒸馏手段将原本更大的模型适配到显存受限的部署环境中。具体而言，研究团队结合了 Star Elastic 压缩技术与 2-bit 量化感知蒸馏（Quantization-Aware Distillation），在显著降低内存占用的同时尽量保留原模型的能力。
该模型的优化方向明确指向推理、智能体工具调用以及网页与终端交互三类场景。为达到目标推理速度，团队还额外训练了一个名为 LiLiCorr 的推测解码草稿模型（speculative drafter），并与主模型一同发布。推测解码通过让较小的草稿模型先行生成候选 token、再由主模型验证，从而在不改变输出分布的前提下提升吞吐量。
在性能方面，论文称该模型在相同内存占用与速度水平的主流模型中取得了更高的准确率。评测覆盖多个方向的基准：通用智能体能力方面使用 GDPVal v2，网页浏览方面使用 BrowseComp，终端操作方面使用 Terminal-Bench 2.1。在 RTX Spark 硬件上，该模型达到约 84 TPS（每秒 token 数）的吞吐表现，这一速度可与活跃参数远低于它的模型相比，论文认为该速度足以支撑长时程（long-horizon）智能体应用。
值得注意的是，74B-A9B 的命名暗示模型总参数约 740 亿、每次推理激活约 90 亿参数，结合 24GB 的显存标签，体现出以稀疏激活换取低内存占用的设计思路。论文全文提供 PDF、实验性 HTML 以及 TeX 源码等多种获取方式，并附带音频摘要。需要说明的是，上述性能结论均来自论文作者的自我报告，尚待独立复现与社区验证；同时，2-bit 量化对下游任务的实际影响、以及推测解码在不同硬件上的加速比，也仍需更广泛的实测数据支撑。