英伟达将740亿参数的智能体模型压缩至24GB，使其能在你的笔记本电脑上运行
内容提要
英伟达发布Nemotron 3.5系列新模型，包括120B参数的视觉语言模型Super VL，面向企业智能体，支持图像和视频输入，速度与效率突出，但部分基准测试逊于Qwen。同时推出两款小型Bolt模型，可在笔记本本地运行编码、研究等任务，其中74B-A9B已发布，E4B 4GB版稍后推出。模型已在Hugging Face开放下载，允许商用。
延伸解读
模型定位与适用场景
英伟达此次发布的Nemotron 3.5系列包含三款模型：120B的Super VL面向企业级智能体，支持图像和视频输入，强调多模态任务中的速度与效率；两款Bolt模型则针对本地运行，其中74B-A9B已发布，可在笔记本上执行编码、研究等任务，E4B 4GB版稍后推出。用户可根据需求选择：需要多模态理解与工具调用选Super VL，追求本地隐私与便携选Bolt。
性能表现与竞品对比
在英伟达的基准测试中，Super VL在科学推理和终端任务上优于Qwen3.5-122B-A10B，但在SWE-bench Verified和文档理解上略逊。与更新的Qwen3.8-Flash-Next相比，后者在五项测试中均领先，但参数量更大。Bolt 74B-A9B在Terminal-Bench 2.1上得分51.0，高于Qwen3.6-35B-A3B和Gemma4 26B-A4B。整体看，Super VL侧重速度，其完成1万项SWE-bench Pro任务的速度是竞品的四倍，但准确率较低。
技术实现与效率优化
Super VL沿用混合架构，结合Mamba-2、注意力和混合专家层，并新增视觉编码器。通过从Nemotron 3 Ultra蒸馏及后续训练，提升了软件工程、视觉和智能体任务能力。为加速文本生成，采用LiLiCorr推测解码技术，在DGX Spark上令牌生成速度提升至多2.3倍。Bolt 74B-A9B则通过二比特量化将内存占用压缩至24GB，并支持llama.cpp、Ollama等本地推理框架。
许可与获取方式
所有模型已在Hugging Face开放下载，采用OpenMDW 1.1许可证，允许商业使用和修改。这意味着企业和开发者可以自由集成这些模型到自己的产品中，无需担心授权限制。对于希望本地部署智能体的用户，Bolt系列提供了低内存占用的选择，但需注意E4B 4GB版尚未发布，需等待后续更新。
Q&A
英伟达新发布的Nemotron 3.5系列包含哪些模型？
包含三款模型：Nemotron 3.5 Super VL（120B参数视觉语言模型）、Nemotron 3.5 Bolt 74B-A9B 24GB和Nemotron 3.5 Bolt E4B 4GB。前两款已发布，E4B 4GB版稍后推出。
Nemotron 3.5 Super VL的主要特点和用途是什么？
Super VL是120B参数的视觉语言模型，面向企业智能体，支持图像和视频输入，结合推理与工具使用，能处理多模态智能体任务、指令跟随、多步业务工作流和视觉理解。
Nemotron 3.5 Bolt 74B-A9B 24GB如何实现24GB内存占用？
通过二比特量化技术，将74B参数模型的显存占用压缩至24GB。该模型采用混合专家架构，每次激活9B参数，并支持llama.cpp、Ollama、LM Studio和vLLM。
Nemotron 3.5 Super VL在基准测试中表现如何？
在英伟达评估中，Super VL在科学推理和终端任务上优于Qwen3.5-122B-A10B，但在SWE-bench Verified和文档理解上略低。Terminal-Bench得分66.7，Qwen3.5为48.7；SWE-bench Verified为71.1对71.9。
Nemotron 3.5 Bolt E4B 4GB的目标应用场景是什么？
面向GeForce RTX、Jetson和Spark硬件上的对话和物理智能体，包括设备助手和交互角色，需要多轮工具使用和应用状态感知。
这些新模型如何获取和使用？
模型已在Hugging Face上开放下载，采用OpenMDW 1.1许可证，允许商业使用和修改。
