从数据中心到桌面全面开放：NVIDIA扩展Nemotron家族，推出最高效的Super VL和Bolt模型
内容提要
英伟达发布Nemotron 3.5系列开源模型。旗舰Super VL为1200亿参数多模态模型，准确率媲美最大推理模型，吞吐量快5倍，支持企业定制后训练。同时推出边缘模型Bolt 74B-A9B（24GB）和Bolt E4B（4GB），可在本地RTX设备运行智能体任务。模型覆盖从数据中心到桌面的全场景部署，强调开放权重、数据隐私与定制能力。
延伸解读
开放权重与定制化：企业自主可控的关键
Nemotron 3.5 Super VL 采用开放权重、开放数据集和训练配方，企业可基于自有数据后训练，并在自有基础设施部署。这解决了封闭模型在数据隐私、安全合规和定制限制上的痛点。例如，保险和金融公司可定制代理扫描欺诈或审核信贷，数据保留在本地。开放性与可定制性相互强化，让组织在安全与数据驻留要求下灵活选择。
边缘部署：Bolt 模型如何平衡智能与资源
Bolt 74B-A9B 通过原生 2-bit 量化在 24GB 内存运行，适合 RTX/DGX Spark 等本地设备，可处理研究、写作、调试等任务，无需上云。Bolt E4B 仅 4GB，面向 GeForce RTX、Jetson 等，支持快速对话代理。两者在有限内存下分别优化智能与速度的平衡，让边缘设备也能运行代理工作负载，但需注意其智能水平与数据中心模型存在差距。
多模态视觉理解：代理处理文档与图表的实际能力
Super VL 的视觉语言能力针对代理实际场景：OCR、表格、图表和结构化信息。它能处理网页、PDF 和图像，提取文本、读取图表并返回见解，无需在系统间路由任务。这种文本与视觉的统一理解让上下文在文档、数据和决策间连贯传递，适合需要处理大量视觉文档的高频代理工作流。
性能与效率：5 倍吞吐量背后的权衡
Super VL 以约五分之一参数达到与最大推理模型相当的准确率，并在同类中实现最高 5 倍吞吐量。这使其适合高容量、长周期代理任务。但需注意，其优势主要体现在多模态代理任务，而非所有推理场景。企业若追求极致推理能力，可能仍需 Ultra 等模型。选择时应根据任务类型和延迟要求权衡。
Q&A
NVIDIA Nemotron 3.5 Super VL 是什么？它有哪些主要特点？
Nemotron 3.5 Super VL 是 NVIDIA 发布的开源 1200 亿参数多模态模型，专为常驻智能体设计。它提供领先的多模态智能体任务准确率，与 NVIDIA 最大推理模型相当，但参数量仅约五分之一；吞吐量比同类最佳模型快 5 倍；支持企业用自己的数据后训练，并在自有基础设施上部署。
Nemotron 3.5 Bolt 系列有哪些型号？各自适用什么场景？
Bolt 系列有两个边缘模型：Bolt 74B-A9B 24GB 和 Bolt E4B 4GB。Bolt 74B-A9B 24GB 采用原生 2-bit 量化，可在 24GB 内存中运行，适合在 NVIDIA RTX/DGX Spark 上本地执行日常智能体任务，平衡智能与速度；Bolt E4B 4GB 专为 GeForce RTX、Jetson 和 RTX/DGX Spark 上的物理和对话智能体设计，支持快速本地语音助手、交互角色和嵌入式界面。
Nemotron 3.5 Super VL 在视觉语言方面能处理哪些任务？
Super VL 的视觉语言能力针对智能体实际遇到的任务：光学字符识别、表格、图表和视觉文档中的结构化信息。它能处理网页、提取文本、读取图表并返回洞察，同样适用于 PDF 和其他文档。结合文本和视觉理解，智能体无需在独立系统间路由任务，上下文可从文档延续到数据和决策。
企业如何定制 Nemotron 3.5 Super VL？有哪些实际案例？
企业可以通过 NVIDIA NeMo、基于 Python 的管道和开源数据集对 Super VL 进行后训练和定制。实际案例包括：Scale AI 为 Skydance 的供应商信用金融智能体和 EY 的并购尽职调查智能体后训练模型；AfterQuery 为 Hebbia 定制信用协议分析；AI21 和 Alice 为网络安全攻击弹性后训练；Mercor 在 APEX-SWE 编码基准上后训练；ModelScope 通过 ms-swift 框架支持微调。其他定制组织包括 Ramp、Dream、Lila Sciences、R1 等。
Nemotron 3.5 Super VL 的开放性和隐私控制体现在哪些方面？
Super VL 提供开放权重、开放数据集和训练配方。组织可以在满足安全和数据驻留要求的地方运行模型，并选择可适配的模型而非受提供商限制的模型。例如，保险智能体可反复扫描索赔欺诈标记，金融服务智能体可根据自身贷款标准审查信用评分并标记活动。模型留在本地，数据保持私密。
Nemotron 3.5 Super VL 的可用性和部署平台有哪些？
Super VL 现已在 Hugging Face、Open Router、ModelScope 社区和 NVIDIA NIM 上提供。它可在 NVIDIA 全硬件栈上运行：DGX Spark、DGX Station、RTX PRO 和 RTX 系统用于桌面本地智能，NVIDIA Jetson 用于边缘，以及数据中心和云环境。Bolt 74B-A9B 24GB 现已在 Hugging Face 上提供，支持 llama.cpp、Ollama、LM Studio、Unsloth 和 vLLM，并可在 GeForce RTX PC、DGX Spark、DGX Station 和 RTX PRO 工作站上运行。
