深度解读 · 约 5 分钟阅读
Nemotron 3.5分清多模态智能体与小内存本地部署
120B参数Super VL与24GB版Bolt同期发布，性能、内存和上线时间必须按具体型号判断。
- 原文发布
- 本站发布
- 核实时间
NVIDIA于10月15日发布Nemotron 3.5 Super VL和Bolt 74B-A9B 24GB。更小的Bolt E4B 4GB计划10月23日推出，截至10月20日仍是未来版本。这是同一模型家族的扩展，服务器和本地用途各有定位，不能据此声称120B参数的Super VL也能放进Bolt所标注的24GB内存。
听读资讯
朗读当前文章，或连续收听资讯。
正在准备听读…
设备语音
朗读由浏览器或设备处理，AISubHub 不向音频 API 发送文本。可用语音及锁屏播放能力因设备而异。
继续播放时可能重复一小段。
一分钟速览
- 技术说明称Super VL总参数为1200亿，每个token激活120亿；激活参数不是整套模型的内存需求。
- 视觉推理和推理服务数字都有条件。Dynamo示例使用16张B200 GPU，每用户每秒50个token，不是单张消费级显卡的成绩。
三个型号规模与状态不同
Super VL采用混合专家结构，总参数120B，每个token激活12B。这会减少单个token涉及的计算，却不会把完整检查点变成12B参数下载。同期发布的Bolt 74B-A9B 24GB面向本地智能体；Bolt E4B 4GB面向更小的对话和物理智能体，计划10月23日可用。它们加入原有Lightning和Ultra家族。比较能力及安排部署时，必须保留这些角色与时间差，不能将尚未发布的型号写成当前已交付。
视觉能力处理哪些实际材料
重点是智能体工作中遇到的OCR、表格、图表、网页、PDF、图像和视频。统一模型可保留上下文，减少在文字和视觉系统之间切换。NVIDIA报告CharXiv成绩为80.8%，允许Python代码解释工具后为84%。后一个数字增加了工具条件，不能当成同一无工具设置下更高的模型成绩。本站认为，应把文档质量、工具权限和答案复核一起作为评估单位，才能判断抽取信息是否足以支持决策。
定制不只是换一段提示词
发布包括权重、数据集、训练配方及强化学习环境。技术文介绍NeMo AutoModel中的监督微调与LoRA，以及NeMo RL和Gym强化学习。NVIDIA列举信贷文件分析、编程智能体等合作伙伴定制案例，但这不是每位客户都能获得相同提升的独立证明。对准备采用的团队，领域数据、评估样例及数据使用权限仍是单独前提；开放获取也不能代替阅读各组件实际适用的许可证。
效率数字依赖服务实现
NVIDIA把吞吐提升归于多层优化：NVFP4在Blackwell上使用4位权重和激活，非Blackwell执行则为4位权重、16位激活；量化感知蒸馏旨在降低精度时保留行为。多token预测先起草再验证，前缀缓存复用指令、工具定义和历史。所谓相对同级模型最高5倍吞吐，是服务条件下的结果，并不保证每个任务完成时间都缩短相同倍数。本站没有测试这些技术或它们在另一配置中的组合效果。
24GB内存说法属于Bolt
Bolt 74B-A9B采用原生2位量化，官方称可放入24GB内存，在RTX和DGX Spark上处理本地智能体工作。这是特定型号配置，既不是Super VL的内存说明，也不是完整机器采购规格。E4B虽标4GB，仍须保留稍后的发布日期。本站建议结合目标上下文长度、同时运行的其他应用和工具行为检查实际资源。本地推理也不自动让智能体的网页搜索或外部连接工具变成离线操作。
部署入口与Dynamo基准条件
Super VL提供Hugging Face、ModelScope、OpenRouter和NIM等入口；Bolt支持llama.cpp、Ollama、LM Studio、Unsloth和vLLM等路线。NIM提供经验证的配置，企业支持通过NVIDIA AI Enterprise提供。技术文的Dynamo示例在16张B200、每用户每秒50个token条件下，借助缓存感知路由和卸载，最多服务8倍用户，首token延迟降低85%。这些硬件及服务条件不可省略，更不能改写成每台笔记本都快8倍，或某种订阅已包含相应额度与价格。
有什么影响
团队获得了可自行部署和定制的文档智能体选择，以及另一条小内存本地路线。选型仍应结合真实工作流、工具权限和服务硬件，不能只看单个速度标题。
限制与可用性
本站没有运行模型或复现基准。资料不能证明所有商业许可权利、完整硬件需求、托管API价格，或各部署入口都具备相同质量。
来源与证据
原文发布: 2026年10月15日 · 核实时间: 2026年10月20日
补充阅读
AI 辅助采编，依据所列一手来源核实。厂商自报结论注明归属，收录不代表背书。