智客 ZICQ
EN 登录 / 注册
智客前沿 大模型 #NVIDIA #Nemotron #多模态模型 #边缘计算 #AI模型

NVIDIA发布Nemotron 3.5系列模型:涵盖数据中心到桌面级应用

Mr.Xu 的头像

文 / Mr.Xu 智客前沿编译 · 审校

发布时间:

中文阅读 (Chinese) English Version

摘要:NVIDIA正式推出Nemotron 3.5系列模型,包括1200亿参数的Super VL模型和两款边缘计算优化模型——Bolt 74B-A9B 24GB和Bolt E4B 4GB。Super VL模型在多模态智能体任务中表现出色,兼具高精度与高效率;Bolt系列则针对本地化智能体工作负载进行优化,提供智能与速度的平衡。Nemotron 3.5系列支持跨企业服务器到边缘设备的广泛部署,并允许用户根据自身需求进行微调和定制。


Nemotron 3.5 Super VL:多模态智能体的性能突破

Nemotron 3.5 Super VL是NVIDIA与Nemotron联盟合作开发的开源模型,拥有1200亿参数,在多模态智能体任务中实现了精度和速度的显著提升。其核心优势包括:

  • 高精度与高效率:在多模态任务(如指令跟随、工具使用、多步骤业务流程和视觉理解)中,Super VL的精度可与NVIDIA最大的推理模型相媲美,但参数量仅为后者的五分之一。
  • 任务完成速度:作为同级别最快的开源智能体模型,Super VL在处理大规模任务时速度是次优模型的5倍,能够显著提升企业智能体的工作效率。
  • 开放性与可定制性:用户可以基于自有数据进行微调,并在自有基础设施上部署,确保数据隐私与安全。

Super VL在NVIDIA的人工智能分析指数排行榜上表现优异,在吞吐量方面领先于同级别其他模型。此外,它支持对复杂文档(如网页和PDF)的多模态理解,能够直接从视觉和文本信息中提取洞察并做出决策。

Nemotron 3.5 Bolt:边缘智能的优化方案

Bolt系列模型专为边缘计算设计,包括:

  • Bolt 74B-A9B 24GB:针对本地智能体工作负载优化,采用2位量化技术,在24GB内存下运行,适用于日常智能体任务,如网络研究、写作和代码调试。
  • Bolt E4B 4GB:针对快速对话智能体优化,结合自然语言对话与多轮智能体能力,适用于本地语音助手、交互式角色和嵌入式接口。

Bolt 74B-A9B 24GB在PinchBench和BrowseComp基准测试中均表现出色,是其类别中的最佳开源模型。

部署与定制

Nemotron 3.5系列模型支持NVIDIA NeMo、Python管道和开放数据集的定制。NVIDIA NIM将模型打包为生产级微服务,提供性能优化和经过验证的配置,并每两周更新一次以修复安全漏洞和提升性能。

硬件支持

Nemotron 3.5 Super VL可在NVIDIA的全硬件栈上运行,包括DGX Spark、DGX Station、RTX PRO工作站、GeForce RTX PC和NVIDIA Jetson边缘设备。Bolt 74B-A9B 24GB支持多种硬件平台,包括即将推出的RTX Spark笔记本电脑。

结论

Nemotron 3.5系列模型的发布标志着NVIDIA在AI模型领域的持续创新,为从数据中心到边缘设备的广泛应用提供了高效、灵活的解决方案。其开放性和可定制性使其成为企业构建智能体的理想选择。


消息来源:NVIDIA AI News (2026-10-15)

—— 完 ——

主题标签: #NVIDIA #Nemotron #多模态模型 #边缘计算 #AI模型

编辑部与事实核查说明:本篇专刊由智客前沿资讯管线根据官方技术公告、学术论文及开源工程文档整理编译,经算法实体核验与人工编辑审校后发布。若发现技术事实纰漏,欢迎依据勘误方针或一键向编辑部发送勘误反馈。

社区整体评论区

正在加载实时智能评论与划词标注…