NVIDIA Nemotron 3.5 Super VL

日本国家NVIDIA宣布推出拥有1200亿参数的开源模型「Nemotron 3.5 Super VL」,以及两款针对本地自主AI处理优化的边缘模型——「Nemotron 3.5 Bolt 74B-A9B 24GB」和「Nemotron 3.5 Bolt E4B 4GB」。

Super VL和Bolt 74B-A9B 24GB已于发布当天开始提供(Bolt 74B-A9B 24GB可通过Hugging Face获取),而Bolt E4B预计将于10月下旬推出。这些新模型将与Lightning和Ultra一起,成为Nemotron系列的重要成员。

Nemotron 3.5 Super VL

Super VL虽然参数数量仅为NVIDIA最大推理模型的约五分之一,但在执行指令、工具调用、多步骤业务流程以及视觉理解等多模态代理任务中,依然保持了同等级别的高精度。它是同类开源代理模型中速度最快的,性能比次优模型快5倍,能够更快速地完成持续数天甚至数周的复杂任务。

作为开源模型,Super VL允许用户利用自有数据进行后续训练,并部署在自家基础设施上,打造定制化AI解决方案。

此外,Nemotron 3.5 Super VL在视觉功能方面表现出色,支持光学字符识别(OCR),能够准确读取视觉文档中的表格、图表及结构化信息。它还能从网站提取文本,解析图表内容,并基于发现进行分析,适用于日常处理PDF及其他文档。

Nemotron 3.5 Bolt系列

Nemotron 3.5 Bolt 74B-A9B 24GB与Bolt E4B 4GB

Bolt 74B-A9B 24GB专为本地执行日常代理任务设计,兼顾多步骤推理、工具调用和网页浏览的速度与智能,适配日本国家NVIDIA RTX Spark和DGX Spark 64GB硬件。

该模型基于Super VL的混合专家架构,拥有740亿参数,运行时激活90亿参数,通过2位量化技术压缩至24GB内存,提升效率。

用户可利用该模型在本地完成代码编写、调试、PC组件调研及比较等多样化项目。

Bolt E4B 4GB则面向GeForce RTX、Jetson及RTX/DGX Spark平台,专为物理及交互式代理打造。它结合自然对话、多轮工具使用、指令执行及事实核查,支持快速本地语音和设备助手、互动角色及嵌入式界面开发。