NVIDIA Nemotron 3 Ultra（2026）：550B智能体模型、基准测试与部署

NVIDIA于2026年6月4日发布了Nemotron 3 Ultra。这是一个550B参数的开放模型，55B活跃专家，为多步骤智能体而构建——规划、调用工具、生成子智能体，并在数百轮对话中保持上下文。本页面解释了什么变化了、基准测试数字的通俗含义，以及如何在不意外租用GPU集群的情况下试用它。

更广泛的2026年6月模型格局参见2026年AI模型对比。免费API路由参见OpenRouter免费模型（2026）。

最后更新：2026年6月5日。发布于aitoolsradar.org。

快速规格

Nemotron 3 Ultra存在的原因（一段话）

只回答一次的聊天机器人正在让位于运行数分钟或数小时的智能体。每一步都增加更多token：计划、工具JSON、stderr日志、检索文档和子智能体回复。NVIDIA的卖点不仅是”更聪明的回答”，而是更便宜的长任务：Ultra在工具密集的强化学习环境中进行后训练，使用MTP每步草拟多个token，并提供NVFP4使一个检查点在Hopper和Blackwell上运行，无需维护单独的权重文件。

它面向长时间智能体工作流，并在聊天模板中提供可配置的推理模式。

Nemotron 3系列：Ultra、Super、Nano和6月4日附加产品

Nemotron 3是一个系列，不是单个下载。

Nemotron 3 Super（120B）在同一系列中发布，更易于托管。将Ultra视为困难步骤的规划者，Super视为批量工具调用的主力，除非某个特定基准测试是你的唯一决策因素。

架构——不用术语墙

LatentMoE（混合专家，压缩版）

经典MoE模型将全宽向量路由到专家。LatentMoE在路由前将token投影到更小的潜在空间。NVIDIA声称在GPU网格上每字节移动的精度更好。你仍然获得550B总容量，但每token只有55B激活，这使得在少量Blackwell节点上推理变得可行。

Mamba-2 + 注意力混合

Mamba-2层高效处理长序列。注意力层放在需要精确回忆的地方（在百万token代码仓库中找到第17,482段的大海捞针式事实）。这种混合是NVIDIA在BF16模式下引用**RULER百万token达到94.7%**的原因：模型针对”找到第17,482段”这类任务进行了调优，而不仅仅是聊天润色。

多token预测（MTP）

MTP头在每次前向传播中预测多个未来token。训练使用共享权重设计；推理启用投机解码（vLLM nemotron_h_mtp，官方方案中使用五个草稿token）。通俗来说：生成长工具参数或代码块的智能体循环在启用MTP时每壁钟秒完成得更快。

NVFP4无处不在（安全的地方）

权重、激活和梯度在预训练期间在稳定的地方使用NVFP4。敏感层（嵌入、QKV、MTP）保持BF16或MXFP8。结果是一个NVFP4检查点，NVIDIA声称在Blackwell上以类似的交互性实现最高5倍吞吐量。这是厂商声明；务必对你自己的智能体框架进行基准测试。

思考模式

在聊天模板中设置enable_thinking=True。模型先输出一个推理过程，然后是面向用户的回答。智能体框架必须解析两个流（vLLM --reasoning-parser nemotron_v3）。对于不显示思维链的生产聊天UI，关闭思考以节省token。

基准测试（厂商表格，2026年6月）

我们没有重跑这些测试套件。数据来自build.nvidia.com模型卡和NVIDIA技术博客。用它们来了解优势，而非加冕单一赢家。

NVIDIA还发布了与GLM 5.1、Kimi K2.6和Qwen3.5在智能体生产力（PinchBench）和长上下文RULER上的竞争对比表。Ultra在多项智能体分数上领先或持平，同时宣传SWE-Bench Verified风格智能体任务更低的每完成任务成本。将跨厂商对比表视为发布营销，直到独立实验室复现。

谁应该使用Ultra vs Super vs封闭API

今天如何试用（无需集群）

1. NVIDIA build.nvidia.com（最快的UI）

登录，打开Nemotron 3 Ultra模型页面，在托管试玩场中运行提示。适用NVIDIA API试用服务条款。

2. OpenRouter（API密钥，适配现有智能体）

将任何OpenAI兼容客户端路由到OpenRouter。模型标识：nvidia/nemotron-3-ultra-550b-a55b。在促销期间添加:free（参见我们的OpenRouter免费模型指南）。

3. Hugging Face权重（自托管或微调）

主要生产工件：nvidia/NVIDIA-Nemotron-3-Ultra-550B-A55B-NVFP4。BF16基础模型和后训练数据集在NVIDIA的Nemotron v3集合中提供，用于可复现性。

4. 合作伙伴托管（首发列表）

NVIDIA的发布博客提到了Perplexity Pro、Together AI、Fireworks、Baseten、Modal、CoreWeave、Amazon SageMaker JumpStart、Microsoft Foundry等。选择与你的合规区域和现有合同匹配的托管商。

自托管快照（仅限有经验的团队）

如果你管理裸金属服务器，从NVIDIA的vLLM v0.22.0容器方案开始：

• 单节点： 4x B200，tensor parallel 4，启用expert parallel，FP8 KV缓存，MTP投机配置使用五个token。
• 上下文： 默认方案使用256K max-model-len。仅在你确实需要1M且有足够内存时设置VLLM_ALLOW_LONG_MAX_MODEL_LEN=1和1048576。
• 工具调用： 按NVIDIA文档启用auto tool choice和qwen3_coder解析器（与几个中国开源模型同系列）。
• 多节点： Ray head + workers，pipeline parallel 2，分布式执行后端ray。

SGLang和TensorRT-LLM教程在同日发布，带有并行标志。除非你已经运行NeMo集群，否则不要从这里开始。先使用OpenRouter或NIM。

训练和开放性（为什么企业关心）

NVIDIA将Nemotron定位为开放权重+开放数据+开放配方：

• 预训练： 约20T token，NVFP4配方，在Hugging Face上公开的语料库。
• SFT： 合成代码、数学、工具调用、长文档聚合数据集。
• RL： 跨NeMo Gym环境的异步GRPO（数学、代码、多轮工具）。
• MOPD： 来自10+领域教师的多教师在线策略蒸馏，教师对学生自身的rollout进行评分。

OpenMDW-1.1取代了旧的Nemotron许可文本，使法务团队对权重、代码和文档有统一的框架。如果你在私有数据上微调并重新分发适配器，这很重要。

NVIDIA强调的智能体框架

Ultra为框架多样性而训练，而非单一IDE：

• Hermes Agent、OpenClaw、OpenHands、CrewAI、LangChain Deep Agents、Pi、Cline、Factory、OpenCode等在2026年6月的文档中列出了Nemotron。
• NemoClaw加OpenShell为常驻智能体捆绑了更安全的运行时方案（发布周早期预览）。

常见的生产模式：Ultra做规划，更小的模型执行bash或SQL，Ultra在合并前进行验证。这与团队使用Claude Opus搭配Haiku的方式类似，但编排器使用的是开放权重。

成本和延迟：“5倍吞吐量”和”30%更低任务成本”意味着什么

NVIDIA在Artificial Analysis风格图表（Blackwell端点）上引用了5倍输出速度vs其他开放前沿模型。另外，他们声称SWE-Bench Verified风格智能体任务约30%更低的完成成本，因为Ultra每轮使用更少的token。你的实际效果取决于：

• 是否开启了思考模式。
• 你的工具schema有多冗长。
• vLLM中是否启用了MTP和FP8 KV缓存。
• 同一GPU上的批量大小和并发智能体数。

用你真实的Jira工单做A/B测试，而不是演示提示。

Nemotron 3 Ultra vs Nemotron 3 Super

如果你只需要快速分类或浅层工具调用，Super是经济默认。Ultra适用于智能体需要在五十个前序步骤中保持架构决策的场景。

局限性和坦诚的注意事项

• 硬件门槛： 不存在”在游戏GPU上运行Ultra”的现实路径。除非你运营Blackwell机架，否则规划云API。
• 免费层级有限制： OpenRouter :free模型可能排队或限速。不要仅在免费路由上对SLA敏感的生产流程做基准测试。
• 银行模拟弱点： NVIDIA自己表中的Tau-Bench银行分数很低（约22%）。不要在没有私有评估的情况下假设金融智能体就绪。
• 许可证仍然较新： OpenMDW比许多自定义许可证更清晰，但你的合规团队仍须批准重新分发。
• 基准测试营销： 发布周表格会挑选有利的测试框架。在你的技术栈上复现。

同日发布的兄弟产品：安全和语音

6月4日还发布了Nemotron 3.5 Content Safety（4B，23个类别，12种语言）和Nemotron 3.5 ASR（40+种语言，亚100ms流式）。Ultra不能替代它们。将Safety用作Ultra前面的护栏模型，ASR用于构建语音原生智能体。

结论

Nemotron 3 Ultra是NVIDIA的开放赌注：智能体编排需要一个你可以托管、微调和审计的前沿模型，具备百万上下文和NVFP4在Blackwell上的速度。它不是廉价的日常驾驭。将它与Nemotron 3 Super、OpenRouter免费路由或你现有的封闭API搭配用于日常工作。

先试用： build.nvidia.com试玩场或OpenRouter免费标识。自托管时机： 你已经运行4x B200且需要数据驻留。跳过时机： 你只需要IDE中的内联代码补全，没有智能体循环。

---

更新日志

• 2026-06-05： 首次发布。基准测试、API和OpenRouter访问，以及何时自托管vs使用Nemotron 3 Super。