|
|
8月11日,据财联社、华尔街见闻等多家媒体披露,英伟达正全力研发新一代开源AI模型系列Nemotron 4,最大版本的参数规模预计至少达到 1万亿,意图与全球顶尖开源模型正面竞争。同一周,英伟达发布了300亿参数、30亿激活参数的Nemotron 3.5 Lightning及开源模型路由库NeMo Switchyard,前者主打高效智能体执行,后者负责多模型智能调度。戴尔随即宣布将这两项技术纳入Deskside Agentic AI,推动智能体向企业本地部署延伸。
一、Nemotron 3.5 Lightning:30亿激活参数如何挑战闭源前沿
Nemotron 3.5 Lightning是英伟达此次发布的核心产品。其300亿总参数、30亿激活参数的稀疏MoE架构,目标是在单卡GPU上完成高效推理,笔记本或台式电脑单块GPU即可运行。这一参数配置在传统印象中属于"小模型"范畴,但通过MoE架构与英伟达自身的推理优化,Lightning在智能体任务上可以与500亿级稠密模型正面竞争。
配合Lightning同步发布的开源模型路由库 NeMo Switchyard 进一步放大了价值。Switchyard本质是"模型路由器",可以根据任务类型、上下文长度、性能要求在多个模型之间智能选择,把不同模型的强项拼接成完整的智能体工作流。这意味着企业无需为每类任务单独采购闭源API,可以在一个开源生态中完成全部任务。
二、Nemotron 4:万亿参数开源模型的战略意图
英伟达此时押注万亿参数开源模型,有几个深层动因。第一,降低对OpenAI等头部客户的依赖。英伟达GPU的最大客户是OpenAI、Anthropic、Meta等闭源厂商,这些厂商既是英伟达的最大收入来源,也是其GPU算力的最大消耗者。通过开源Nemotron 4,英伟达可以服务更多中型企业客户,扩大生态基础。第二,组建"Nemotron联盟"共建生态,英伟达已与Mistral、Cursor等达成战略合作,通过开放底层模型换取生态绑定。第三,推动自身硬件销售。万亿参数模型需要万卡集群才能高效训练,任何想要本地化部署Nemotron 4的企业都必须采购英伟达的GPU、DPU、网络设备。
英伟达还通过回租服务器将云服务算力承诺大幅增至 280亿美元,确保自有AI云服务有充足的算力承载。这一举措也意味着:英伟达不再是单纯的GPU供应商,而是直接成为AI云服务的提供商,与AWS、Azure、GCP正面竞争。
三、戴尔Deskside Agentic AI:企业本地智能体的事实标准
戴尔宣布将Nemotron 3.5 Lightning与NeMo Switchyard纳入 Deskside Agentic AI 产品线。这一举措的战略意义在于:戴尔的商用PC与工作站出货量在全球企业市场占比超过20%,通过戴尔预装,英伟达的开源模型可以迅速进入全球数十万企业的本地IT环境,这是任何闭源API厂商都难以企及的分发能力。
Deskside Agentic AI的核心定位是 "桌面级智能体工作站"。企业员工在日常办公中直接调用本地大模型完成文档处理、代码生成、数据分析、客户服务等任务,数据不离开企业内网,响应速度达到毫秒级,长期运营成本远低于云端API。这与Meta Muse Glimmer 30B端侧模型、阿里Qwen3.8-Max 4bit量化本地部署的方向高度一致。
四、对开发者的判断标准
第一,看Nemotron 3.5 Lightning的实际部署成本。300亿MoE模型的部署需要至少48GB显存,企业本地化部署需要专业级GPU或服务器,这与Llama 3 70B级别稠密模型的部署成本相当。建议中小团队优先评估云端API方案,大型企业可考虑本地化部署。第二,看NeMo Switchyard的多模型路由能力。如果Switchyard能在5-10个主流开源模型之间智能切换并保持任务级SLA,它将成为企业级智能体框架的关键组件。第三,看戴尔Deskside Agentic AI的定价模式。预装方案通常按硬件+软件订阅模式收费,长期总拥有成本(TCO)需要与现有云端方案对比。第四,看Nemotron 4最终发布时的许可协议。英伟达历史上倾向使用非商业许可(NC),企业商业化部署可能受到限制。第五,看NVIDIA AI Enterprise软件栈的兼容性与定价。 |
|
发表于 2026-8-12 07:24:49
