英伟达Vera Rubin全面量产：单位功耗Token吞吐提升10倍，AI工厂换代

duckwolf

2026年7月，英伟达持续释放Vera Rubin平台的量产信号：Vera Rubin NVL72正在全球扩大部署，CoreWeave、谷歌云、微软Azure和甲骨文云等合作伙伴已经开始采用相关系统。CoreWeave基准测试显示，NVL72每兆瓦的Token产出量相比上一代Blackwell架构提升约10倍。这个数字的意义远大于“新芯片更快”，它直接击中了AI工厂最昂贵的三项成本：电力、制冷和机房空间。


一、AI算力竞争从峰值性能转向每瓦产出

传统芯片宣传习惯看峰值算力，但大型模型上线后，企业更关心的是单位时间能生成多少有效Token，以及完成这些Token需要多少电。假设一个数据中心每天运行1亿Token推理任务，若单位功耗吞吐提升10倍，理论上可以在相同电力预算下承载更大并发；也可以在保持业务规模不变时减少机柜、电力和散热投入。

当然，10倍不是所有业务都能直接拿到的结果。它通常依赖模型量化、批处理、内存带宽、网络拓扑和软件栈协同。真实收益还会被数据搬运、存储IO、请求长尾和模型并行效率打折。因此，采购时不能只看厂商的峰值，而要用自己的模型和真实流量做基准。


二、NVL72为什么被称为“AI工厂平台”

Vera Rubin的设计重点不是单卡，而是把72颗GPU、统一内存、NVLink互联、网络和液冷系统组合成一个可规模复制的机柜级单元。对云厂商来说，采购对象从“几千张加速卡”变成“可直接部署的AI工厂模块”。

这种变化会把竞争从芯片参数拉到系统工程：
• 互联带宽决定长上下文和专家混合模型的通信效率；
• 内存容量决定模型能否少做分片和数据搬运；
• 液冷设计决定机柜能否在高功率下持续运行；
• 编译器和调度软件决定理论性能能否变成可用吞吐。

因此，英伟达强调单线程性能、核心间通信带宽和内存访问延迟，而不是简单堆叠更多核心。这是从“硬件产品”走向“数据中心操作系统”的信号。


三、对国产算力和云服务商的启示

第一，国产替代不能只做单卡对标。面对机柜级平台，必须同步建设互联、内存、散热、编译器、存储和集群调度。第二，云厂商应把“每元钱产生多少Token”作为销售指标，而不是只提供裸算力。第三，应用公司要主动做异构适配，避免把模型服务完全绑定在单一CUDA生态上。

对于中小企业，最现实的选择不是立即购买整柜，而是先向云厂商申请一小段真实业务流量，比较三项数据：单位百万Token成本、P95延迟和故障恢复时间。如果模型调用存在大量短请求，低延迟Flash模型可能比旗舰集群更划算；如果是长上下文代码分析、视频理解或多智能体协同，互联与内存的收益才会充分释放。


四、AI工厂的四步评估法

一是确定业务基线，记录每天Token量、峰值并发、平均上下文长度和有效输出率。二是做至少72小时压测，不能只跑十分钟演示。三是把电费、制冷、机架租赁、网络和运维一起计入TCO。四是建立故障演练，测试单机柜、单交换机和单区域故障时的降级能力。

Vera Rubin的量产并不意味着所有企业都必须换代，但它会改变行业的成本参照系。未来AI基础设施的赢家，不一定是理论算力最高的厂商，而是能把电力、模型、网络和软件组织成稳定产出的“Token工厂”的厂商。


数据来源

英伟达关于Vera Rubin平台与NVL72部署进展的公开信息（2026.07）；华尔街见闻、陆家嘴财经早餐对Vera Rubin量产和CoreWeave基准测试的报道（2026.07.22）。