OpenAI Jalapeno推理芯片击败GB300+降本60%:每瓦1.9倍新算力王

duckwolf

8月26日Hot Chips大会披露,OpenAI与博通合作开发的首款自研推理芯片Jalapeño完成首轮公开实测:在GPT-OSS 120B、DeepSeek R1、Kimi K2.5 1T等模型上,每瓦AI工作量达对比系统的1.5至1.9倍,端到端延迟约为英伟达GB300的28%至59%,700W功耗下服务更大模型仍有余量;第二代已接近流片,第三代启动概念设计。这是OpenAI首次在自有硅片层面正面挑战英伟达,标志AI算力从通用GPU走向垂直推理ASIC的拐点正式确立。


三件事的三层逻辑

Jalapeno采用TSMC 3nm工艺,在interposer上直接集成HBM,彻底消除自回归生成阶段的内存瓶颈。生产集群数据显示,相对商用GPU服务器,Jalapeño实现每瓦吞吐量3.2倍提升、每百万Token服务成本下降60%,可直接服务于GPT-OSS、DeepSeek R1、Kimi K2.5三大主流模型。OpenAI芯片负责人Richard Ho强调英伟达仍是关键供应商,但700W功耗与1.5-1.9倍每瓦性能意味着同等算力下数据中心电费可压缩近一半,大幅缓解AI公司毛利率压力。


三条暗线

第一,推理算力成为新战场:训练侧英伟达仍占绝对主导,但推理侧单次调用成本直接影响C端产品定价,Jalapeno让OpenAI首次具备自下而上控制成本的能力。第二,垂直ASIC卷土重来:博通、Marvell、Alchip等定制芯片厂商迎来10年来最大订单潮,谷歌TPU、亚马逊Trainium、微软Maia已开辟先河,OpenAI与Anthropic紧随其后。第三,700W功耗意味着单机柜密度可达传统GPU的1.5倍,微软Azure、谷歌GCP、AWS已与OpenAI洽谈代工,Jalapeno或将在2027年成为首个超百万片出货的推理ASIC。


对企业的三点启示

第一,C端AI产品应优先评估推理ASIC带来的成本红利,2027年下半年API定价有望再降30%至50%,产品商业化窗口将显著拓宽。第二,自研芯片路径需要从第一性原理重构数据中心,冷却、网络、电力三件套同步升级,Jalapeño若放量将引发液冷与硅光新一轮军备竞赛。第三,模型层创业公司应拥抱多元推理后端,在英伟达GPU、AMD MI400、Jalapeño、TPU、Trainium之间构建可迁移运行时,避免被单一代工方锁定。