7 篇博文 含有标签「Broadcom」

2025 年 10 月 13 日，OpenAI 与 Broadcom 宣布共同开发并部署 10 吉瓦（GW）自研 AI 加速器，消息当日 Broadcom 股价涨超 10%。一年后的现在，这份协议进入真正的考验期：2026 下半年开始实际部署机架，2029 年底前完成全部 10GW。

一、协议要点回顾​

要素	内容
规模	10GW（约等于 800 万美国家庭用电，或 5 座胡佛大坝）
分工	OpenAI 主导芯片与系统设计，Broadcom 负责共同开发与部署
组网	Broadcom 以太网方案承担 Scale-up 与 Scale-out（非 InfiniBand）
时间线	2026 H2 开始部署 → 2029 年底完成
芯片定位	以推理为主的第一代专用加速器

二、推理专用：为什么第一颗芯片不做训练​

多家供应链报道指向同一个设计取向：OpenAI 第一代 ASIC 砍掉 FP64 流水线与通用图形逻辑，把晶圆面积全部留给推理负载——低秩注意力加速单元（面向 MLA 与低精度 KV Cache 解压）、放大片上 SRAM 以减少 HBM 往返、面向自回归解码的 INT4/FP8/FP4 量化矩阵单元。解码阶段的瓶颈在访存带宽而非算力密度，这一取舍与推理接棒训练的行业趋势互为印证。

工程团队由前谷歌 TPU 架构师 Richard Ho、Thomas Norrie 领衔，据报道已扩张至 40 余名 ASIC 设计人员；代工锁定台积电 N3P（后续 N2），并预留了 CoWoS-L 封装产能——先进封装而非前道制程，才是当前 AI 芯片产能的真瓶颈。

三、OpenAI 的三线算力版图​

自研芯片只是 OpenAI 算力组合的一根支柱：

• NVIDIA：计划投资至多 1000 亿美元，供应至少 10GW 数据中心系统
• AMD：6GW 芯片供应协议，含 OpenAI 认购 AMD 股权的期权
• Broadcom：10GW 自研加速器（本文主角）

三份多吉瓦级协议在数周内接连落地，OpenAI 同时成为英伟达最大客户、AMD 大客户和芯片设计方——这是对「单一供应商锁定」的对冲，也是对自身推理成本结构的长期下注。

四、对行业的三个信号​

1. 以太网 Scale-up 挑战专有互联：如果 OpenAI 机架全以太网组网并达到性能预期，将强化开放标准路线的议价能力
2. ASIC 从「降本工具」变「战略资产」：谷歌 TPU 已向 Anthropic 供应百万颗量级，OpenAI 再入场，自研芯片正式成为头部 AI 公司的标配
3. 资金问题仍未回答：OpenAI 未披露财务条款，多数分析师认为自研芯片短期内不改变英伟达的市场主导地位，但 2027-2028 年推理侧的份额争夺会真正开始

延伸阅读：谷歌 TPU 外部客户版图 · 微软 Maia 300 发布 · 自研芯片对比

截至 2026 年 10 月，OpenAI 的算力采购版图已经扩展到接近 26 吉瓦，其中自研芯片项目在 10 月迎来两个实质性节点：硬件平台选型曝光，融资安排浮出水面。这不再是简单的「买卡」故事，而是一家模型公司在重写自己的算力供应链。

一张吉瓦级采购清单​

OpenAI 在过去一年里先后与三家芯片供应商签下多吉瓦级承诺。2025 年 10 月宣布的博通合作是自研芯片的起点：双方共同开发 10 吉瓦定制 AI 加速器系统，博通负责硅实现与以太网组网，OpenAI 负责架构设计，部署窗口为 2026 年下半年启动、2029 年底完成。几乎同一时间，OpenAI 与 AMD 达成 6 吉瓦 Instinct GPU 协议，首批采用 MI450，并附带最高 1.6 亿股 AMD 股票的认股权证，按容量交付情况分批归属。英伟达方面承诺至少 10 吉瓦系统，并拟按每个吉瓦的实际部署进度逐步投资不超过 1000 亿美元，首个吉瓦计划于 2026 年下半年在 Vera Rubin 平台上线。

供应商	承诺规模	芯片/平台形态	关键条款
英伟达	至少 10 吉瓦	Vera Rubin 系统	拟投资不超过 1000 亿美元，按吉瓦进度释放
博通	10 吉瓦	OpenAI 自研定制加速器	2026 下半年部署，2029 年底完成
AMD	6 吉瓦	Instinct GPU，首批 MI450	含最高 1.6 亿股 AMD 股票认股权证

三份协议加起来接近 26 吉瓦。据公开报道，多家机构把这个体量换算成用电规模——单吉瓦 AI 数据中心的芯片采购成本就可能达到数百亿美元级别，26 吉瓦对应的硬件投入接近万亿美元量级。需要说明的是，其中相当一部分「已承诺容量」是分期交付的框架额度，而非一次性交付的现货。

Jalapeño 主机平台选型曝光​

10 月 4 日披露的一组细节，首次让人看清 OpenAI 自研推理芯片的机架级形态。据报道，这款代号 Jalapeño 的推理 ASIC 放弃了英伟达 Vera Rubin 加速器作为主机平台，改用 AMD EPYC Turin 处理器，每台主机搭载两颗 Turin 级 CPU 与 1.5TB 内存，经八根 PCIe 线缆连接到加速器托盘；相邻机架容纳 128 颗 Jalapeño 芯片，最多可通过 scale-up 网络互联 2048 颗加速器。功耗分配上，主机甲架约 31 千瓦，加速器机架约 130 千瓦，配对合计约 160 千瓦。

这套设计的逻辑是让 CPU 侧承担分词、请求处理、编排调度工作，避免昂贵加速器空转等待。Jalapeño 从设计到流片仅用九个月，博通负责硅实现与网络，Celestica 负责板卡与系统设计。OpenAI 硬件负责人将选择成熟 x86 平台称为务实之举——加速器本身没有 CUDA 那样的生态，软件栈验证容错空间极小，因此主机侧更倾向使用已有大量使用经验的成熟平台。值得注意的是，该项目内部代号为 Nexus，第一代与第二代芯片分别叫 Jalapeño 与 Serrano。

融资：从「买设备」到「买资产」​

10 月 8 日的消息把这条线索补完了。据《华尔街日报》与彭博社报道，博通近几周一直在为 OpenAI 的定制 AI 芯片安排超 500 亿美元融资，已与阿波罗全球管理、黑石集团等私募信贷机构展开早期洽谈，谈判尚处初期，规模可能变化；彭博社同期称早期磋商显示双方可能寻求筹集约 300 亿美元债务，尚未启动正式流程。

这并非孤立事件。博通此前已为 Anthropic 安排大规模债务融资，据报道正为 Anthropic 及其他公司筹集 600 亿美元新 AI 芯片融资，其中 A 类优先担保贷款银团分销函金额达 420 亿美元，黑石牵头 180 亿美元 B 类次级债务，并承诺从旗下基金出资 90 亿美元。甲骨文则与阿波罗、高盛洽谈专门融资，用于为一座 1 吉瓦数据中心采购芯片，结构可能是私人投资者设立表外实体购入芯片再租回给甲骨文，以填补硬件付款与云收入之间的时间缺口。

研判​

算力采购的竞争已经从芯片规格转向融资能力。当芯片厂商能把「交付硬件」和「安排资金」打包成一份方案，它锁定的就不只是订单，而是客户未来数年的路线图依赖。OpenAI 三线并行的策略本质是风险对冲，但代价是资本结构的复杂度同步上升——26 吉瓦的承诺对应的是尚未完全验证的收入能力。

真正的观察点在 2026 年下半年：Jalapeño 能否按期点亮送样、Vera Rubin 首个吉瓦能否如期上线、私募信贷对 AI 算力资产的风险偏好是否延续。这三件事的答案，会决定自研 ASIC 是真的降低成本，还是只是把成本挪到了资产负债表上。

英伟达的GPU是"通用答案"，而云巨头们心里都藏着一个念头：为自家工作负载量身定做一颗芯片，长期成本更低、能效更高。承接这个念头的，是两家设计服务巨头——博通与Marvell。它们不站聚光灯下，却决定着每一颗定制AI芯片的诞生。

双寡头格局：一份不对称的订单版图​

据多家行业机构测算，博通与Marvell合计占据定制AI ASIC设计服务市场六成以上份额，其中博通一家独占约55%至60%，Marvell约占15%至20%。第三方机构Counterpoint Research预计，到2027年博通仍将以约60%的份额领跑AI服务器计算ASIC设计合作伙伴市场。

两者的差距主要体现在收入体量上。据公开披露与行业估算，博通2025财年AI相关收入约200亿美元，同比增长65%，2026年预计迈向250亿美元；Marvell同期AI收入约39亿美元，目标超过50亿美元。博通的AI收入大约是Marvell的4到5倍。

维度	博通	Marvell
AI ASIC市场份额	约60%	约15%至20%
2025财年AI收入	约200亿美元	约39亿美元
核心客户	谷歌、Meta、OpenAI、字节	亚马逊、微软、谷歌
标志项目	谷歌TPU全系、OpenAI十吉瓦	Trainium、Maia 2026量产
收入目标	2026年约250亿美元	2028年70至80亿美元

博通：深度绑定式的碾压​

博通的霸权建立在与谷歌长达十年的深度绑定之上：从第一代TPU开始，博通全程参与设计与制造，双方合作已推进至3纳米工艺的第六代TPU。据公开报道，2023年谷歌在TPU相关合作上向博通支付约35亿美元，2024年翻倍至约70亿美元，第七代TPU的供应合同也已提前锁定。除谷歌外，Meta的MTIA、字节的自研芯片均出自博通之手；2025年博通更与OpenAI启动了10吉瓦级定制加速器项目，整套系统依托博通的以太网方案扩展集群。

博通的护城河不止于设计能力：业界最全的高速SerDes IP、HBM控制器IP与先进封装经验，构成定制芯片的"标准零件库"；"定制加速器加高速互连"的组合拳让客户难以拆分采购。这种模式不承担库存风险、不赌制程迭代，是典型的卖铲子生意。

Marvell：差异化补位的追赶者​

Marvell的策略是不与博通正面硬刚，走差异化路线。它给亚马逊量产Trainium训练芯片（据行业报道占AWS自研ASIC出货量的绝大部分），拿下微软Maia芯片2026年的量产订单，同时为谷歌代工Axion ARM CPU——与博通的TPU业务形成互补而非对撞。2026财年第一财季，Marvell数据中心收入14.41亿美元，同比增长76%，占总营收76%，几乎全部由AI定制芯片大规模出货驱动。

技术上，Marvell在数据中心互连与光电共封装领域积累深厚，其定制的112G SerDes与Die-to-Die互连技术在能效与互联带宽上形成差异化卖点，公司也据此定下2028年AI收入冲刺70至80亿美元的目标。

研判：双雄之外，第三势力已在敲门​

这场双雄之争并非终局。联发科已切入谷歌第八代TPU的I/O Die设计，预计2026年第四季度开始贡献营收，其管理层公开表示有信心在2026年实现超过10亿美元的数据中心ASIC营收——SerDes技术正是它敲开大门的钥匙。对博通而言，谷歌分散供应商的意愿是最大的长期变量；对Marvell而言，能否把亚马逊、微软之外的第四、第五个大客户装进管道，决定它能否真正缩小与博通的量级差距。ASIC战争的本质是信任战争：云厂商每多押一家设计伙伴，都是在为供应链的议价权与冗余度下注。

Hot Chips 2026 上，OpenAI 与博通合作的首颗物理芯片 Jalapeño 完整规格曝光：700W 纯推理 ASIC、216GB HBM4、13.4 PFLOPS MXFP4，从初始设计到流片只用了约 9 个月。

Jalapeño 是什么​

综合 Data Center Dynamics、Tom's Hardware、ServeTheHome 在 Hot Chips 2026 上的报道，Jalapeño 是 OpenAI 与博通合作的首颗物理芯片，定位非常纯粹：一颗纯推理 ASIC，功耗 700W，专门针对 OpenAI 大规模推理服务（如 ChatGPT 等）的实际瓶颈设计。

与通用 GPU 不同，Jalapeño 不追求覆盖训练、微调、推理的全场景，而是把全部资源押在一件事上：以最低成本、最高密度跑好 OpenAI 自己的推理负载。这是自研芯片路线中最激进的一种——不做通用产品，只为自家业务画像画芯片。

完整规格​

项目	规格
定位	纯推理 ASIC（OpenAI × 博通首颗物理芯片）
功耗	700W
内存	216GB HBM4
算力（MXFP4）	13.4 PFLOPS
算力（MXFP8）	3.4 PFLOPS
架构	NUMA 式架构，64 个内存与计算切片
流片速度	从初始设计到流片约 9 个月
工艺	博通 3nm/2nm 混合设计，台积电代工
首批部署	目标 2026 年底

架构上，Jalapeño 采用 NUMA 式设计，共 64 个内存与计算切片。这种把内存与计算绑定为切片、再横向扩展的思路，本质上是围绕 OpenAI 自己的模型结构和流量特征做定制——博通在定制 ASIC 上最擅长的，正是这种"按客户负载画芯片"的方法论。

集群规模：单 pod 最高 27 EFLOPS​

单颗芯片只是起点，Jalapeño 的部署规划更能说明 OpenAI 的推理盘子有多大：

• 128 颗芯片组成的部署规模约 1.7 EFLOPS FP4，合计 27.5TB HBM4；
• 单个 pod 最多容纳 2048 颗加速器，最高 27 EFLOPS MXFP4。

作为背景，OpenAI 与博通的定制算力协议总规模约为 10GW，Jalapeño 只是这盘棋的第一颗子。如果 2026 年底首批部署如期落地，OpenAI 的推理成本结构将出现一个全新的变量。

背景与资金面​

围绕这颗芯片的产业与资金背景同样值得梳理：

• OpenAI 与博通签有约 10GW 算力的定制协议，芯片采用博通 3nm/2nm 混合设计、台积电代工，目标 2026 年底首批部署；
• 博通正为 OpenAI 定制芯片筹资超 500 亿美元，其中早期磋商约 300 亿美元为债务融资，接续此前为 Anthropic 安排的债务融资；
• FT 报道 OpenAI 年化营收约 500 亿美元，低于此前约 700 亿美元的口径；
• 与此同时，Meta 也在与博通合作开发下一代 MTIA 芯片。

定制芯片是资金密集型游戏：芯片要钱，HBM 要钱，数据中心还要钱。博通为 OpenAI 安排的数百亿美元债务融资，说明这类项目的资金结构已经接近基础设施建设，而非传统的芯片采购。

分析：专用化的赌注​

**纯推理专用 vs GPU 通用性。**已有分析师对 Jalapeño 的路线提出质疑：纯推理 ASIC 缺乏灵活性，一旦模型结构或推理范式发生变化，芯片可能无法跟上。OpenAI 的赌注是：自家推理需求足够大、足够可预测，专用化带来的成本与密度收益足以覆盖灵活性损失。这是一个用业务确定性换取硬件效率的交易——赌对了，推理成本大幅下降；赌错了，芯片就是沉没成本。

**9 个月流片的工程方法论。**reticle 级定制 ASIC 通常需要数年才能流片，Jalapeño 从初始设计到流片约 9 个月，是异常速度。这背后是三重支撑：博通成熟的 IP 库与设计流程、台积电先进工艺的稳定保障，以及 OpenAI 作为单一客户时的高度确定性需求——需求越明确，设计迭代越少，周期越短。

**博通成为定制 ASIC 时代最大赢家。**OpenAI 的 Jalapeño、Meta 的下一代 MTIA、Google 的 TPU，再加上为 Anthropic 安排的债务融资——几乎所有超大规模玩家的定制芯片路线，最终都汇入博通的订单簿。GPU 时代的赢家是英伟达，定制 ASIC 时代的赢家，很可能是那个卖铲子的博通。

小结​

Jalapeño 的完整规格披露，让外界第一次看清 OpenAI 自研芯片的成色：700W、216GB HBM4、13.4 PFLOPS MXFP4，9 个月流片，单 pod 最高 27 EFLOPS MXFP4。它不追求通用，只追求把 OpenAI 自己的推理账单打下来。这颗芯片能否成功，取决于推理需求是否如 OpenAI 预期的那样持续且可预测；而无论成败，博通都已经稳稳站在了赢家的位置上。

据IEEE Spectrum 2026年9月14日报道，OpenAI的Jalapeño AI加速器正逐步揭开面纱。这不仅是一颗芯片的诞生，更是一场芯片设计方法论的革命——由LLM深度参与设计、不足百人团队、从架构概念到首次流片不足20个月。

Jalapeño的核心规格​

根据OpenAI官方口径，Jalapeño AI加速器的关键规格如下：

规格项	Jalapeño参数
峰值算力	最高13.4 petaflops（4-bit精度）
内存容量	232GB
内存带宽	15.4TB/s
设计定位	专为LLM推理设计
合作伙伴	博通（Broadcom）
研发周期	从首个架构概念到首次流片不足20个月
团队规模	平均不足100人

其中最引人注目的是4-bit精度下13.4 petaflops的峰值算力。这一数字定位清晰：Jalapeño并非追求通用计算的"全能选手"，而是聚焦于大语言模型推理这一特定场景，在低精度计算上做到极致。232GB内存与15.4TB/s带宽的组合，则为KV Cache密集型的长上下文推理提供了吞吐保障。

性能对标：较GB300最高降低3.6倍延迟​

OpenAI引用的基准测试显示，在端到端延迟方面，Jalapeño较NVIDIA GB300最高降低3.6倍。对于推理业务而言，延迟直接决定用户体验——聊天机器人的首字响应、Agent系统的多轮迭代速度，都取决于每一毫秒。

需要指出的是，这一数据来自OpenAI自己的引用口径，测试条件与模型负载尚未完全公开。但即便打上折扣，一颗自研ASIC在特定推理负载上跑赢NVIDIA旗舰级GB300平台，本身就说明定制芯片在"场景足够聚焦"时确实具备结构性优势。

与博通合作：多代规划与吉瓦级部署​

Jalapeño由OpenAI与博通合作设计，规划了多代产品路线，目标直指吉瓦（GW）级部署。据公开报道，该芯片据称搭配AMD EPYC Turin主机CPU，而非完全依赖NVIDIA系统——这意味着OpenAI正在构建一条绕开NVIDIA生态的完整推理基础设施。

博通作为全球定制ASIC（XPUs）设计服务的头部玩家，此前已深度参与多家云巨头的自研芯片项目。OpenAI选择博通，等于站在了成熟的多项目晶圆与SerDes/IP积累之上，这也是20个月流片速度的重要支撑。

自定义芯片的适用条件​

Jalapeño的故事之所以成立，背后有一组苛刻的前提条件，并非所有公司都能复制：

1. 海量且可预测的推理需求。ChatGPT的token消耗量巨大且增长曲线稳定，只有这种量级才能摊薄流片与迭代成本。
2. 稳定的模型架构。Transformer架构多年未发生根本变化，才让针对特定计算模式的ASIC有了"押注"的价值。
3. 全栈软件掌控。OpenAI同时拥有模型、推理框架和基础设施，软硬件协同优化可以贯穿到底。
4. 足够的部署量。吉瓦级部署规划意味着单位芯片成本可以压到极低。

四个条件缺一不可。缺了需求，流片成本摊不掉；缺了架构稳定，芯片投产即过时；缺了软件栈，性能优势发挥不出来。

定制ASIC不会取代GPU​

一个常见的误读是"自研芯片将终结GPU"。但行业现实是：定制ASIC与GPU长期共存、各司其职。

• 训练仍是GPU的主场。训练负载多变、需要频繁调试与实验，通用性至关重要。
• 多模态与快速演进的架构同样属于GPU。新算子、新注意力变体往往先在GPU上验证。
• 推理中负载高度稳定、模型固化的部分，才是ASIC的收割区。

换句话说，NVIDIA的GPU生态不会因为Jalapeño而瓦解，但推理市场的价值分配确实开始被重新切分。对NVIDIA而言，最大的挑战或许不是失去训练市场，而是越来越多头部客户把"最大的一块推理蛋糕"留给自己。

LLM设计芯片：方法论的革命​

比规格更值得关注的，是Jalapeño的设计方式。据IEEE Spectrum报道，OpenAI的LLM深度参与了芯片设计——从首个架构概念到首次流片不足20个月，团队平均不足100人。传统芯片设计动辄数百人团队、三到五年的开发周期，Jalapeño把这个数字压缩到了令人难以置信的程度。

LLM辅助设计带来的是研发效率的量级变化：架构探索空间的快速评估、RTL代码生成与验证、设计文档与工具链自动化。如果这套方法论被验证可复制，那么芯片设计的门槛将被实质性改写——未来不仅是"大厂造芯"，而是"AI造芯"成为常态。

小结​

Jalapeño是2026年定制ASIC浪潮中最具标志性的产品之一：13.4 PFLOPS 4-bit算力、232GB内存、15.4TB/s带宽的规格专为LLM推理而生，与博通的合作、多代规划与吉瓦级部署展现了OpenAI摆脱NVIDIA依赖的决心。而LLM参与设计、不足百人团队、20个月流片的研发模式，其影响或许远超这颗芯片本身。定制ASIC不会取代GPU，但它正在重新定义推理经济的成本结构——对整个AI算力产业而言，这是一场刚刚开始的游戏。

2026 年 8 月 Hot Chips 的周二下午 AI 专场，是本届最有历史意义的一场——不是因为某颗芯片多强，而是因为登台的几乎全是"超算厂商去 NVIDIA 化"的自研 ASIC：Google 第八代 TPU、OpenAI 首颗自研芯片、微软 Maia、Meta MTIA、Cerebras 晶圆级机架同台。当全球最大的 AI 算力买家开始把 GPU 当作"可选项之一"，AI 硬件的权力结构正在松动。

---

1. OpenAI Jalapeño：9 个月造出一颗芯片​

OpenAI 于 2026 年 6 月 24 日联合博通发布首款自研推理 ASIC Jalapeño，是"自研推理芯片俱乐部"的第五个成员。

维度	Jalapeño
合作方	博通（Broadcom）+ 台积电制造
定位	推理专用 ASIC
设计周期	端到端 9 个月（Greg Brockman 称借助 OpenAI 自有模型辅助设计）
成本目标	较通用 GPU 栈 token 成本降约 50%
商用时间	2026 年底首批部署，长期目标 10GW 自研芯片
合作规模	与博通最高 100 亿美元战略合作（2029 年前部署加速器与网络）

演讲标题"You Can Just Build Things … Chips"本身就是信号：最大的 AI 算力买家不再默认 GPU 是唯一路径。

---

2. Google TPU v8：十年来最大架构转向——训练/推理分芯​

Google 拥有最悠久的自研芯片历史（2016 至今），第八代 TPU 首次将产品线一分为二：

型号	代号	合作方	定位	关键规格
TPU 8t	Sunfish	Broadcom	训练	单 pod 9600 卡、121 FP4 ExaFLOPS、2PB 共享 HBM、ICI 带宽翻倍
TPU 8i	Zebrafish	MediaTek	推理	288GB HBM、384MB 片上 SRAM（3× 上代）、ICI 19.2 Tb/s

产能方面，摩根士丹利基于供应链访谈估算 2026 年 Google TPU 产量可能超 300 万颗（券商预测，非官方目标）。Google 也是唯一实现自研芯片大规模部署并对外销售算力的厂商（Gemini 跑在 TPU 上）。

---

3. Meta MTIA：从推荐系统到 GenAI 双使命​

Meta 的自研之路起点最清晰——MTIA 最初为推荐排序硬件而生，正被生成式 AI 拉向双使命。

• MTIA 300 已部署；400 / 450 / 500 计划在 2027 年前约每 6 个月推出一款；
• 基于 RISC-V，Meta 称最高 25× 算力增益；
• 节点沿行业节奏演进：100（7nm）→ 200（5nm）→ 300 系列（3nm + CoWoS）；
• 与 博通合作，据称另一颗代号 Iris 的芯片已于 2026 年 7 月通过测试；
• Meta 计划 2026 年 9 月启动其中一款的量产，以将其整体算力翻倍。

---

4. 微软 Maia 200/300：部署最领先​

微软 Maia 200 于 2026 年 1 月 26 日发布，是四家中部署最先进的：

维度	Maia 200
制程	台积电 3nm，1400 亿+ 晶体管
算力	10+ PFLOPS FP4 / 5 PFLOPS FP8
显存	216GB HBM3E，7 TB/s
功耗	750W
部署	已在得梅因（Des Moines）数据中心运行，服务 OpenAI GPT-5.2 与 Microsoft 365 Copilot

微软称其在特定基准上约 3× 亚马逊 Trainium 性能。短期策略是"自研 Maia + 外购英伟达"双路线并行——自研芯片从设计到量产需要时间，英伟达成熟生态短期内无法替代。

---

5. 亚马逊 Trainium 3 与 Anthropic 自建团队​

• 亚马逊：Trainium 系列已商用，累计部署 140 万颗（官方披露），是数十亿美元业务；优势在 AWS 客户基数——企业可在英伟达 GPU 与自研芯片间选择。Trainium 3 延续这一路线。
• Anthropic：2026 年 8 月宣布组建自建芯片团队，尚无 tape-out 或量产时间表，初期定位为补充（而非取代）与 NVIDIA/AMD/AWS/Google Cloud 的现有合作，目标是为 Claude 架构量身打造、摆脱对单一 GPU 的依赖。

---

6. NVIDIA 的回应：不是更快的 GPU，而是全栈​

容易把叙事简化成"四家造芯片、英伟达防守 GPU"。但 NVIDIA 在 Hot Chips 拿了 6 个 slot：RISC-V 教程、Vera CPU、Rubin GPU、BlueField-4 DPU、Spectrum-X 多平面网络、以及 LPU 加速器。

一颗 hyperscaler ASIC 只替换了这五个支柱中的一个。如果 CPU、NIC、交换 fabric 与软件都来自同一家供应商，把加速器换掉省下的，比加速器那一行账单暗示的要少得多。Rubin 的打法是一个横跨七颗芯片、五种机柜的全栈 AI 工厂平台——竞争回应是"全栈位置"，而非"更快的一颗芯"。

---

7. 趋势判断：推理去 GPU 化，训练仍 GPU 主导​

• 推理侧：CUDA 护城河明显变浅。推理在端点层面可并行、可替换，自研 ASIC 通过剪掉通用性税（只实现 LLM 实际执行的操作）换取更低 cost/token。Groq LPU、Cerebras、各家 TPU/ASIC 都在同一指标上竞争。
• 训练侧：Foundation model 仍用 GPU 训练，短期内无人认真挑战。NVIDIA 在训练的三道护城河（最快硅 + NVLink + CUDA）依旧牢固。
• 结论：自研芯片不是"替代英伟达"，而是在推理这一最大、增长最快的战场上，给买家一个可信的谈判外部选项——这本身就足以重塑 AI 基础设施的经济学。

相关链接​

• 推理加速卡市场 2026
• Hot Chips 2026 全景总结
• Google TPU 8t 规格页
• Google TPU 8i 规格页

参考资料​

• Hot Chips 2026: 4 Hyperscalers Put Custom AI Silicon on One Afternoon - Sean Kim
• Custom AI inference silicon: why OpenAI built Jalapeño - nexi.fund
• Anthropic Builds Custom AI Chips for Claude - Studio Global AI
• 所有大厂都在做同一件事：自己造芯片，少买英伟达的 - 今日头条

---

本文基于 2026 年 8 月 Hot Chips 现场报道、企业公告与行业分析整理。部分产能与性能为券商估算或厂商公布口径，实际以量产产品为准。

2026 年 6 月 24 日，OpenAI 与博通（Broadcom）联合发布首款自研 AI 推理芯片 Jalapeño。这款专为大型语言模型推理设计的 ASIC，从设计到流片仅用 9 个月，推理成本降低约 50%，标志着 OpenAI 从纯模型公司转型为全栈 AI 基础设施提供商。

---

一、核心结论（先看这里）​

维度	Jalapeño	当前 GPU 方案	优势
推理成本	-50%	基准	✅ 成本减半
每瓦性能	显著优于	当前最先进加速器	✅ 能效领先
设计周期	9 个月	~18 个月	✅ 速度快 2x
定位	推理 ASIC	训练+推理 GPU	专用优化
供货	仅内部	市场采购	⚠️ 不对外销售

一句话总结：Jalapeño 是 OpenAI 全栈 AI 战略的关键一步，用自研芯片将推理成本降低 50%，同时开启"AI 辅助设计 AI 芯片"的新范式。

---

二、Jalapeño 是什么？​

2.1 基本信息​

项目	内容
名称	Jalapeño（哈拉贝诺辣椒）
类型	专用集成电路（ASIC）
定位	大型语言模型推理任务
发布时间	2026-06-24
流片时间	2025-09（推测，9 个月极速流片）
部署时间	2026 年底（千兆瓦级数据中心）
合作方	博通（Broadcom）、台积电（TSMC）、Celestica
制程	TSMC 3nm
架构	Systolic Array（脉动阵列）
HBM	8 堆栈（推测 HBM3E 或 HBM4）

2.2 为什么叫"Jalapeño"？​

Jalapeño 是一种墨西哥辣椒，以"中等辣度、强烈风味"著称。OpenAI 以此命名，暗示这款芯片：

• ✅ 辣度适中：不是最激进的架构（相比 Cerebras WSE），但足够有效
• ✅ 风味强烈：在推理场景下有强烈的存在感（成本降低 50%）
• ✅ 开胃前菜：这只是"多代路线图的第一步"（博通 CEO 陈福阳）

---

三、技术深度解析​

3.1 9 个月极速流片：AI 辅助设计芯片的新范式​

通常情况下，从零开始设计一块 ASIC 芯片需要 1.5 到 2 年。而 Jalapeño 从初始设计到制造流片仅用了 9 个月。

关键原因：深度软硬件协同开发

技术手段	说明
AI 辅助架构探索	OpenAI 用自家前沿模型（GPT-5.3-Codex-Spark）探索芯片架构设计空间
AI 功耗仿真	用 AI 模型进行功耗仿真与优化
强化学习优化	用 RL 优化芯片布局布线
博通硅实现能力	博通提供业界顶尖的 ASIC 实现能力（网络芯片、交换芯片经验）

OpenAI 总裁 Greg Brockman 表示：

"我们利用服务于用户的前沿模型，来优化运行未来模型的基础设施。"

3.2 专为推理优化的架构​

与通用 GPU 不同，Jalapeño 是围绕 OpenAI 对 LLM 推理工作负载的深度理解从零构建的 ASIC：

架构特性	说明
降低数据移动	架构核心在于减少数据搬运（推理任务的主要瓶颈）
平衡计算-内存-网络	资源分配针对推理优化，使实际利用率更接近理论峰值
结合高吞吐与低延迟	目标是将当前领先加速器的吞吐能力与最快专用推理系统的低延迟结合起来
支持未来模型	不仅支持现有模型（GPT-5、GPT-5.3），也适配未来新一代模型的推理需求

3.3 全栈平台：不只是芯片​

Jalapeño 是一个多代计算平台，而不仅仅是一颗芯片：

组件	供应商	说明
加速器芯片	OpenAI 设计，台积电制造	TSMC 3nm，8 堆栈 HBM
网络交换芯片	博通 Tomahawk	高速互联（与 NVIDIA NVLink 竞争）
电路板、机架、系统	Celestica	整机架解决方案
软件栈	OpenAI	深度适配 GPT、Codex、Agent 产品

部署目标：千兆瓦（Gigawatt）级数据中心

博通 CEO 陈福阳表示：

"Jalapeño 将于今年开始与微软和其他合作伙伴一起部署在千兆瓦级数据中心。"

---

四、性能与成本分析​

4.1 推理成本降低 50%​

虽然 OpenAI 官方新闻稿中针对 Jalapeño 带来的成本节约表述相当保守，仅透露其"每瓦性能大幅优于当前最先进水平"，未给出具体百分比。

但据彭博社报道，博通 CEO 陈福阳透露：

早期内部测试显示，相较于当前主流 AI GPU，Jalapeño 可实现约 50% 的推理成本节省。

对于 OpenAI 的意义：

项目	当前（GPU 方案）	Jalapeño 方案	节省
每天 API 调用	数亿次	数亿次	—
推理成本占比	~60-70% 运营成本	~30-35%	-50%
年算力支出	数十亿美元	数亿美元	节省数十亿美元

4.2 每瓦性能显著优于当前最先进水平​

OpenAI 公告指出：

"Jalapeño 工程样品已以目标频率和功耗成功运行 GPT-5.3-Codex-Spark 等复杂强化学习任务，早期测试显示每瓦性能显著优于当前最先进的 AI 加速器。"

对比对象：NVIDIA Blackwell（当前最先进的 AI 加速器）

指标	Jalapeño	NVIDIA Blackwell	说明
每瓦性能	显著优于	基准	OpenAI 官方表述
推理延迟	媲美最快专用推理系统	基准	目标
吞吐量	媲美当前领先加速器	基准	目标
TDP	未公开（推测 400-700W）	700-1000W	Jalapeño 可能更低

---

五、对 AI 芯片市场的影响​

5.1 "去英伟达化"加速​

Jalapeño 的发布是科技巨头集体挑战英伟达市场主导地位的又一注脚：

厂商	自研芯片	类型	状态	与 OpenAI 的关系
Google	TPU v6e / Ironwood	训练+推理	✅ 已商用	Google Cloud 供应 OpenAI
Amazon	Trainium 3	训练	✅ 已发布	AWS 供应 OpenAI
Microsoft	Maia 100	训练+推理	✅ 已发布	OpenAI 独家合作伙伴
Meta	MTIA	训练+推理	✅ 已发布	—
Apple	Neural Engine	端侧推理	✅ 已商用	—
OpenAI	Jalapeño	推理	🚧 2026 年底部署	自用 + 可能出售给第三方

5.2 OpenAI 并非要完全"抛弃"英伟达​

Brockman 坦言：

"我们根本无法足够快地获得算力。"

目前，OpenAI 同时在向英伟达、AWS、AMD 和 Cerebras 等多方采购芯片，Jalapeño 是对其爆炸性算力需求的结构性补充，而非替代。

5.3 可能出售给第三方​

博通 CEO 陈福阳特别强调：

"这只是一个'多代路线图的起点'，OpenAI 与博通的目标是共同建设千兆瓦（Gigawatt）级算力集群。"

这意味着，OpenAI 有可能将其硬件出售给第三方，前提是它能从博通和台积电获得足够的供货。

---

六、Jalapeño vs 其他自研芯片对比​

指标	Jalapeño（OpenAI）	TPU v6e（Google）	Trainium 3（Amazon）	Maia 100（Microsoft）
发布时间	2026-06-24	2024	2025 Q4	2023
类型	推理 ASIC	训练+推理 TPU	训练 ASIC	训练+推理
制程	TSMC 3nm	TSMC 4nm	TSMC 5nm（推测）	TSMC 5nm（推测）
是否对外销售	❌ 仅内部（可能未来出售）	✅ GCP	✅ AWS	❌ 仅内部
设计周期	9 个月	~18 个月	~18 个月	~18 个月
AI 辅助设计	✅ 首款	❌ 否	❌ 否	❌ 否
成本优势	-50% 推理成本	优化	优化	优化

关键差异：

• ✅ Jalapeño 是首款由 AI 辅助设计的 AI 芯片
• ✅ Jalapeño 设计周期仅 9 个月（行业平均 18 个月）
• ⚠️ Jalapeño 不对外销售（至少目前如此）

---

七、未来路线图​

7.1 多代芯片平台​

Jalapeño 只是一个"多代路线图的起点"：

时间	事件
2026 年底	Jalapeño 初始部署（千兆瓦级数据中心）
2027 年	Jalapeño v2（推测，架构优化）
2027-2028 年	Jalapeño 训练版本（推测，挑战 TPU/Trainium）
2028 年及以后	千兆瓦级算力集群全面建成

7.2 OpenAI 全栈 AI 基础设施战略​

层次	OpenAI 自研	外包/采购
模型	✅ GPT-5、GPT-5.3、Codex	—
芯片	✅ Jalapeño（推理）	NVIDIA GPU、AWS Trainium、AMD GPU
系统	✅ 与 Celestica 合作	微软 Azure 数据中心
网络	✅ 博通 Tomahawk	微软 Azure 网络
云平台	❌ 无	微软 Azure（独家合作伙伴）

---

八、行业反响与专家观点​

8.1 支持观点​

专家	观点
博通 CEO 陈福阳	"Jalapeño 只是一个多代路线图的起点，目标是共同建设千兆瓦级算力集群。"
OpenAI 总裁 Greg Brockman	"我们利用服务于用户的前沿模型，来优化运行未来模型的基础设施。"
业内人士	"Jalapeño 的发布是科技巨头集体挑战英伟达市场主导地位的又一注脚。"

8.2 质疑观点​

质疑点	说明
不对外销售	目前仅内部使用，第三方无法采购，对英伟达市场份额影响有限
软件生态	OpenAI 需要自建软件栈，与 CUDA 生态竞争难度大
供货能力	台积电产能有限，能否满足 OpenAI + 博通 + 其他客户的需求？
性能数据不透明	OpenAI 未公布具体规格（算力、显存、带宽、TDP），难以客观评估

---

九、对开发者的意义​

9.1 如果 OpenAI 未来出售 Jalapeño 给开发者...​

场景	当前（NVIDIA GPU）	未来（Jalapeño）
推理成本	基准	-50%
推理延迟	基准	可能更低
软件栈	CUDA + TensorRT	OpenAI API（可能开源软件栈）
采购难度	高（出口管制、供不应求）	低（OpenAI 直接供应）

9.2 即使不出售，也值得关注​

• ✅ 推理成本降低 50% 会倒逼英伟达、AMD、英特尔降低 GPU 价格
• ✅ AI 辅助设计芯片的新范式会被行业快速复制
• ✅ 9 个月流片周期会成为行业新基准

---

十、总结​

维度	评价
技术创新	⭐⭐⭐⭐⭐ 首款 AI 辅助设计的 AI 芯片，9 个月流片
成本优势	⭐⭐⭐⭐⭐ 推理成本降低 50%，年节省数十亿美元
战略意义	⭐⭐⭐⭐⭐ OpenAI 从纯模型公司转型为全栈 AI 基础设施提供商
市场影响	⭐⭐⭐⭐ "去英伟达化"加速，科技巨头自研芯片阵营壮大
开放性	⭐⭐ 目前仅内部使用，未来可能出售给第三方

最终建议：

• 🇨🇳 中国市场：继续关注华为昇腾、寒武纪 MLU、摩尔线程 MTT（Jalapeño 不对中国出售）
• 🌍 国际市场：关注 Jalapeño 是否未来对外销售，以及其对英伟达市场份额的影响
• 💡 开发者：关注 OpenAI API 降价可能性（推理成本降低 50% 可能部分让利给开发者）

---

参考资料​

• OpenAI 官方公告（待发布技术白皮书）
• 博通 CEO 陈福阳访谈
• 彭博社：Jalapeño 推理成本降低 50%
• SemiWiki：Jalapeño 技术细节
• Tom's Hardware：Jalapeño 架构分析
• 国际电子商情：Jalapeño 9 个月流片

---

声明：本文部分规格为推测值，以 OpenAI 官方技术白皮书为准。OpenAI 将在未来数月内发布详细性能技术白皮书。

最后更新：2026-06-26