跳到主要内容

5 篇博文 含有标签「OpenAI」

OpenAI AI chips and infrastructure

查看所有标签

AI 算力周报（9.1-9.5）：DeepSeek 订 16 万颗昇腾 950DT、英伟达 129 亿美元收购 Hugging Face、Rubin Ultra 显存减配

· 阅读需 9 分钟
AI Compute Cards Wiki Editorial
Industry Research Team

本周（2026 年 9 月 1 日–5 日）AI 算力行业的题眼，是两条相反方向的成本重构：海外，英伟达以史上最大并购吞下开发者生态入口，同时给旗舰减配显存——"内存太贵"倒逼硬件从单卡堆料走向系统级互联；国内，DeepSeek 16 万颗昇腾订单把"国产替代"从口号变成头部实验室的资产负债表决策，字节近 300 亿美元融资为算力扩张装上杠杆。

1. DeepSeek 拟购 16 万颗昇腾 950DT：国产算力的"标志性订单"​

彭博社 9 月 4 日报道，DeepSeek 计划在内蒙古乌兰察布新建的约 1GW 数据中心部署至少 16 万颗华为昇腾 950DT，主要用于推理而非训练。按每颗约 11.1 万元的市场价估算，订单总额约 178 亿元人民币（约 25.6 亿美元）——这是迄今已知规模最大的昇腾集群，是半年前深圳首个万卡级集群的 16 倍。

三个关键读数：

  • 主动选择，而非被迫替代：DeepSeek 是公认最会"榨干"算力的实验室。创始人梁文锋 7 月曾直言：华为超节点能完成 GB300 的任务、延迟没有明显差别，但约需 4 颗昇腾才抵 1 颗英伟达、技术上落后约两年。选择昇腾跑推理，是在综合成本、供应链安全与本土化后的理性决策——推理对软件生态依赖较浅，正是国产芯片的突破口；
  • 瓶颈在供给端：受高端内存（HBM）短缺制约，昇腾 950DT 今年产量仅数十万颗（2026 年全部昇腾 die 计划约 160 万颗），DeepSeek 希望加购更多但产能所限，整单交付或需一年以上——国产 HBM 与先进封装成为整条链的胜负手；
  • 过渡性押注：DeepSeek 同时在与中芯国际合作开发自研推理芯片，并于 6 月完成约 500 亿元融资、继续洽谈数十亿美元基建融资。国产算力的终局是多元自主，而非单一依赖。

单颗 950DT：144GB HBM、4.0TB/s 带宽、2.0TB/s 互联，原生支持 FP8/FP4/HiF8，详见昇腾 950DT 规格页。

2. 英伟达 129.3 亿美元收购 Hugging Face：买下"铲子的交易所"​

当地时间 9 月 3 日，英伟达宣布以 129.3 亿美元收购全球最大开源 AI 平台 Hugging Face，超过 2020 年 69 亿美元收购 Mellanox，成为其史上最大并购。交易含约 119 亿美元股权款与最高约 10 亿美元员工留任计划，预计 2027 年上半年完成，待监管批准。

Hugging Face 托管超 300 万个模型、50 万个数据集，服务超 1800 万名开发者。黄仁勋承诺平台继续开放中立运营：不强制绑定英伟达资源、开源属性完整保留。

解读：算力霸主的护城河从"芯片 + 网络 + 软件栈"一路修到了"模型分发 + 开发者生态"——卖铲人开始收购铲子的交易所。平台的"中立性"承诺能否兑现，将成为全球监管与竞争性云厂商持续盯防的焦点；对国内产业而言，模型托管、权重分发这类"轻资产 AI 基础设施"与芯片一样，正在成为大国科技博弈的卡点。

3. Rubin Ultra 显存减配：内存占 TCO 40% 后的算术题​

SemiAnalysis 最新报告（科创板日报 9 月 3 日转引）显示，英伟达已将旗舰 Rubin Ultra 的 HBM 配置从 HBM4E 12-Hi（384GB 档）下调至 HBM4 8-Hi（192GB），三星正配合开发 8 层产品。

  • 动因：HBM/DRAM 涨价后，内存已占整机 TCO 约 40%；减配后 HBM 成本降超 50%，即便计入 2026 年 HBM 涨价预期，内存占总资本开支比例也将从 40% 压至 28%；
  • 钱去了哪：转向 Scale-up 纵向扩展网络——以 NVL576 NPO 方案测算，光模块取代机架间互连后，Scale-up 网络占机架总支出比例从 4% 升至 12%；
  • 连锁反应：TrendForce 显示英伟达自 2026 Q3 起并行评估 HBM4E 8-Hi / 12-Hi / HBM4 8-Hi 多套方案，部分云厂商也在考虑下调下一代自研 ASIC 的 HBM 容量。

连定价权最强的英伟达都给旗舰"减配求量"，等于官宣：当前 AI 硬件最紧的约束是内存（美光高管称新增内存供应 2028 年前难有实质放量），单卡堆料的军备竞赛告一段落，硬件价值重心正迁移到光互联、CPO、高速交换与 PTFE 背板。华泰测算 2027 年存储供需缺口将从约 -7% 收窄至 -3%——上行周期未逆转，但从"普涨"走向"结构性紧缺"。

详见本站已同步更新的 Rubin Ultra 规格页与HBM4 量产竞速分析。

4. 推理 ASIC 军备提速：谷歌"一年两款"，Jalapeño 规格落地​

  • 谷歌 TPU 迭代周期从两年一代压缩至"每年两款"（华创证券 9 月 4 日研报）：第八代已拆分为训练（8t）与推理（8i）双架构，8i 把内存/算力配比拉到 8t 的 1.65 倍，专为推理放量设计；
  • OpenAI Jalapeño 规格披露：6 堆栈 HBM4 共 216GB、带宽 15.4TB/s、700W，围绕投机解码设计；OpenAI 称在 DeepSeek R1 负载下 tokens/kW 达 GB300 的 1.7 倍；RTL 冻结到流片 9 个月，首批硅片后约 10 周承载 ChatGPT 流量。详见规格页（本站已更新）；
  • workload-specific 时代开场：训练、推理、推荐各自长出专用芯片，上游 HBM/封装/光互联的供应节奏必须跟上"半年一代"。

5. 国内动态：字节 296 亿美元加杠杆，摩尔线程 Token 超节点投产​

  • 字节跳动获约 296 亿美元融资安排（彭博 9 月 3 日），较最初约 200 亿美元目标大幅上调，用于数据中心与 AI 基建；另据产业报道正洽谈在内蒙古新增 5-6GW 算力产能——中国 AI 公司迄今最大规模基建融资之一，算力正被当作可融资、可证券化的重资产经营；
  • 摩尔线程 × 趋境科技 "Token 超节点"投产（光明网 9 月 4 日）：以 MTT S500 承担 Prefill 与 KV Cache 生成、高带宽 GPU 专注 Decode 的 PD 异构方案，实测平均生成速度超 50 TPS、KV Cache 命中率超 90%、稳定性 99.9%，已承接头部模型厂商官方业务流量——超节点竞争维度从"单卡参数"转向"单位 Token 生产成本"；
  • OpenAI 发布 GPT-6 Astra（9 月 4 日）：超 10 万颗 GPU 在 Stargate 集群完成训练，推理放量与超大规模集群仍是全球算力叙事主线；
  • SemiAnalysis 基准：AMD MI355X 新提交在 AgentX 基准低交互区间tokens/$ TCO 击败 B300——vLLM + LMCache 软件栈的贡献首次被独立机构量化认可。

6. 市场：中美算力资产一涨一调​

美东 9 月 4 日，美国 8 月非农仅增 8.9 万人（预期 16 万），10 年期美债收益率回落至 3.78%，成长股走强：科技板块 XLK 周涨 4.2%，英伟达周涨 8.7% 收于 230.36 美元。A股 9 月 4 日反向回调：AI 算力芯片板块 -1.99%、服务器 -2.51%、超节点 -2.86%，浪潮信息跌停、寒武纪 -2.54%——基本面无恶化（博通、戴尔、中际旭创订单与财报持续验证景气），更多是交易层面获利兑现。

下周起三连催化密集：CIOE 光博会（9/9-11）→ 华为全联接大会（9/17-19）→ 云栖大会（9/22-24）。国产超节点从"发布会 PPT"到"批量交付"的成色，将迎来集中检验。

本周一句话​

内存太贵改变了所有人的算法：英伟达给旗舰减配显存、把钱投给互联；DeepSeek 用 16 万颗昇腾买推理确定性；谷歌把 TPU 迭代压到半年一代。2026 年 Q4 起，"每兆瓦/每美元 token 数"将取代"单卡 PFLOPS"，成为算力采购的第一指标。

相关链接​

参考资料​

本文基于彭博社、科创板日报、SemiAnalysis、TrendForce、华创证券研报及光明网等公开报道整理。订单金额与市场数据为媒体/机构预估口径，实际以相关公司正式披露为准。

Hot Chips 2026 全景总结：Rubin、MI455X、Crescent Island 同台，AI 算力交付进入"系统级"时代

· 阅读需 8 分钟
AI Compute Cards Wiki Editorial
Industry Research Team

2026年8月23日至25日，第38届 Hot Chips（HC38）在斯坦福纪念礼堂举行。作为全球高性能芯片架构的风向标，本届大会恰好撞上 AI 算力军备竞赛最焦灼的时刻——官方议程共 48 个条目，其中 AI 加速器 7 个、存储教程 6 个、CPU 6 个、GPU 与网络各 4 个。如果把各家演讲摆在一起，一个共识浮出水面：AI 算力的竞争单位，已经从"单颗芯片"变成了"整机柜 / 整个系统"。

1. 概览：三天议程，几乎就是 2027 年 AI 机柜市场的预演​

周一（8/24）下午的 GPU 专场是全场焦点，四家演讲几乎是 2027 年 AI 机架市场的对撞：

  • NVIDIA Rubin GPU（"Driving the Era of Agentic AI"）：首个 chiplet 架构 GPU，288GB HBM4、FP4 约 50 PFLOPS，搭配 88 核 Arm 架构 Vera CPU 组成 NVL72 / NVL144 机柜，2026 下半年量产。
  • AMD Instinct MI400 连讲两场（架构 + 系统架构）：把"机架级"故事讲透。
  • Intel Crescent Island：专为 Agentic AI 推理设计的 350W 风冷卡。

周二（8/25）下午的 AI 专场，则几乎是"超算厂商去 NVIDIA 化"的阅兵式：Google 第八代 TPU、OpenAI 首颗自研芯片、微软 Maia 200、Meta MTIA、Cerebras 晶圆级机架同台。

每一个登台厂商，都在开场两页 PPT 内用到了 "Agentic AI"（智能体 AI）这个词——这不是巧合，而是 2026 年 AI 负载设计目标的集体转向。

2. NVIDIA Rubin：一个机柜，就是一台超级计算机​

英伟达在 Hot Chips 上主讲的不是单颗 GPU，而是 Vera Rubin NVL72 整机柜——72 颗 Rubin GPU + 36 颗 Vera CPU，18 个计算托盘 + 9 个 NVLink 交换托盘，约 130 万颗组件、近 1300 颗芯片，整柜重约 4000 磅（约 1.8 吨）。

单颗 Rubin GPU 的规格同样惊人：

指标Rubin GPU对比 Blackwell
晶体管3360 亿（TSMC 3nm 双 die）2080 亿（+61.5%）
显存288GB HBM4—
带宽22 TB/sBlackwell 的 2.8 倍
NVFP4 推理50 PFLOPSGB200 的 5 倍
训练算力35 PFLOPS3.5 倍

最颠覆性的设计在计算托盘：无电缆、无软管、无风扇，全部通过 PCB 背板互联。英伟达称组装时间从近 2 小时压缩到 5 分钟（快 20 倍），同时提升可维护性。

英伟达这次卖的不是 FLOPS，而是 tokens per megawatt（每兆瓦 token 数）。 其引用 SemiAnalysis 基于 DeepSeek-v4-PRO（140K+ 上下文、AgentX 负载）的基准称：Vera Rubin NVL72 在交互强度上升时，较 GB300 NVL72 提供 10× 至最高 30× 的 tokens/MW。单柜提供 3.6 EFLOPS 推理算力，整柜功耗 190–230kW；远期产能目标为 每天 1000 个 NVL72 机柜。

3. AMD MI455X + Helios：显存反超与开放互联​

AMD 的答案是与英伟达正面硬刚的 MI455X + Helios 机架。MI455X 采用 CDNA 5 架构，8 个 N2 制程加速器 die + N3P 制程互联 die，256 个工作组处理器、192MB 全局 L2。

指标MI455X对比 Rubin
显存432GB HBM4（12 层堆叠）比 Rubin 288GB 高 50%
带宽23.3 TB/s略胜一筹
MXFP4 算力40.26 PFLOPS—
系统（Helios 72 卡）FP4 推理 2.9 ExaFLOPS—
报价约 525 万美元/柜—

系统层面，AMD 押注 UALoE（以太网上的超加速器互联） 开放标准：每颗 GPU 提供 3.6 TB/s 双向互联带宽，交换托盘内两颗 512 端口 200G UALoE 交换芯片合计 10.8 TB/s——对标 NVLink 的同时把互联协议开放给整个产业。

量产节奏：AMD 计划 2026 下半年交付工程样品与小批量系统，2027 年 Q2 大规模放量。此前市场曾传出 Helios 因散热问题延期，AMD 官方未予确认。

4. Intel Crescent Island：风冷大显存的"性价比异类"​

英特尔给出一条完全不同的路：Crescent Island——一颗 350W、风冷、标准 PCIe 槽位的推理 GPU，专为 Agentic AI 设计，核心指标是 tokens per watt。

指标Crescent Island说明
架构Xe3P，32 个 Xe 核心，32MB 统一 L2Hot Chips 披露
内存Intel 自牌卡 160GB / ODM 最高 480GB LPDDR5X比 Rubin 288GB HBM4 还多
形态350W 风冷 PCIe直插标准机架，免液冷改造
RASECC、动态页离线、硬封装修复、PCIe 高级错误上报回应"静默数据损坏"

英特尔的逻辑很清晰：推理场景对显存容量的需求远大于带宽，用低成本 LPDDR5X 堆容量、用风冷省掉液冷基础设施，就能把单位 token 成本打下来。配合 Diamond Rapids 至强（256 性能核、1.28GB 缓存、128 条 PCIe Gen6），英特尔试图用"CPU + 推理 GPU + 开放软件栈"从边缘到数据中心全场景围堵。

5. 自研 ASIC 大集结：Google、OpenAI、微软、Meta 同台​

周二下午的 AI 专场，是本届最有历史意义的一场——"超算厂商去 NVIDIA 化"的阅兵：

芯片厂商 / 合作定位关键规格 / 进度
TPU 8t（Sunfish）Google × Broadcom训练单 pod 9600 卡、121 FP4 ExaFLOPS、2PB 共享 HBM
TPU 8i（Zebrafish）Google × MediaTek推理288GB HBM、384MB 片上 SRAM（3× 上代）、ICI 19.2 Tb/s
JalapeñoOpenAI × Broadcom推理9 个月端到端设计，目标 token 成本降 ~50%，2026 底商用
Maia 200微软（TSMC 3nm）推理1400 亿+ 晶体管、10+ PFLOPS FP4、216GB HBM3E，已在得梅因数据中心服务 GPT-5.2
MTIA 300–500Meta（RISC-V）× Broadcom训推双使命最高 25× 算力增益，2027 前每 6 个月一款

Google 首次将 TPU 拆分为训练（8t）与推理（8i）两款专用架构，是其十年来最大的架构转向。Norm Jouppi 亲自登台主讲 TPU v8。

6. 存储与网络两条暗线：HBM4 元年 + AI 工厂操作系统​

除 GPU/ASIC 外，两场暗线同样关键：

  • 存储：三星 HBM Base Die（逻辑工艺做基础裸片）与 SK 海力士先进封装同台，HBM4 时代"基础裸片代工化"产业变局开启；HBF（高带宽闪存）、LPDDR5X-PIM、3D DRAM、CXL 计算存储集中展示"存算一体"从论文走向产品。
  • 网络：NVIDIA BlueField-4（DPU）与 Spectrum-X Multiplane 架构（Gilad Shainer 主讲）——网络正成为 gigascale AI 的决定性架构，规模从数十万卡向百万卡迈进；博通 Thor Ultra 以太网 NIC 持续进逼；Mojo Vision 展示芯片级光 I/O。

7. 三条路线，一个共识​

同一场大会上，三家给出了三种截然不同的 AI 算力交付哲学：

  1. 英伟达：全栈封闭整合——GPU、CPU、DPU、交换芯片全部自研，用极致软硬件协同把系统性能推到极致，代价是客户被深度绑定。
  2. AMD：开放标准追赶——用更大 HBM4 容量 + UALoE 开放互联打"性价比 + 开放"牌，配合 Meta、OpenAI 的 12GW 级订单撕开推理缺口。
  3. 英特尔：风冷性价比——放弃液冷、放弃 HBM，用 LPDDR5X 大显存 + 标准 PCIe 切入，赌"大多数推理不需要 200kW 机柜"。

但三家的共同结论是：竞争的单位不再是芯片，而是协同设计的系统（rack / system）。对采购方而言，2027 年的算力规划，要比对的不是"单卡 PFLOPS"，而是"每兆瓦 token 数、时延、可用性与全周期成本"。

相关链接​

参考资料​

本文基于 Hot Chips 2026（8月23-25日）官方演讲与 ServeTheHome、SemiAnalysis、TechPowerUp 等现场报道整理。性能数据均为厂商公布口径，实际表现以量产产品为准。

云巨头自研芯片浪潮 2026：OpenAI Jalapeño、Maia 200、MTIA、TPU v8 集体"去英伟达化"

· 阅读需 6 分钟
AI Compute Cards Wiki Editorial
Industry Research Team

2026 年 8 月 Hot Chips 的周二下午 AI 专场，是本届最有历史意义的一场——不是因为某颗芯片多强，而是因为登台的几乎全是"超算厂商去 NVIDIA 化"的自研 ASIC：Google 第八代 TPU、OpenAI 首颗自研芯片、微软 Maia、Meta MTIA、Cerebras 晶圆级机架同台。当全球最大的 AI 算力买家开始把 GPU 当作"可选项之一"，AI 硬件的权力结构正在松动。

1. OpenAI Jalapeño：9 个月造出一颗芯片​

OpenAI 于 2026 年 6 月 24 日联合博通发布首款自研推理 ASIC Jalapeño，是"自研推理芯片俱乐部"的第五个成员。

维度Jalapeño
合作方博通（Broadcom）+ 台积电制造
定位推理专用 ASIC
设计周期端到端 9 个月（Greg Brockman 称借助 OpenAI 自有模型辅助设计）
成本目标较通用 GPU 栈 token 成本降约 50%
商用时间2026 年底首批部署，长期目标 10GW 自研芯片
合作规模与博通最高 100 亿美元战略合作（2029 年前部署加速器与网络）

演讲标题"You Can Just Build Things … Chips"本身就是信号：最大的 AI 算力买家不再默认 GPU 是唯一路径。

2. Google TPU v8：十年来最大架构转向——训练/推理分芯​

Google 拥有最悠久的自研芯片历史（2016 至今），第八代 TPU 首次将产品线一分为二：

型号代号合作方定位关键规格
TPU 8tSunfishBroadcom训练单 pod 9600 卡、121 FP4 ExaFLOPS、2PB 共享 HBM、ICI 带宽翻倍
TPU 8iZebrafishMediaTek推理288GB HBM、384MB 片上 SRAM（3× 上代）、ICI 19.2 Tb/s

产能方面，摩根士丹利基于供应链访谈估算 2026 年 Google TPU 产量可能超 300 万颗（券商预测，非官方目标）。Google 也是唯一实现自研芯片大规模部署并对外销售算力的厂商（Gemini 跑在 TPU 上）。

3. Meta MTIA：从推荐系统到 GenAI 双使命​

Meta 的自研之路起点最清晰——MTIA 最初为推荐排序硬件而生，正被生成式 AI 拉向双使命。

  • MTIA 300 已部署；400 / 450 / 500 计划在 2027 年前约每 6 个月推出一款；
  • 基于 RISC-V，Meta 称最高 25× 算力增益；
  • 节点沿行业节奏演进：100（7nm）→ 200（5nm）→ 300 系列（3nm + CoWoS）；
  • 与 博通合作，据称另一颗代号 Iris 的芯片已于 2026 年 7 月通过测试；
  • Meta 计划 2026 年 9 月启动其中一款的量产，以将其整体算力翻倍。

4. 微软 Maia 200/300：部署最领先​

微软 Maia 200 于 2026 年 1 月 26 日发布，是四家中部署最先进的：

维度Maia 200
制程台积电 3nm，1400 亿+ 晶体管
算力10+ PFLOPS FP4 / 5 PFLOPS FP8
显存216GB HBM3E，7 TB/s
功耗750W
部署已在得梅因（Des Moines）数据中心运行，服务 OpenAI GPT-5.2 与 Microsoft 365 Copilot

微软称其在特定基准上约 3× 亚马逊 Trainium 性能。短期策略是"自研 Maia + 外购英伟达"双路线并行——自研芯片从设计到量产需要时间，英伟达成熟生态短期内无法替代。

5. 亚马逊 Trainium 3 与 Anthropic 自建团队​

  • 亚马逊：Trainium 系列已商用，累计部署 140 万颗（官方披露），是数十亿美元业务；优势在 AWS 客户基数——企业可在英伟达 GPU 与自研芯片间选择。Trainium 3 延续这一路线。
  • Anthropic：2026 年 8 月宣布组建自建芯片团队，尚无 tape-out 或量产时间表，初期定位为补充（而非取代）与 NVIDIA/AMD/AWS/Google Cloud 的现有合作，目标是为 Claude 架构量身打造、摆脱对单一 GPU 的依赖。

6. NVIDIA 的回应：不是更快的 GPU，而是全栈​

容易把叙事简化成"四家造芯片、英伟达防守 GPU"。但 NVIDIA 在 Hot Chips 拿了 6 个 slot：RISC-V 教程、Vera CPU、Rubin GPU、BlueField-4 DPU、Spectrum-X 多平面网络、以及 LPU 加速器。

一颗 hyperscaler ASIC 只替换了这五个支柱中的一个。如果 CPU、NIC、交换 fabric 与软件都来自同一家供应商，把加速器换掉省下的，比加速器那一行账单暗示的要少得多。Rubin 的打法是一个横跨七颗芯片、五种机柜的全栈 AI 工厂平台——竞争回应是"全栈位置"，而非"更快的一颗芯"。

7. 趋势判断：推理去 GPU 化，训练仍 GPU 主导​

  • 推理侧：CUDA 护城河明显变浅。推理在端点层面可并行、可替换，自研 ASIC 通过剪掉通用性税（只实现 LLM 实际执行的操作）换取更低 cost/token。Groq LPU、Cerebras、各家 TPU/ASIC 都在同一指标上竞争。
  • 训练侧：Foundation model 仍用 GPU 训练，短期内无人认真挑战。NVIDIA 在训练的三道护城河（最快硅 + NVLink + CUDA）依旧牢固。
  • 结论：自研芯片不是"替代英伟达"，而是在推理这一最大、增长最快的战场上，给买家一个可信的谈判外部选项——这本身就足以重塑 AI 基础设施的经济学。

相关链接​

参考资料​

本文基于 2026 年 8 月 Hot Chips 现场报道、企业公告与行业分析整理。部分产能与性能为券商估算或厂商公布口径，实际以量产产品为准。

2026年6月AI芯片重大事件汇总：昇腾910C训练万亿模型、OpenAI自研芯片、RTX Spark发布

· 阅读需 6 分钟
AI Compute Cards Wiki Editorial
Industry Research Team

2026年6月，AI芯片领域迎来多个里程碑事件，标志着"国产替代"和"去英伟达化"两大趋势加速。

1. 华为昇腾910C完成1.6万亿参数DeepSeek V4 Pro训练（2026-06-05）​

事件概述​

2026年6月5日，深圳河套学院联合哈尔滨工业大学（深圳）、深圳市大数据研究院及华为等团队，依托昇腾910C国产AI算力集群，成功完成 1.6万亿参数DeepSeek V4 Pro大模型全参数后训练。

技术意义​

指标数值
模型参数1.6万亿
训练芯片昇腾910C集群
训练类型全参数后训练（Full Parameter Post-Training）
意义国产AI芯片首次完成万亿参数级大模型训练

产业影响​

  1. 打破技术封锁：证明国产AI芯片具备训练万亿参数大模型的能力
  2. "告别英伟达"加速：DeepSeek全面换装华为昇腾，减少了对H100的依赖
  3. 国产替代拐点：从"推理替代"迈向"训练替代"

相关链接​

2. OpenAI发布首款自研AI推理芯片Jalapeño（2026-06-24）​

事件概述​

2026年6月24日，OpenAI与博通（Broadcom）联合发布首款自研AI推理芯片 Jalapeño，设计周期仅9个月（行业平均18个月），采用TSMC 3nm工艺。

关键技术指标​

指标Jalapeño对比（Blackwell）
制程TSMC 3nmTSMC 4nm
架构Systolic Array（脉动阵列）Blackwell GPU
设计周期9个月~18个月
推理成本-50%基准
AI辅助设计✅ 首款❌ 否
部署时间2026年底已出货

战略意义​

  1. 首款AI辅助设计的AI芯片：OpenAI用GPT-5.3-Codex-Spark等模型辅助架构探索
  2. "去英伟达化"加速：科技巨头（谷歌、亚马逊、微软、Meta、OpenAI）集体自研芯片
  3. 推理成本革命：对于每天处理数亿次API调用的OpenAI，成本降低50%意义非凡

相关链接​

3. NVIDIA在Computex 2026发布RTX Spark AI PC超级芯片（2026-06-01）​

事件概述​

2026年6月1日，NVIDIA CEO黄仁勋在Computex 2026 / GTC Taipei发布 RTX Spark AI PC超级芯片，与联发科（MediaTek）合作，采用Arm CPU + Blackwell GPU统一内存架构。

关键技术指标​

指标RTX Spark
CPU最多20核Arm（联发科合作）
GPU6,144 CUDA核心（Blackwell）
统一内存128GB LPDDR5X（CPU+GPU共享）
内存带宽300 GB/s
AI算力~1 PFLOPS（推测）
模型容量可运行1,200亿参数模型
上下文最长100万tokens
TDP~100W（推测）
上市2026年秋季

产业影响​

  1. NVIDIA进军PC芯片市场：挑战英特尔在个人电脑领域的主导地位
  2. AI PC新标准：本地运行120B参数模型，100万token上下文
  3. Windows转变为AI Agent平台：与微软OpenShell框架深度合作

相关链接​

4. 工信部发布《2026年人工智能芯片产业发展白皮书》（2026-06-09）​

事件概述​

2026年6月9日，中国工业和信息化部发布《2026年人工智能芯片产业发展白皮书》，预测国内AI芯片市场规模将在2026年突破2000亿元人民币。

关键预测​

指标2026年预测
市场规模突破2000亿元人民币
国产芯片份额>50%（2025年为41%）
边缘推理芯片显著进展
出货量增长翻倍以上（相比2025年）

产业意义​

  1. 国产AI芯片资本化加速：寒武纪、燧原、摩尔线程等加速IPO
  2. 边缘推理成破局关键：相比训练芯片，推理芯片更易实现国产替代
  3. 政策红利持续：国产替代从"市场行为"升级为"国家战略"

5. 字节跳动洽谈采购天数智芯5万颗推理芯片（2026-06-17）​

事件概述​

2026年6月17日，路透社报道称，字节跳动正与上海AI芯片企业天数智芯洽谈采购至少5万颗AI芯片，主要用于推理任务。

交易细节​

项目内容
采购方字节跳动
供应商天数智芯
芯片型号智铠系列（推理GPU）
采购数量至少5万颗
用途推理工作负载
训练芯片天垓系列

产业意义​

  1. 国产GPU头部玩家"加人"：天数智芯首次进入头部互联网公司供应链
  2. 字节跳动2026年资本开支上调超2000亿元：主要用于AI算力和数据中心
  3. "国产替代"从政府和国企扩展到民营科技巨头

总结：2026年6月AI芯片产业三大趋势​

趋势1："国产替代"从推理迈向训练​

  • 昇腾910C完成1.6万亿参数模型训练 → 证明国产芯片具备训练能力
  • DeepSeek全面换装昇腾 → 头部AI公司率先"告别英伟达"
  • 字节跳动采购天数智芯 → 民营科技巨头跟进

趋势2："去英伟达化"从口号变为行动​

  • OpenAI Jalapeño → 首款自研芯片，推理成本-50%
  • 谷歌TPU、亚马逊Trainium、微软Maia → 持续迭代
  • Meta MTIA、苹果M5 Ultra → 加大投入

趋势3：AI PC和边缘推理成为新战场​

  • NVIDIA RTX Spark → AI PC新标准，2026年秋季上市
  • 边缘推理芯片国产化加速 → 工信部白皮书重点提及
  • "万亿参数模型本地运行" → 消费者市场新卖点

展望未来（2026 H2）​

  1. 昇腾950DT全面放量（2026 Q4）→ 华为最新一代训练芯片
  2. NVIDIA Rubin R200出货（2026 H2）→ 下一代旗舰
  3. AMD MI400 Helios机架（2026 H2）→ 对标NVIDIA GB200
  4. OpenAI Jalapeño部署（2026年底）→ 千兆瓦级数据中心
  5. 国产AI芯片出货量翻倍以上 → 中信证券预测

参考资料​

本文持续更新，欢迎提供最新动态。

OpenAI 自研 AI 芯片 Jalapeño 深度解析：9 个月流片，推理成本降低 50%

· 阅读需 10 分钟
Charles Qing
AI Hardware Analyst

2026 年 6 月 24 日，OpenAI 与博通（Broadcom）联合发布首款自研 AI 推理芯片 Jalapeño。这款专为大型语言模型推理设计的 ASIC，从设计到流片仅用 9 个月，推理成本降低约 50%，标志着 OpenAI 从纯模型公司转型为全栈 AI 基础设施提供商。

一、核心结论（先看这里）​

维度Jalapeño当前 GPU 方案优势
推理成本-50%基准✅ 成本减半
每瓦性能显著优于当前最先进加速器✅ 能效领先
设计周期9 个月~18 个月✅ 速度快 2x
定位推理 ASIC训练+推理 GPU专用优化
供货仅内部市场采购⚠️ 不对外销售

一句话总结：Jalapeño 是 OpenAI 全栈 AI 战略的关键一步，用自研芯片将推理成本降低 50%，同时开启"AI 辅助设计 AI 芯片"的新范式。

二、Jalapeño 是什么？​

2.1 基本信息​

项目内容
名称Jalapeño（哈拉贝诺辣椒）
类型专用集成电路（ASIC）
定位大型语言模型推理任务
发布时间2026-06-24
流片时间2025-09（推测，9 个月极速流片）
部署时间2026 年底（千兆瓦级数据中心）
合作方博通（Broadcom）、台积电（TSMC）、Celestica
制程TSMC 3nm
架构Systolic Array（脉动阵列）
HBM8 堆栈（推测 HBM3E 或 HBM4）

2.2 为什么叫"Jalapeño"？​

Jalapeño 是一种墨西哥辣椒，以"中等辣度、强烈风味"著称。OpenAI 以此命名，暗示这款芯片：

  • ✅ 辣度适中：不是最激进的架构（相比 Cerebras WSE），但足够有效
  • ✅ 风味强烈：在推理场景下有强烈的存在感（成本降低 50%）
  • ✅ 开胃前菜：这只是"多代路线图的第一步"（博通 CEO 陈福阳）

三、技术深度解析​

3.1 9 个月极速流片：AI 辅助设计芯片的新范式​

通常情况下，从零开始设计一块 ASIC 芯片需要 1.5 到 2 年。而 Jalapeño 从初始设计到制造流片仅用了 9 个月。

关键原因：深度软硬件协同开发

技术手段说明
AI 辅助架构探索OpenAI 用自家前沿模型（GPT-5.3-Codex-Spark）探索芯片架构设计空间
AI 功耗仿真用 AI 模型进行功耗仿真与优化
强化学习优化用 RL 优化芯片布局布线
博通硅实现能力博通提供业界顶尖的 ASIC 实现能力（网络芯片、交换芯片经验）

OpenAI 总裁 Greg Brockman 表示：

"我们利用服务于用户的前沿模型，来优化运行未来模型的基础设施。"

3.2 专为推理优化的架构​

与通用 GPU 不同，Jalapeño 是围绕 OpenAI 对 LLM 推理工作负载的深度理解从零构建的 ASIC：

架构特性说明
降低数据移动架构核心在于减少数据搬运（推理任务的主要瓶颈）
平衡计算-内存-网络资源分配针对推理优化，使实际利用率更接近理论峰值
结合高吞吐与低延迟目标是将当前领先加速器的吞吐能力与最快专用推理系统的低延迟结合起来
支持未来模型不仅支持现有模型（GPT-5、GPT-5.3），也适配未来新一代模型的推理需求

3.3 全栈平台：不只是芯片​

Jalapeño 是一个多代计算平台，而不仅仅是一颗芯片：

组件供应商说明
加速器芯片OpenAI 设计，台积电制造TSMC 3nm，8 堆栈 HBM
网络交换芯片博通 Tomahawk高速互联（与 NVIDIA NVLink 竞争）
电路板、机架、系统Celestica整机架解决方案
软件栈OpenAI深度适配 GPT、Codex、Agent 产品

部署目标：千兆瓦（Gigawatt）级数据中心

博通 CEO 陈福阳表示：

"Jalapeño 将于今年开始与微软和其他合作伙伴一起部署在千兆瓦级数据中心。"

四、性能与成本分析​

4.1 推理成本降低 50%​

虽然 OpenAI 官方新闻稿中针对 Jalapeño 带来的成本节约表述相当保守，仅透露其"每瓦性能大幅优于当前最先进水平"，未给出具体百分比。

但据彭博社报道，博通 CEO 陈福阳透露：

早期内部测试显示，相较于当前主流 AI GPU，Jalapeño 可实现约 50% 的推理成本节省。

对于 OpenAI 的意义：

项目当前（GPU 方案）Jalapeño 方案节省
每天 API 调用数亿次数亿次—
推理成本占比~60-70% 运营成本~30-35%-50%
年算力支出数十亿美元数亿美元节省数十亿美元

4.2 每瓦性能显著优于当前最先进水平​

OpenAI 公告指出：

"Jalapeño 工程样品已以目标频率和功耗成功运行 GPT-5.3-Codex-Spark 等复杂强化学习任务，早期测试显示每瓦性能显著优于当前最先进的 AI 加速器。"

对比对象：NVIDIA Blackwell（当前最先进的 AI 加速器）

指标JalapeñoNVIDIA Blackwell说明
每瓦性能显著优于基准OpenAI 官方表述
推理延迟媲美最快专用推理系统基准目标
吞吐量媲美当前领先加速器基准目标
TDP未公开（推测 400-700W）700-1000WJalapeño 可能更低

五、对 AI 芯片市场的影响​

5.1 "去英伟达化"加速​

Jalapeño 的发布是科技巨头集体挑战英伟达市场主导地位的又一注脚：

厂商自研芯片类型状态与 OpenAI 的关系
GoogleTPU v6e / Ironwood训练+推理✅ 已商用Google Cloud 供应 OpenAI
AmazonTrainium 3训练✅ 已发布AWS 供应 OpenAI
MicrosoftMaia 100训练+推理✅ 已发布OpenAI 独家合作伙伴
MetaMTIA训练+推理✅ 已发布—
AppleNeural Engine端侧推理✅ 已商用—
OpenAIJalapeño推理🚧 2026 年底部署自用 + 可能出售给第三方

5.2 OpenAI 并非要完全"抛弃"英伟达​

Brockman 坦言：

"我们根本无法足够快地获得算力。"

目前，OpenAI 同时在向英伟达、AWS、AMD 和 Cerebras 等多方采购芯片，Jalapeño 是对其爆炸性算力需求的结构性补充，而非替代。

5.3 可能出售给第三方​

博通 CEO 陈福阳特别强调：

"这只是一个'多代路线图的起点'，OpenAI 与博通的目标是共同建设千兆瓦（Gigawatt）级算力集群。"

这意味着，OpenAI 有可能将其硬件出售给第三方，前提是它能从博通和台积电获得足够的供货。

六、Jalapeño vs 其他自研芯片对比​

指标Jalapeño（OpenAI）TPU v6e（Google）Trainium 3（Amazon）Maia 100（Microsoft）
发布时间2026-06-2420242025 Q42023
类型推理 ASIC训练+推理 TPU训练 ASIC训练+推理
制程TSMC 3nmTSMC 4nmTSMC 5nm（推测）TSMC 5nm（推测）
是否对外销售❌ 仅内部（可能未来出售）✅ GCP✅ AWS❌ 仅内部
设计周期9 个月~18 个月~18 个月~18 个月
AI 辅助设计✅ 首款❌ 否❌ 否❌ 否
成本优势-50% 推理成本优化优化优化

关键差异：

  • ✅ Jalapeño 是首款由 AI 辅助设计的 AI 芯片
  • ✅ Jalapeño 设计周期仅 9 个月（行业平均 18 个月）
  • ⚠️ Jalapeño 不对外销售（至少目前如此）

七、未来路线图​

7.1 多代芯片平台​

Jalapeño 只是一个"多代路线图的起点"：

时间事件
2026 年底Jalapeño 初始部署（千兆瓦级数据中心）
2027 年Jalapeño v2（推测，架构优化）
2027-2028 年Jalapeño 训练版本（推测，挑战 TPU/Trainium）
2028 年及以后千兆瓦级算力集群全面建成

7.2 OpenAI 全栈 AI 基础设施战略​

层次OpenAI 自研外包/采购
模型✅ GPT-5、GPT-5.3、Codex—
芯片✅ Jalapeño（推理）NVIDIA GPU、AWS Trainium、AMD GPU
系统✅ 与 Celestica 合作微软 Azure 数据中心
网络✅ 博通 Tomahawk微软 Azure 网络
云平台❌ 无微软 Azure（独家合作伙伴）

八、行业反响与专家观点​

8.1 支持观点​

专家观点
博通 CEO 陈福阳"Jalapeño 只是一个多代路线图的起点，目标是共同建设千兆瓦级算力集群。"
OpenAI 总裁 Greg Brockman"我们利用服务于用户的前沿模型，来优化运行未来模型的基础设施。"
业内人士"Jalapeño 的发布是科技巨头集体挑战英伟达市场主导地位的又一注脚。"

8.2 质疑观点​

质疑点说明
不对外销售目前仅内部使用，第三方无法采购，对英伟达市场份额影响有限
软件生态OpenAI 需要自建软件栈，与 CUDA 生态竞争难度大
供货能力台积电产能有限，能否满足 OpenAI + 博通 + 其他客户的需求？
性能数据不透明OpenAI 未公布具体规格（算力、显存、带宽、TDP），难以客观评估

九、对开发者的意义​

9.1 如果 OpenAI 未来出售 Jalapeño 给开发者...​

场景当前（NVIDIA GPU）未来（Jalapeño）
推理成本基准-50%
推理延迟基准可能更低
软件栈CUDA + TensorRTOpenAI API（可能开源软件栈）
采购难度高（出口管制、供不应求）低（OpenAI 直接供应）

9.2 即使不出售，也值得关注​

  • ✅ 推理成本降低 50% 会倒逼英伟达、AMD、英特尔降低 GPU 价格
  • ✅ AI 辅助设计芯片的新范式会被行业快速复制
  • ✅ 9 个月流片周期会成为行业新基准

十、总结​

维度评价
技术创新⭐⭐⭐⭐⭐ 首款 AI 辅助设计的 AI 芯片，9 个月流片
成本优势⭐⭐⭐⭐⭐ 推理成本降低 50%，年节省数十亿美元
战略意义⭐⭐⭐⭐⭐ OpenAI 从纯模型公司转型为全栈 AI 基础设施提供商
市场影响⭐⭐⭐⭐ "去英伟达化"加速，科技巨头自研芯片阵营壮大
开放性⭐⭐ 目前仅内部使用，未来可能出售给第三方

最终建议：

  • 🇨🇳 中国市场：继续关注华为昇腾、寒武纪 MLU、摩尔线程 MTT（Jalapeño 不对中国出售）
  • 🌍 国际市场：关注 Jalapeño 是否未来对外销售，以及其对英伟达市场份额的影响
  • 💡 开发者：关注 OpenAI API 降价可能性（推理成本降低 50% 可能部分让利给开发者）

参考资料​

声明：本文部分规格为推测值，以 OpenAI 官方技术白皮书为准。OpenAI 将在未来数月内发布详细性能技术白皮书。

最后更新：2026-06-26