跳到主要内容

2 篇博文 含有标签「TPU」

Google Tensor Processing Unit

查看所有标签

云巨头自研芯片浪潮 2026:OpenAI Jalapeño、Maia 200、MTIA、TPU v8 集体"去英伟达化"

· 阅读需 6 分钟
Industry Research Team

2026 年 8 月 Hot Chips 的周二下午 AI 专场,是本届最有历史意义的一场——不是因为某颗芯片多强,而是因为登台的几乎全是"超算厂商去 NVIDIA 化"的自研 ASIC:Google 第八代 TPU、OpenAI 首颗自研芯片、微软 Maia、Meta MTIA、Cerebras 晶圆级机架同台。当全球最大的 AI 算力买家开始把 GPU 当作"可选项之一",AI 硬件的权力结构正在松动。


1. OpenAI Jalapeño:9 个月造出一颗芯片

OpenAI 于 2026 年 6 月 24 日联合博通发布首款自研推理 ASIC Jalapeño,是"自研推理芯片俱乐部"的第五个成员。

维度Jalapeño
合作方博通(Broadcom)+ 台积电制造
定位推理专用 ASIC
设计周期端到端 9 个月(Greg Brockman 称借助 OpenAI 自有模型辅助设计)
成本目标较通用 GPU 栈 token 成本降约 50%
商用时间2026 年底首批部署,长期目标 10GW 自研芯片
合作规模与博通最高 100 亿美元战略合作(2029 年前部署加速器与网络)

演讲标题"You Can Just Build Things … Chips"本身就是信号:最大的 AI 算力买家不再默认 GPU 是唯一路径。


2. Google TPU v8:十年来最大架构转向——训练/推理分芯

Google 拥有最悠久的自研芯片历史(2016 至今),第八代 TPU 首次将产品线一分为二

型号代号合作方定位关键规格
TPU 8tSunfishBroadcom训练单 pod 9600 卡、121 FP4 ExaFLOPS、2PB 共享 HBM、ICI 带宽翻倍
TPU 8iZebrafishMediaTek推理288GB HBM、384MB 片上 SRAM(3× 上代)、ICI 19.2 Tb/s

产能方面,摩根士丹利基于供应链访谈估算 2026 年 Google TPU 产量可能超 300 万颗(券商预测,非官方目标)。Google 也是唯一实现自研芯片大规模部署并对外销售算力的厂商(Gemini 跑在 TPU 上)。


3. Meta MTIA:从推荐系统到 GenAI 双使命

Meta 的自研之路起点最清晰——MTIA 最初为推荐排序硬件而生,正被生成式 AI 拉向双使命

  • MTIA 300 已部署;400 / 450 / 500 计划在 2027 年前约每 6 个月推出一款;
  • 基于 RISC-V,Meta 称最高 25× 算力增益
  • 节点沿行业节奏演进:100(7nm)→ 200(5nm)→ 300 系列(3nm + CoWoS);
  • 博通合作,据称另一颗代号 Iris 的芯片已于 2026 年 7 月通过测试;
  • Meta 计划 2026 年 9 月启动其中一款的量产,以将其整体算力翻倍。

4. 微软 Maia 200/300:部署最领先

微软 Maia 200 于 2026 年 1 月 26 日发布,是四家中部署最先进的:

维度Maia 200
制程台积电 3nm,1400 亿+ 晶体管
算力10+ PFLOPS FP4 / 5 PFLOPS FP8
显存216GB HBM3E,7 TB/s
功耗750W
部署已在得梅因(Des Moines)数据中心运行,服务 OpenAI GPT-5.2 与 Microsoft 365 Copilot

微软称其在特定基准上约 3× 亚马逊 Trainium 性能。短期策略是"自研 Maia + 外购英伟达"双路线并行——自研芯片从设计到量产需要时间,英伟达成熟生态短期内无法替代。


5. 亚马逊 Trainium 3 与 Anthropic 自建团队

  • 亚马逊:Trainium 系列已商用,累计部署 140 万颗(官方披露),是数十亿美元业务;优势在 AWS 客户基数——企业可在英伟达 GPU 与自研芯片间选择。Trainium 3 延续这一路线。
  • Anthropic:2026 年 8 月宣布组建自建芯片团队,尚无 tape-out 或量产时间表,初期定位为补充(而非取代)与 NVIDIA/AMD/AWS/Google Cloud 的现有合作,目标是为 Claude 架构量身打造、摆脱对单一 GPU 的依赖。

6. NVIDIA 的回应:不是更快的 GPU,而是全栈

容易把叙事简化成"四家造芯片、英伟达防守 GPU"。但 NVIDIA 在 Hot Chips 拿了 6 个 slot:RISC-V 教程、Vera CPU、Rubin GPU、BlueField-4 DPU、Spectrum-X 多平面网络、以及 LPU 加速器。

一颗 hyperscaler ASIC 只替换了这五个支柱中的一个。如果 CPU、NIC、交换 fabric 与软件都来自同一家供应商,把加速器换掉省下的,比加速器那一行账单暗示的要少得多。Rubin 的打法是一个横跨七颗芯片、五种机柜的全栈 AI 工厂平台——竞争回应是"全栈位置",而非"更快的一颗芯"。


7. 趋势判断:推理去 GPU 化,训练仍 GPU 主导

  • 推理侧:CUDA 护城河明显变浅。推理在端点层面可并行、可替换,自研 ASIC 通过剪掉通用性税(只实现 LLM 实际执行的操作)换取更低 cost/token。Groq LPU、Cerebras、各家 TPU/ASIC 都在同一指标上竞争。
  • 训练侧:Foundation model 仍用 GPU 训练,短期内无人认真挑战。NVIDIA 在训练的三道护城河(最快硅 + NVLink + CUDA)依旧牢固。
  • 结论:自研芯片不是"替代英伟达",而是在推理这一最大、增长最快的战场上,给买家一个可信的谈判外部选项——这本身就足以重塑 AI 基础设施的经济学。

相关链接

参考资料


本文基于 2026 年 8 月 Hot Chips 现场报道、企业公告与行业分析整理。部分产能与性能为券商估算或厂商公布口径,实际以量产产品为准。

谷歌TPU 8i/8t 正式发布:训练与推理首次分家,2nm工艺赋能智能体时代

· 阅读需 7 分钟
Industry Research Team

2026年4月22日,在拉斯维加斯举行的Google Cloud Next '26大会上,谷歌正式发布了第八代张量处理器(TPU)。这是谷歌史上首次将AI训练与推理任务拆分至两款独立芯片:

  • TPU 8t:专为模型训练设计
  • TPU 8i:专注高并发推理任务

此次发布未引入新的物理概念,而是聚焦于解决AI数据中心的核心痛点:万卡集群扩展效率智能体AI工作负载优化每瓦性能提升

TPU 8i(推理专用):消除"等待室效应"

TPU 8i是谷歌和**联发科(MediaTek)**首次合作设计的推理专用芯片,旨在消除"等待室效应"——即用户请求被有意排队或延迟以实现硬件利用率最大化的情况。

TPU 8i 核心规格(推测)

参数TPU 8iTPU v7 Ironwood
定位推理专用推理为主
制程TSMC 2nm
Die设计双计算Die(推测)
显存8× HBM3e 12层(推测 ~192GB)8× HBM3(192GB)
显存带宽~7 TB/s(推测)7,380 GB/s
FP8 算力~4,614 TFLOPS(推测)4,614 TFLOPS
TDP(每芯片)1,300 W1,000 W
互联ICI 3D TorusICI 3D Torus
集成CPUArm Axion(64核)
散热风冷/液冷均可第4代液冷
公布时间2026-04-222025-08-25
量产时间2027年底2026年

关键特性

  • 高并发推理优化:专为Agentic AI设计,支持数千个步骤的推理链条
  • Arm Axion CPU集成:64核Neoverse V2,Host CPU + 数据预处理协同
  • 低延迟:消除"等待室效应",首Token延迟(TTFT)极低
  • 每瓦性能提升117%:相比Ironwood(同等价格)

TPU 8t(训练专用):Gemini 3/4的"发动机"

TPU 8t专为Google Gemini 3 / Gemini 4等frontier模型训练设计,是谷歌与**博通(Broadcom)**长期合作的延续。

TPU 8t 核心规格

参数TPU 8tTPU v7 Ironwood提升
定位训练专用推理为主形态拆分
制程TSMC 2nm新一代
Die设计双计算Die架构升级
显存HBM3e 12层(单芯片推测 ~256GB)8× HBM3(192GB)升级
显存带宽~7 TB/s(推测每芯片)7,380 GB/s持平
Pod芯片数9,600芯片9,216+4%
Pod HBM总量2 PB远超
Pod FP4算力121 EFLOPS~42 EFLOPS(推测)~3×
集成CPUArm Axion(64核)新增
TDP(每芯片)1,300 W1,000 W+30%
量产时间2027年底2026年

关键特性

  • MoE训练原生支持:Expert Parallel优化(DeepSeek / Mixtral风格)
  • Long-context训练:1M+ token上下文训练优化
  • RLHF/后训练:Online RL(DPO/PPO/GRPO)原生优化
  • Arm Axion CPU协同:数据预处理/权重初始化Offload到CPU
  • SparseCore加速:MoE路由和推荐系统

第八代TPU的战略意义

1. 训练与推理首次分家

此前,谷歌的TPU设计理念是"一个架构兼顾训练和推理"(如TPU v5p、v6e)。但智能体AI时代的到来改变了这一点:

  • 训练工作负载:大规模矩阵乘法、长时序反向传播、稀疏化MoE
  • 推理工作负载:高并发、低延迟、KV Cache密集型、动态批处理

这两种工作负载对芯片架构的要求截然不同。拆分后:

  • TPU 8t可以专注优化计算密度显存容量
  • TPU 8i可以专注优化推理吞吐每瓦性能

2. 与博通、联发科的双线合作

  • 博通(Broadcom):继续合作设计TPU 8t(训练),延续自TPU v1以来的长期伙伴关系
  • 联发科(MediaTek):首次合作设计TPU 8i(推理),引入移动芯片低功耗设计经验

这种"双线合作"策略使谷歌能够:

  • 在训练芯片上追求极致性能(与博通的高端ASIC经验结合)
  • 在推理芯片上追求极致能效(与联发科的移动芯片经验结合)

3. 对标NVIDIA Vera Rubin

对比Google TPU 8t + 8iNVIDIA Vera Rubin
策略训练/推理拆分统一架构(GPU+CPU)
制程TSMC 2nmTSMC 3nm(推测)
生态仅Google Cloud全球可用
软件JAX / PyTorch/XLACUDA / PyTorch
量产2027年底2026年秋季
优势与Gemini深度集成生态最成熟

技术深度解析

TSMC 2nm:为何选择2nm?

谷歌是首家在AI加速器上采用TSMC 2nm制程的厂商(NVIDIA Rubin用的是3nm)。2nm(N2)工艺相比3nm(N3E):

  • 晶体管密度提升:~15-20%
  • 功耗降低:~25-30%(同等性能)
  • 性能提升:~10-15%(同等功耗)

对于功耗已达1,300W的TPU 8t/8i来说,2nm是必须的——否则4nm/3nm无法在合理功耗内集成双计算Die和8×HBM3e。

Arm Axion CPU:Google自研CPU首次进入TPU节点

此前,TPU节点使用Intel Xeon或AMD EPYC作为Host CPU。TPU 8t/8i首次集成Google自研的Arm Axion CPU(64核Neoverse V2):

意义

  1. 数据预处理Offload:Tokenization、数据增强等可以完全在Axion上完成,不占用TPU算力
  2. 权重初始化:大模型训练的权重初始化可以在CPU上完成,加速训练启动
  3. 推理调度:多模型推理时,Axion负责请求调度和负载均衡

这标志着TPU节点向"超节点"演进:不再是纯加速器,而是TPU + Axion CPU协同系统,对标NVIDIA Vera CPU。

第4代液冷:1,300W的散热挑战

TPU 8t/8i的TDP达到1,300W(相比Ironwood的1,000W提升30%),这给数据中心散热带来巨大挑战。

谷歌采用第4代液冷方案

  • 冷板液冷:直接冷却GPU Die和HBM
  • 浸没式液冷:可选方案(超高密度部署)
  • 智能温控:根据工作负载动态调整泵速和风扇转速

量产时间表与应用场景

时间事件
2026-04-22Cloud Next '26正式公布
2026年下半年内部测试(Google DeepMind优先使用)
2027年底**正式量产,Google Cloud开放
2028年下一代TPU(可能为TPU 9)

目标应用场景

  • Frontier模型训练(Gemini 3/4、外部客户)
  • MoE大模型推理(高并发、低延迟)
  • 多模态AI(ViT + LLM同步推理)
  • 智能体AI(Agentic AI工作负载)

与竞品对比

厂商产品制程TDP量产时间
GoogleTPU 8i(推理)TSMC 2nm1,300W2027年底
GoogleTPU 8t(训练)TSMC 2nm1,300W2027年底
NVIDIARubin GPUTSMC 3nm(推测)~1,000W2026年秋季
NVIDIAVera CPUTSMC 3nm(推测)~500W2026年秋季
AMDMI455X(MI400)TSMC 3nm(推测)~700W2026年
华为昇腾950PR~500W2026年Q1

行业影响

  1. AI芯片进入2nm时代:谷歌率先采用TSMC 2nm,NVIDIA、AMD必然跟进
  2. 训练/推理拆分成为新趋势:其他厂商(如NVIDIA、AMD)可能会效仿
  3. 自研CPU成为标配:Google(Axion)、NVIDIA(Vera)、华为(鲲鹏)都在做CPU+加速器的协同设计
  4. 液冷成为必然选择:1,300W的TDP意味着风冷已经无法满足

相关芯片

参考资料


本文基于Google官方公告及公开资料整理,部分规格为推测值,以官方最终发布为准。