Skip to main content

62 posts tagged with "NVIDIA"

NVIDIA AI chips and GPUs

View all tags

GTC 柏林的物理 AI 棋局:Agile ONE SN 人形机器人与 Hyperion 自动驾驶平台

· 3 min read
Industry Research Team

大语言模型的算力叙事渐入「推理经济学」阶段,黄仁勋在 GTC 柏林把下一个故事讲得非常具体:物理 AI——让模型走进机器人身体和汽车里。这次不是概念,是参考机型与定点车型。

一、Agile ONE SN:人形机器人参考机​

  • 合作方:英伟达 × Agile Robots(思灵机器人)
  • 规格:31 个自由度,搭载英伟达计算平台与全套软件
  • 节奏:2027 年第一季度上市
  • 配套:Isaac 平台大扩展——新增参考人形机器人、数据集、运行时与机器人学习框架更新

「参考机」策略与当年 DGX 对 AI 的意义同构:给硬件生态一个标准靶子,让传感器、执行器、模型开发者在同一平台上收敛。GR00T(人形机器人基座模型)+ Isaac 仿真 + 参考硬件 = 机器人版的「模型-框架-算力」三件套。

二、Hyperion:自动驾驶平台拿下德系定点​

要素配置
传感器14 摄像头 + 9 雷达 + 3 激光雷达
计算双 GPU(Orin/Thor 代际)
定点Volvo、大众、JLR、奔驰下一代车型
RobotaxiBolt(与 Lucid)、Einride 等展示自动驾驶运营用例

德系全线定点是关键信号——自动驾驶平台的市场格局此前由英伟达/高通/Mobileye 三分,奔驰与大众商用车的加入意味着英伟达在高端智驾域控的份额继续固化。

三、物理 AI 的算力经济学​

  1. 训练在云、推理在端:世界模型(Cosmos 3.5)与机器人策略训练吃数据中心算力,车载/机载推理吃 Thor 级边缘芯片——「云-边-端」的算力分层在物理 AI 上最完整
  2. 仿真即训练场:Isaac/Omniverse 仿真管线的算力消耗常被低估——合成数据生成是介于训练与推理之间的第三种负载
  3. 单机价值量:一个人形机器人 ≈ 一台高性能边缘服务器的芯片价值量(计算 + 传感处理 + 互联),百万台级出货就是新的 GB 市场

四、国产对照​

国内人形机器人芯片(地平线、寒武纪行歌等)与车载智驾芯片(华为 MDC、地平线 J6)在单点算力上已可对标,但「参考机 + 仿真平台 + 基座模型」的三件套完整度仍是英伟达的结构性优势——这也是昇腾等玩家在机器人侧的下一个投入方向。

延伸阅读:GTC 柏林综述 · Jetson Thor 卡片 · GPU/ASIC/CPU 三分天下

RTX Spark:1 PFLOPS + 128GB 塞进笔记本,桌面 AI 工厂的价格锚点 $2,399

· 2 min read
Industry Research Team

GTC 柏林主题演讲的彩蛋环节:黄仁勋把上周发布的 RTX Spark 笔记本(1 PFLOPS 算力 + 128GB 内存,$2,399 起)与 2016 年他亲手送给 OpenAI 的 DGX-1 同台对比——两台机器同样 1 PFLOPS、128GB 内存,但 DGX-1 需要「两个人抬」,RTX Spark 可以单手拎起。

一、产品矩阵:桌面 AI 三件套​

产品系统定位
RTX SparkWindows PC个人智能体,$2,399 起
DGX SparkLinux开发者构建与扩展应用
DGX Station桌面工作站更大内存池的开发验证

「Bringing the Spark to Europe」是 GTC 柏林的专门议程——本地智能体(Local Agents)成为个人 AI 的下一个叙事:模型与数据不出本机,隐私与延迟同时解决。

二、1 PFLOPS 桌面算力意味着什么​

  • 能本地跑什么:70B 级开源模型量化推理、中小模型微调(QLoRA)、智能体仿真训练。黄仁勋现场演示了四只「Microduck」机器人鸭——在 RTX Spark 上创建、云端训练、仿真中学习技能
  • 对比 2016:DGX-1 当年售价约 $129,000。同算力下,桌面价格曲线十年下降约 50 倍,这正是 Jetson Thor 等边缘产品的逻辑在桌面端的延伸
  • 对云的边界:本地推理解决隐私与离线场景,但训练与超长上下文仍属云端——「桌面 + 云」混合工作流将成个人开发者默认形态

三、对开发者的实际影响​

  1. 智能体开发的「本地沙箱」:结合 OpenShell 安全架构的思路,本地硬件跑智能体 + 本地沙箱,是成本最低的安全实验环境
  2. 国产对标注意:桌面 AI 工作站赛道(128GB 统一内存 + P 级算力)目前国产阵营尚无同价位对标产品,这是一个尚未被国产厂商认真覆盖的细分
  3. 软件栈红利:RTX Spark 与 DGX Spark 共享 CUDA 生态——开发者在桌面写的代码可直接扩展到数据中心 GPU,这正是英伟达「全栈桶」的黏性所在

延伸阅读:GTC 柏林综述 · Jetson Thor 卡片 · 完整对比表

Vera CPU 拿下 Modal 首单:英伟达的 Arm CPU 开始抢 x86 的活

· 3 min read
Industry Research Team

据 10 月 19 日路透社报道,AI 云计算初创 Modal 宣布将首次采用英伟达新一代 Vera CPU,为 AI 智能体提供托管服务。这是 Vera CPU 公开的首个独立于 Rubin 平台的客户订单——英伟达的 CPU 第一次被当作「产品」而非「配件」采购。

一、订单要点​

  • 客户:Modal(AI 沙盒与智能体托管服务,为智能体安全运行生成的代码提供托管容器)
  • 性能口径:早期测试显示,高并发负载下 Vera 的任务吞吐量最高达可比 x86 硬件的 2 倍,同时保持较低的单任务延迟
  • 部署方式:不弃 x86——Vera 与现有英特尔/AMD 芯片并行部署,按任务特点调度
  • 代价:需要改造部分软件与基础设施以支持 Arm 兼容架构

二、Vera CPU 是什么​

88 个自研 Olympus 核心(Armv9.2)、176 线程、最高 1.5TB LPDDR5X、1.2 TB/s 内存带宽,通过 NVLink-C2C(1.8 TB/s)与 GPU 一致性互联。单体大芯片设计避免跨 die 延迟,详见卡片。

此前 Vera CPU 的定位是 Vera Rubin 平台的「主机 CPU」——负责数据搬运调度与系统编排。Modal 订单标志着它的独立价值开始显现。

三、为什么 AI 代理需要更好的 CPU​

这是 2026 下半年最重要的结构性变化之一:智能体工作负载(任务编排、API 调用、数据查询、每用户常驻虚拟机)主要由 CPU 承担。用户越多、后台任务越多,CPU 需求越高:

  • Intel CEO 承认其 CPU 产能只能满足约一半的 AI 相关需求
  • Meta 计划部署数千万 AWS Graviton 核心处理 AI 代理负载

Modal 的场景(AI 沙盒 = 大量短生命周期容器)恰好是高并发、低单任务延迟的典型 CPU 负载——Vera 的吞吐优势在这里最有说服力。

四、数据中心 CPU 格局的连锁反应​

  1. Graviton(AWS)、Axion(谷歌)、Vera(英伟达)、磐久(阿里):自研 Arm CPU 在云侧全面铺开,x86 双雄在 AI 负载上的份额被从边缘蚕食
  2. 英伟达的「全栈桶」更满了:GPU + CPU + 网络 + 软件,客户整套机房都可以只找英伟达——议价时其他供应商要拼的不再是一颗芯片而是整个平台
  3. Arm 生态在数据中心形成正循环:每多一个 Vera 级客户,软件适配的边际成本就降一分

延伸阅读:GPU/ASIC/CPU 三分天下 · GTC 柏林综述 · 完整对比表

Rubin Q4 放量与 SpaceX 月上 20 万颗 GB300:需求侧的三个新信号

· 3 min read
Industry Research Team

2026 年 10 月,NVIDIA 供给侧出现三个值得记录的事实:Rubin 机柜开始放量、单一客户(SpaceX)给出每月 20 万颗 GB300 的上线速度、以及 Rubin 规格表上罕见的「官方双口径」。本文逐一梳理。

信号一:Vera Rubin NVL72 进入放量阶段​

鸿海在 10 月上旬首次公开了 Rubin 机柜的制造细节:由鸿佰科技组装的 Vera Rubin NVL72 量产机柜已出货,首批交付微软;产线引入机器人自动化,母线(Busbar)组装成功率超过 95%。鸿海轮值 CEO 的口径是:Vera Rubin 预计第四季度放量出货,2027 年成为主力产品,同时 GB 系列需求稳定、至少延续到明年。

时间线回顾:2026-01-05 CES 宣布全面量产,8 月 26 日财报称「向全面生产爬坡、机柜已在合作伙伴处运行」,10 月起进入放量。另有一个容易踩坑的命名变化:原「Rubin NVL144」按 die 计数,官方已统一改称 Vera Rubin NVL72(按 72 个 GPU 封装计数)。

信号二:SpaceX 的月度上线速度​

10 月 20 日 SpaceX Q3 财报电话会上,马斯克给出的数字是:SpaceX 正按每月约 20 万颗 GB300 的速度把英伟达芯片上线,该节奏将持续到年底,明年转向以 Vera Rubin 算力为主,并规划在 2027 年二季度末建成 44 万颗 Vera Rubin 训练集群;SpaceX 还在寻求约 400 亿美元贷款(Apollo 牵头)用于采购英伟达芯片。

单客户月化 60 万颗的 Q4 上线量,是「算力军备竞赛进入吉瓦时代」最直白的注脚。但对采购方的参照意义有限——这是顶配客户的特殊节奏,不代表市场平均可获得性。

信号三:Rubin 带宽的官方双口径​

一个数据站必须诚实记录的事实:NVIDIA 自己的两个页面给出了不同的 Rubin 显存带宽——

来源显存带宽NVLink
1 月技术博客 / HGX 产品页22 TB/s3.6 TB/s
Vera Rubin NVL72 产品页19.2 TB/s3 TB/s

在 NVIDIA 调和之前,任何单值引用都应注明出处。本站全部页面统一采用 NVL72 产品页口径 19.2 TB/s,并在 Rubin 卡片中保留双口径说明。

中国市场的另一个极端​

与吉瓦级部署形成对照的是:中国数据中心收入已不再进入 NVIDIA 业绩展望,FY2027Q2 财报确认中国收入贡献为零(H20 库存释放的 1.8 亿美元是非中国区销售)。出口管制时间线上,2026-01-14 BIS 新规将 H200 等从「推定拒绝」改为「逐案审查」,但中国海关放行与买方意愿两个环节均未打通。这意味着全球 AI 算力市场事实上分裂为两个定价体系——本站所有价格对比均分列 USD 与 CNY 口径,不做跨体系直接换算。

相关阅读​

国产 AI 芯片 vs 国际 AI 芯片:2026 年终全面对比

· 14 min read
Industry Research Team

2026 年是 AI 加速芯片竞争分水岭式的一年。一边是 NVIDIA 用 Blackwell 产能与 Rubin 首发把「训练算力」的标尺再抬高一截,另一边是中国本土供应链在出口管制常态化下,把「可用」加速推向「好用」——昇腾 960 超节点、寒武纪思元 690、摩尔线程 MTT S5000、阿里真武 V900 等产品密集落地。本文用同一把尺子,把国产与国际主力芯片放到一张桌子上对比。

一、为什么说 2026 是分水岭​

  • 出口管制进入稳态:美国对高端训练卡的禁运已不是新闻,而是采购决策的默认前提。国产芯片的「替代」叙事从口号转为规模部署。
  • 国产份额跨越临界点:据 Counterpoint 口径,中国 AI 芯片市场国产化率从 2022 年近乎为零,升至 2025 年的约 41%,其中昇腾占国产份额约 62%。这意味着「国产 vs 国际」不再是技术爱好者话题,而是采购刚需。
  • 代际差距收窄但仍在:纸面算力上,旗舰国产卡(昇腾 910C 128GB、思元 690 196GB)在显存容量上已不输同代国际卡;但在单卡稠密算力、软件生态与集群扩展效率上,仍有一代左右的差距。

本文对比维度固定为五类可比指标:算力(FP16 稀疏口径,与站内科普一致)、显存容量与带宽、功耗与能效、制程、价格。所有数字取自本站已校验芯片数据库(252 款)与价格库(报价截至 2026-10),官方未公开的一律标注「未公布」,不作推测填充。

二、国产 AI 芯片进展​

2.1 华为昇腾:从 910C 到 960 的三级跳​

型号架构制程显存显存带宽FP16(稀疏)TDP状态
昇腾 910BDa VinciTSMC 7nm+(含 SMIC 国产化)64GB HBM2e600 GB/s320 TFLOPS310W量产中
昇腾 910CDa Vinci(双 die)中芯国际 7nm N+2128GB HBM2e3.2 TB/s800 TFLOPS600W规模部署
昇腾 950PRDa Vinci v5中芯 N+3(等效 5nm 级)128GB HiBL 1.0未公布486 TFLOPS600W已上市
昇腾 950DTDa Vinci v5中芯 N+2144GB4 TB/s547 TFLOPS500W2026 Q4 量产
昇腾 960DT全新 SIMD/SIMT未公布288GB9.6 TB/s未公布未公布2027 Q1
昇腾 960PR全新 SIMD/SIMT未公布192GB2.4 TB/s未公布未公布2027 Q3

昇腾 910C 是当前国产训练主力,CloudMatrix 384 超节点已用于 DeepSeek 等大模型训练验证。950 系列在 2026 年 HC 大会官宣:950PR 渠道报价已超 ¥8 万(年初约 ¥6 万),950DT 超 ¥25 万(较 7 月上涨 20%~50%),HBM 供给挤压是涨价主因。960 超节点公布 NPO Hi-ONE 引擎、4096 卡规模与 99.8% 可用度目标,其中 960DT 主攻训练(FP4 4 PFLOPS)、960PR 主攻推理(FP4 8 PFLOPS),是 2027 年的旗舰预期。

2.2 寒武纪思元 690:纸面规格天花板​

思元 690 采用双 die Chiplet 设计与 MLUarch 4.0 架构,中芯国际 N+2 制程、196GB HBM3、3.35 TB/s 带宽、FP16 700 TFLOPS、TDP 500W。其显存容量与带宽已对齐 H100 SXM 级别,是国产卡中少数在纸面规格上逼近国际旗舰的产品。2026 年 9 月受 HBM 供给挤压,官方指导价 ¥19 万、市场均价约 ¥17.5 万,较两月前上调 20%~30%,客户含字节、阿里、百度。

2.3 其他国产厂商​

厂商 / 型号架构制程显存FP16(稀疏)TDP备注
天数智芯 天垓 300SIMT 通用计算7nm144GB HBM3E超 1,000 TFLOPS600W2026-07 WAIC 发布,对标 Hopper
天数智芯 天垓 150ivcore11TSMC 7nm64GB HBM2e192 TFLOPS350W通用 GPU,兼容 CUDA 生态
燧原 云燧 T21GCU-CARA 2.0格罗方德 12nm64GB HBM2E134.4 TFLOPS未公布邃思 2.0,训推一体
百度 昆仑芯 R200XPU-R7nm16/32GB GDDR6128 TFLOPS150W低功耗推理向
摩尔线程 MTT S5000MUSA 4(平湖)TSMC 6nm80GB400 TFLOPS(BF16)500W全功能 GPU,渠道价 ¥7.5 万
阿里 真武 V900平头哥 PPU未公布216GB未公布未公布2026-09 云栖发布,2027 Q1 量产

注:燧原 T21 的 TDP 官方未公布,本站不作推测;摩尔线程、燧原等卡的 FP8/FP4 精度多数官方未单列,表中以 BF16/FP16 口径统一呈现。天数智芯「智铠」系列未见公开采购确认,暂未纳入主表。

三、国际 AI 芯片进展​

3.1 NVIDIA:Blackwell 量产 + Rubin 首发​

型号架构制程显存带宽FP16(稀疏)TDP状态
H100 SXMHopperTSMC 4N80GB HBM33.35 TB/s1,979 TFLOPS700W上代主力
H200 SXMHopper(refresh)TSMC 4N141GB HBM3e4.8 TB/s1,979 TFLOPS700W大显存主力
B200Blackwell(双 die)TSMC 4NP192GB HBM3e8 TB/s5 PFLOPS1000W2025 起量产
GB300Grace Blackwell UltraTSMC 4NP576GB HBM3e(超节点口径)16 TB/s10 PFLOPS(双芯)3000W超节点主力
Rubin R200Rubin台积电 3nm288GB HBM419.2 TB/s4 PFLOPS1800W2026 H2 已规模出货

NVIDIA 在 2026 年的核心叙事是交付:Vera Rubin NVL72 下半年持续放量,MLPerf Inference v6.1 首秀(Qwen3-VL 较 GB300 最高 3.7 倍)。Rubin R200 官方 FP4 达 50 PFLOPS(稀疏),是本代出货主力;N1X PC 处理器秋季上市,把战场延伸到消费级。

3.2 AMD:MI300X/MI325X 守基本盘,MI455X 冲机架​

MI300X(192GB HBM3 / 5.3 TB/s / 1,307 TFLOPS)与 MI325X(256GB HBM3e / 6.48 TB/s)提供高显存性价比;真正的增量在 Helios 机架(72× MI455X,432GB HBM4 每卡、23.3 TB/s、FP4 40.3 PFLOPS、计算芯粒 TSMC 2nm),绑定 OpenAI 6GW、Meta 6GW 部署。MI450 为其母型号,量产节点排在 2027 年 Q2。

3.3 Intel 与 Google​

  • Intel Gaudi 3:TSMC 5nm、128GB HBM2e、3.67 TB/s、BF16 矩阵算力 1,835 TFLOPS、TDP 900W,24× 200GbE RDMA 集成网卡,以太网组网直接对标 NVL72。Gaudi 3 之后 Intel 路线转向 Crescent Island(推理)与 Jaguar Shores(2027),Falcon Shores 已取消。
  • Google TPU v6(Trillium):v6e(32GB / 918 TFLOPS / 200W)与 v6p(96GB HBM2 / 1,350 TFLOPS / 450W)同代,TSMC 5nm,仅通过 Google Cloud 按小时计费。第七代 Ironwood 已把 HBM 容量推到 192GB、带宽 7.38 TB/s。

3.4 其他赛道​

Cerebras 已于 2026-08 发布机架级 CS-4(3× WSE-3 Turbo,750 PFLOPS),需要注意的是 CS-4 并未采用新一代晶圆,硅片与 CS-3 完全相同;SambaNova SN40L 以三层内存架构服务稀疏场景;Graphcore 已被 SoftBank 收购并退出中国市场。

四、关键指标对比(核心)​

方法学:FP16 统一采用稀疏(sparse)口径,与站内科普及首页热门芯片一致;价格为 pricing.json 市场报价(国际 USD、国产 CNY,截至 2026-10);「未公布」表示官方未披露、本站不作推测填充。

4.1 算力对比(FP16 稀疏)​

芯片FP16(稀疏)FP8 / FP4 备注架构
国产
天垓 300超 1,000 TFLOPS支持 FP4 / FP8SIMT
昇腾 910C800 TFLOPSFP8 1.5 PFLOPSDa Vinci 双 die
思元 690700 TFLOPSFP8 约 1.4 PFLOPSMLUarch 4.0
昇腾 950DT547 TFLOPSFP4 2 PFLOPSDa Vinci v5
摩尔线程 MTT S5000400 TFLOPS(BF16)FP8 约 1 PFLOPS 稠密MUSA 4
天垓 150192 TFLOPS384 TOPS INT8ivcore11
云燧 T21134.4 TFLOPS未公布GCU-CARA 2.0
昆仑芯 R200128 TFLOPS256 TOPS INT8XPU-R
国际
GB300(双芯)10 PFLOPSFP4 40 PFLOPSGrace Blackwell Ultra
MI455X10.1 PFLOPSFP4 40.3 PFLOPSCDNA 5
B2005 PFLOPSFP4 20 PFLOPSBlackwell
Rubin R2004 PFLOPSFP4 50 PFLOPSRubin
Gaudi 31,835 TFLOPS(BF16 矩阵)FP8 1,835 TFLOPSGaudi 3
H100 SXM1,979 TFLOPSFP8 3,958 TFLOPSHopper
H200 SXM1,979 TFLOPSFP8 3,958 TFLOPSHopper
TPU v6p1,350 TFLOPSFP8 2,700 TFLOPSTPU v6
MI300X1,307 TFLOPS未单列CDNA 3
MI325X1,307 TFLOPS未单列CDNA 3

读图:单卡 FP16 上,B200/GB300 把国产旗舰甩开约 5~6 倍;但昇腾 910C(800)已接近 H100 的 40%,思元 690(700)紧随,天垓 300(超 1,000)已进入国际旗舰区间。差距从「数量级」收敛到「一代」。

4.2 显存与带宽对比​

芯片显存类型带宽
昇腾 960DT288GBHBM9.6 TB/s
MI325X256GBHBM3e6.48 TB/s
阿里真武 V900216GB未公布未公布
思元 690196GBHBM33.35 TB/s
B200192GBHBM3e8 TB/s
MI300X192GBHBM35.3 TB/s
H200141GBHBM3e4.8 TB/s
H10080GBHBM33.35 TB/s

读图:国产旗舰在显存容量上已经反超——思元 690 的 196GB、昇腾 960DT 的 288GB、真武 V900 的 216GB 都高于 H100/H200。但带宽上,只有昇腾 960DT(9.6 TB/s)与 B200(8 TB/s)进入同一梯队,HBM3e/HBM4 代差是关键。

4.3 功耗与能效对比​

芯片TDPFP16/W(稀疏能效)
昇腾 910C600W1.33 TFLOPS/W
思元 690500W1.40 TFLOPS/W
天垓 150350W0.55 TFLOPS/W
H100700W2.83 TFLOPS/W
B2001000W5.0 TFLOPS/W
MI300X750W1.74 TFLOPS/W
TPU v6e200W4.59 TFLOPS/W

读图:能效是国产最明显的短板。H100 的 2.83 TFLOPS/W 约为昇腾 910C 的 2.1 倍,B200 更是 3.8 倍。低功耗端 TPU v6e(200W / 4.59)与昆仑芯 R200(150W)代表「每瓦算力」的另一条路线。

4.4 制程对比​

厂商代表芯片制程晶体管
华为910C中芯 7nm N+2未公布
寒武纪思元 690中芯 N+2(5nm 级)未公布
NVIDIAH100 / B200TSMC 4N / 4NP800 亿 / 2080 亿
AMDMI300XTSMC 5+6nm 混合1530 亿
AMDMI455XTSMC 2nm(计算芯粒)+ 3nm未公布

读图:制程代差是结构性差距的根源。国产主力仍停留在 7nm 级,而国际旗舰已进入 2nm 计算芯粒时代。这是单卡算力差距的物理下限。

4.5 价格对比(市场报价,2026-10)​

芯片价格币种口径
H100$28,000USD市场均价
H200$38,000USD市场均价
B200$42,000USD市场均价
GB200$62,000USD市场均价
MI300X$13,500USD市场均价
MI325X$16,500USD市场均价
Gaudi 3$16,500USD市场均价
TPU v6e$22,000USDCloud 仅按小时
昇腾 910C¥110,000CNY2026-09 渠道(年初约 ¥9 万,+22%)
昇腾 950PR¥80,000CNY2026-09 渠道(年初约 ¥6 万,+30%)
昇腾 950DT¥250,000CNY2026-09 渠道(较 7 月 +20~50%)
思元 690¥175,000CNY2026-09 渠道(官方指导价 ¥19 万)
MTT S5000¥75,000CNY渠道估算

读图:按汇率约 7.2 折算,昇腾 910C(约 $15.3k)与 H100($28k)价差显著但算力仅其 40%,单位算力成本仍偏高;思元 690(约 $24.3k)价格接近 H100 但显存翻倍。HBM 短缺推高国产报价,是 2026 下半年的一致趋势。

五、生态对比​

厂商软件栈框架支持迁移难度特点
NVIDIACUDA + cuDNN全支持—算子覆盖约 100%,生态壁垒
AMDROCm主流支持中覆盖约 90%,持续补齐
华为CANN主流支持中覆盖约 80%,昇思 MindSpore
寒武纪NeuWare主流支持中覆盖约 75%~85%
天数智芯IXUCA主流支持低(兼容 CUDA)CUDA 兼容路线
燧原DTU Toolkit部分支持高覆盖约 60%
百度昆仑XREA / 飞桨主流支持低(飞桨原生)与 Paddle 深度绑定

关键判断:生态差距比硬件差距更难追。CUDA 的长期积累使 NVIDIA 在算子覆盖、工具链、开发者社区上仍具压倒性优势;国产路线分两派——华为/寒武纪自建栈,天数智芯/摩尔线程走 CUDA 兼容以降低迁移成本。

六、市场表现​

6.1 出货量(2026 预估)​

厂商2026 出货(万颗)同比主要客户
NVIDIA(全球)150–200+30%全球科技巨头
华为(昇腾)20–30+100%政府、国企、科技公司
寒武纪(MLU)10–15+150%字节、阿里、百度
AMD(全球)30–40+80%Meta、微软等
其他国产10–20+200%各类 AI 公司

6.2 中国市场份额​

类型20242026(预估)趋势
国际(NVIDIA/AMD)约 80%约 40%大幅下降
国产(华为/寒武纪等)约 20%约 60%快速提升

6.3 客户与部署​

  • 字节跳动 / 阿里 / 百度:寒武纪思元、昇腾 910C 双线采购;
  • 腾讯:昇腾 910C 为主,探索其他国产;
  • 智算中心:多家国产芯片混合部署,国产化率成硬指标;
  • 超大规模云:NVIDIA 仍主导海外训练,但国内云厂商国产占比快速抬升。

七、未来展望(2027)​

阵营产品时间状态
华为昇腾 960DT / 960PR2027 Q1 / Q3已官宣
华为昇腾 9702028已官宣
NVIDIARubin Ultra2027已公布
AMDMI450 / MI5002027 Q2 起已公布
IntelJaguar Shores2027+已公布
AWSTrainium42027已公布(FP4 为 Trainium3 的 6 倍以上)
寒武纪思元 7902027未公布

差距判断(2027 预期):

  • 算力:从落后 40%~50% 收窄至 30%~40%;
  • 显存:从落后 20%~30% 收窄至 10%~20%,部分型号已反超;
  • 制程:从落后 1~2 代收窄至约 1 代;
  • 生态:从落后 35 年收窄至 23 年。

八、结论与选型建议​

核心观点:

  1. 2026 年国产与国际旗舰的差距从「代际」缩小到「一代」,显存容量局部反超;
  2. 单卡稠密算力、能效、制程仍是结构性短板,集群扩展与软件生态是最大变量;
  3. 国产化率快速攀升(2025 约 41%),采购从「尝鲜」变「刚需」;
  4. 出口管制常态化下,国产替代已从政策驱动转为市场驱动。

给不同角色的建议:

  • 企业采购:训练为主且合规无碍,选 NVIDIA B200/GB300/Rubin;国产化硬指标,选昇腾 910C/950DT 混合部署;推理高密度,关注昆仑芯 R200 与 TPU v6e。
  • 开发者:优先 CUDA 保泛用性;若锁定国产,选 CUDA 兼容栈(天数智芯/摩尔线程)降低迁移成本。
  • 投资者:关注 HBM 供给、国产先进制程良率,以及昇腾/寒武纪的客单与份额变化。
  • 政策制定者:延续对先进制程、HBM、EDA 的投入,缩短生态差距比单点算力更关键。

数据来源与方法:本文全部性能与价格取自 MirrorFrog 已校验芯片数据库(chips.json,252 款)与价格库(pricing.json,报价截至 2026-10),数据核对日期 2026-10-13。FP16 统一稀疏口径;官方未公开字段以「未公布」标注,不作占位填充。文中 Rubin R200 带宽(19.2 TB/s)与 TDP(1800W)、Gaudi 3 算力(BF16 矩阵 1,835 TFLOPS)、昇腾 950 系列制程与报价等,均为 2026-10 核对后的修正值。

延伸阅读:完整芯片对比表、交互式对比工具、NVIDIA H100 规格卡、华为昇腾 910C 规格卡、寒武纪思元 690 规格卡。

FP8 训练从尝鲜到主流:2026 年的真实成熟度

· 6 min read
Industry Research Team

2022 年那篇 FP8 论文刚出来时,把低精度训练当作一个需要小心翼翼对待的工程风险。到了 2026 年,情况反过来了——不是你在考虑要不要用 FP8,而是你还在用 BF16 全程训练的话,很难解释为什么成本这么高。

三套配方,而不是一个「FP8」​

FP8 有两个子格式:E4M3 尾数位多、精度高但动态范围窄,最大有限值 448;E5M2 指数位多、范围宽,最大有限值 57344。Transformer Engine 里的 HYBRID 配方是前向用 E4M3、反向用 E5M2。但这不是唯一正确答案——DeepSeek V3 公开发布的训练配方是全程 E4M3。两种选择都能跑出稳定训练,差别在于梯度的动态范围是否真的需要那么宽。

缩放策略的选择比格式选择影响更大。当前缩放(current scaling)每个张量读两次,适配实时数据;延迟缩放(delayed scaling)只读一次,但依赖历史 amax 统计,遇到离群值容易被历史污染。工程上的普遍建议是:如果稳定性优先,先用当前缩放,不要急着换。

再往上一层是 MXFP8,也就是 OCP 的微缩放格式。张量按 32 个元素切块,每块一个 UE8M0 类型的缩放因子——全是指数位、没有尾数,表示 2 的整数次幂,范围覆盖 2 的负 127 次方到 2 的正 127 次方。这一点在硬件上很关键:缩放因子是 2 的幂,解码时只需要移位,不需要完整的浮点乘法和规格化,直接缩短了处理器的关键路径。块级粒度相比每张量缩放,能把量化误差压低相当可观的比例。

维度BF16 混合精度FP8 保守配方FP8 + COAT 类激进配方
计算权重2 字节1 字节1 字节
主权重4 字节 FP324 字节 FP322 字节
梯度4 字节4 字节1 字节
Adam 状态8 字节8 字节1 至 2 字节
每参数合计约 18 字节约 17 字节约 6 至 8 字节

这张表容易被误读。FP8 保守配方看起来只省了 1 字节,这不是 FP8 没价值,而是参数量状态在总训练内存里本来就不占大头——激活值、梯度通信缓冲、框架开销构成了剩下的部分。COAT 这类把优化器状态也量化下去的研究,纸面上有 2 到 3 倍的降幅,但实测端到端内存只降了约 1.5 倍,原因就在这里。

硬件代际决定了配方能走多远​

Ampere 及更早的架构没有 FP8 Tensor Core,Transformer Engine 在那一代只提供 FP16 和 BF16 优化。Hopper 是 FP8 的起点。Blackwell 把 MXFP8 和 NVFP4 做成了 Tensor Core 原生数据类型,Transformer Engine 的 README 明确列出对 MXFP8、NVFP4 训练的支持;Transformer Engine 2.19 版本在 2026 年 9 月加入了对 Rubin 的支持。

AMD 那边,MI450 系列在 FP8 下峰值 20 PFlops、FP4 下 40 PFlops,FP8 训练已经是硬件默认能力而非附加特性。

一个容易被忽略的细节:Blackwell 上使用 MXFP8 时,Transformer Engine 会额外维护一份转置的量化权重副本以加速反向传播。这是一份实打实的额外开销,而且是格式特定行为,不是 FP8 训练的普遍属性。

成熟度体现在基准与生产两处​

MLPerf 预训练提交里的证据比较直接:Llama 3.1 8B 预训练基准中,对注意力 BMM 的输入(前向和后向都算)使用 FP8,相比对应的 BF16 方案在注意力核上实现了明显更好的性能,同时满足了基准的精度要求,注意力部分约 1.3 倍,端到端约 5% 加速。这份提交走的还是每张量当前缩放。

生产侧的公开案例更多。DeepSeek V3 是 671B 总参数、约 37B 激活的 MoE,原生 FP8 训练并且只发布 FP8 权重;Qwen 3.5 的基础设施博客同样描述了原生 FP8 训练管线。需要注意一个术语陷阱:Hugging Face 上的 FP8 检查点,包括 Qwen 自己发布的那些,绝大多数是训练后量化产物,和原生 FP8 训练是两回事。模型卡上写「FP8 权重」不代表它是 FP8 训练出来的。

硬件侧的收益区间也有公开数据:在 H100 上相比 BF16 混合精度,FP8 训练通常快 35% 到 40%;NVIDIA 的 COAT 框架报告过约 1.43 倍的端到端加速。

剩下的坑​

需要警惕三类问题。第一,精度悬崖真实存在——有些架构对 FP8 敏感程度明显更高,换格式前必须跑基线对比。NVIDIA 公布的验证曲线里 MXFP8 和当前缩放 FP8 在 Nemotron 模型上贴合 BF16,但那不保证你的模型也贴合。

第二,loss spike 频率上升。应对手段是更积极的梯度裁剪、更长的学习率预热、更频繁的检查点。FP8 梯度比 BF16 更容易溢出,这不是可以忽略的波动。

第三,激活离群值极端的模型,延迟缩放会被历史统计带偏,此时应当直接上块级缩放,而不是在两种延迟策略之间反复调参。

展望​

2026 年剩下的变量主要在两处:一是块级缩放会不会从 Blackwell 的可选路径变成跨厂商默认——MX 系列已经是 OCP 标准,AMD、Intel、NVIDIA、Meta 都在里面;二是 4 位格式从推理侧反攻训练侧的速度有多快。一旦 NVFP4 级配方在前沿规模预训练中稳定下来,FP8 就不会再是讨论的终点,而是所有新项目的起点。真正需要判断的已经不是用不用 FP8,而是你的模型对哪一档精度敏感、敏感在训练的哪个阶段。

英伟达最新财报拆解:数据中心占比超九成,客户集中度正在悄悄变化

· 4 min read
Industry Research Team

截至 2026 年 10 月,英伟达最近一期财报(2027 财年第二季度,截至 2026 年 7 月 26 日)把单季营收推高到 962.21 亿美元。总量已不是新闻——真正值得拆开看的是客户结构的分叉,以及中国市场贡献的持续收缩。

总量与结构​

单季营收 962.21 亿美元,同比增长 106%,环比增长 18%,连续刷新纪录,大幅超出华尔街一致预期的约 922 亿美元。GAAP 净利润 596.88 亿美元,同比增长 126%,GAAP 毛利率 75.0%。GAAP 摊薄每股收益 2.46 美元,调整后每股收益 2.22 美元,高于市场预期的约 2.10 美元。财报公布后盘后一度上涨近 5%。

板块本季收入同比环比占总营收
数据中心合计约 890 亿美元约 117%约 18%约 92%
其中:超大规模云服务商约 487 亿美元约 102%约 13%—
其中:AI 云、工业与企业客户约 403 亿美元约 138%约 25%—
边缘计算(PC/游戏/汽车)约 72 亿美元约 27%约 13%—

管理层把数据中心增长归因于 Blackwell Ultra 平台的快速部署,并对下一季度给出约 1080 亿美元的营收指引。更罕见的是,公司首次提前一年给出远期指引,首席财务官预计 2028 财年营收增长约 70%。

客户集中度:从「依赖巨头」到「双引擎」​

这是本期财报最容易被忽略、也最有信息量的一组数字。超大规模云服务商贡献约 487 亿美元,同比增长约 102%;而 AI 云、工业与企业客户(ACIE)合计约 403 亿美元,同比增长约 138%,环比增速 25% 同样高于超大规模客户的 13%。英伟达对 ACIE 的解释是,增长来自 AI 原生公司、企业客户、主权 AI 客户,以及使用 AI 云服务的超大规模运营商。

换句话说,第二增长曲线的增速已经快于第一曲线。黄仁勋在电话会上表示,公司约一半业务目前正以每年约 100% 的速度增长,而且这部分增长来自云计算之外。这种结构变化对英伟达的意义在于:它降低了单一客户群资本开支波动带来的收入风险,也意味着定价权的基础正在从「少数几家可以签下十吉瓦的客户」扩展到成千上万家企业买家。

两个收缩项​

中国市场的贡献已经降到可以忽略的量级。本季运往中国的数据中心 Hopper 产品收入占数据中心总收入的比例低于 1%,且下一季度指引未计入任何来自中国的数据中心计算收入。这基本封死了 H20 系列在中国市场的残余想象空间。

另一项值得留意的收缩来自消费端。边缘计算板块营收约 72 亿美元,虽同比增长 27%,但公司明确表示增长主要来自 Blackwell 工作站强劲销售,部分被消费级 PC 销售放缓抵消——原因正是内存和系统价格上涨。这是本季度财报中唯一被管理层主动点名的需求抑制因素,也是 AI 内存涨价向终端传导的直接证据。

研判​

英伟达这份财报给出的信号可以概括为:总量天花板还很远,但增量来源正在换轨。ACIE 增速反超超大规模客户,意味着行业需求正从「少数巨头的基础设施投资」扩散到「成千上万家企业与主权 AI 的日常采购」。

不过有三处风险需要持续跟踪。其一,指引中不含中国收入,意味着这块若出现政策松动的边际改善,才会成为超预期的上行变量。其二,ACIE 客户群体更分散、订单颗粒度更小,对渠道与交付能力的要求高于对单一产能的依赖,这会改变公司的收入确认节奏。其三,库存与负债指标:财报披露当季存货拨备及超额存货采购义务约 9.85 亿美元,上半年合计约 21 亿美元,同时公司首次将「负债」单独列为风险因素,一到五年内到期债务为 150 亿美元,上一季度这一数字仅 27.5 亿美元。

真正决定下一个季度的变量,已经不在英伟达自己手里,而在台积电的先进封装产线和 HBM4 的爬坡速度上——这两者是 Blackwell Ultra 与 Rubin 平台能否按计划交付的物理前提。

NVLink Fusion 生态 2026 进展:开放标准能否撼动 NVLink

· 6 min read
Industry Research Team

2025 年 5 月 Computex 上发布 NVLink Fusion 时,外界普遍把它当作 NVIDIA 应对定制 ASIC 的一张防守牌。一年半后再看,这张牌打出的规模超过了多数人的预期——包括那些本该是它对手的公司。

生态名单是怎么长起来的​

2025 年 5 月 18 日首发时,合作方包括联发科、迈威尔、Aldec 旗下的 Alchip、Astera Labs、新思科技、楷登电子、富士通和高通。2025 年 9 月 18 日,Intel 同意为 NVIDIA 制造定制 x86 CPU 通过 NVLink 连入 NVIDIA 基础设施,NVIDIA 同时以每股 23.28 美元投资 Intel 普通股 50 亿美元。10 月 13 日在 OCP 全球峰会上,Intel 与三星代工宣布加入;11 月 Arm 加入,其被授权方可构建原生带 NVLink 端口的 CPU。

到了 2026 年,节奏明显加快:

时间事件附带条件
2025-12-02AWS 在 re:Invent 表示 Trainium4 将对接 NVLink 6 与 MGX 机架同时保留自研 Graviton、EFA、Nitro
2026-01SiFive 加入,RISC-V 进入生态—
2026-03-31迈威尔战略合作,提供定制 XPU 与兼容 NVLink 的 scale-up 网络NVIDIA 投资 20 亿美元
2026-08-26NVLink Fusion 扩展至 NVHBM,Annapurna Labs 成为首家内存协作方AWS 子公司
2026-08-31联发科将 NVLink Fusion 作为客户 XPU 设计基础NVIDIA 投资 35 亿美元可转债
2026-09-10d-Matrix 将 Raptor XPU 接入 MGX 机架2026 年底前流片,2027 年四季度供货

AWS 这一条最关键。Trainium4 与 NVIDIA GPU 共用同一机架占位、同一冷却系统、同一配电系统,用 NVLink 6 交换机和 400G 定制 SerDes 互连,Neuron SDK 层面的 API 表面保持一致。这不是一份采购意向,是一条多代合作的起点。

NVHBM 为什么是真正的技术变量​

与生态扩张同步推进的还有内存方案。NVHBM 是 NVIDIA 与主要内存厂商合作的定制 HBM 基底裸片技术,把内存控制器和协议逻辑从加速器裸片搬进 HBM 基底裸片——这是一个结构性决策:加速器裸片上不再需要为内存控制逻辑付出面积。其公开口径是每堆栈带宽提升约 30%、基线 PHY 面积减少约 67%、每堆栈功耗降低约 15%,从而为计算逻辑多腾出约 30% 的裸片面积,端到端 XPU 性能提升约 30%。功耗下降那 15% 在数据中心尺度上的含义被 NVIDIA 换算成:每吉瓦级设施可多部署约 15000 颗 XPU。

另一侧的阵营属于开放标准。UALink 1.0 规范支持最多 1024 颗 GPU、200 GT/s 带宽,AMD、Intel、Broadcom 是主要推动者。据公开报道,UALink 至今尚未有量产硬件出货,而 NVLink 已经在 Blackwell NVL72 机架上规模部署。

以太网阵营同样在推进 scale-up。OCP 的 ESUN(Ethernet for Scale-Up Networking)工作组于 2025 年 10 月由 AMD、Arista、Arm、Broadcom、Cisco、HPE、迈威尔、Meta、微软、NVIDIA、OpenAI、Oracle 十二家公司发起——NVIDIA 一边卖 NVLink,一边在以太网标准组织里保留席位,是个教科书式的对冲。ESUN 1.0 于 2026 年 2 月定稿、3 月发布,参与公司已超过 175 家,其核心是一个 4 字节的 ESUN Header,替代通常 28 到 48 字节的 IP/UDP 头栈。Broadcom 贡献的 SUE 框架按层拆分后,传输层成为 SUE-T,负责 XPU 端点的可靠投递。

必须诚实标注的一点:SUE 文档中 64 颗 XPU、任意两点间最高 9.6 Tb/s、亚 2 微秒往返时延这些数字,是设计目标而非实测结果,不应被当作任何 SU-144 系统的实测属性来引用。

这套打法到底解决了什么​

NVLink Fusion 在技术上并不是新互连——它从第一天起就是 NVLink。变化的是商业模式:NVIDIA 从卖完整芯片和完整系统,叠加了一层授权模式。黄仁勋在 d-Matrix 合作时的表述是「NVLink Fusion 让伙伴能把定制硅片与 NVIDIA 在 NVLink、先进封装、机架级系统和网络技术上的深厚生态集成起来」。

对超大规模云厂商来说,这提供了一条中间路径:可以部署定制件,同时买入 NVIDIA 的机架架构、网络和软件栈。机架成为共享平台这件事有实际意义——数据中心的时间线与硅片迭代的时间线完全不同,取电、设计冷却、建造设施动辄数年,而加速器代际跑得飞快。

现实的分界线也很清楚。最支持开放解读的一个数据点是 Broadcom 至今不在 NVLink Fusion 名单里,而它是定制 ASIC 双雄之一,同时是 Google TPU 十余年来跨越六代的设计伙伴,也与 Meta 和 OpenAI 有合作。如果这些客户的自研芯片最终承受不住必须部署在 NVLink 兼容机架的压力,当前的阵营分界可能松动。但至少截至 2026 年 10 月,这件事还没有发生。

展望​

NVLink Fusion 面对的真正问题不是技术能否工作——AWS 的部署已经回答了这个问题——而是客户会不会在五年后重新评估这个选择。NVIDIA 用资本的介入换取了生态名单的扩张,迈威尔的 20 亿美元、联发科的 35 亿美元、Intel 的 50 亿美元,这些投资的结构化方式让它们很难轻易转向别处。

对采购和架构团队而言,现在值得做的判断只有两个:一是异构机架内的 scale-up 域正在成为规划假设而非未来情景;二是在有明确理由把 NVIDIA 排除在栈之外时,UALink 仍是可信路径。开放标准能否撼动 NVLink,目前还无法断言,但竞争已经从路线之争进入了生态投入之争——而后者比拼的是钱和耐心,不是规格表。

B300 与 GB300 有何不同:Blackwell Ultra 的两种打开方式

· 4 min read
Industry Research Team

同一套 Blackwell Ultra 硅片,NVIDIA 给了它两个名字、两种形态:B300 是可以进风冷机柜的 8 卡节点核心,GB300 则是焊进 NVL72 机柜的机柜级答案。分清两者,是 2026 年 Blackwell 采购的第一道题。

B300:先看芯片本身改了什么​

B300 是 B200 的" Ultra "增强版:同样的双 Die Blackwell 架构,但显存堆叠从 8-Hi 换成 12-Hi,容量从 192GB 提升到 288GB(提升 50%);NVFP4 稠密算力提升到约 15 PFLOPS,约为 B200 的 1.5 倍;功耗上限从 1,000W 提到 1,400W。两处容易被忽略的变化:FP64 性能大幅削减至约 1.25 TFLOPS(B200 为 37 TFLOPS),HPC 科学计算用户需特别留意;稀疏比也从常见的 2 倍收敛到约 1.33 倍(15 稠密对 20 稀疏),容量规划时不能沿用旧公式。

规格B200B300(Blackwell Ultra)
显存192GB HBM3e288GB HBM3e(12-Hi 堆叠)
显存带宽8TB/s8TB/s
FP4 稠密/稀疏9 / 18 PFLOPS15 / 20 PFLOPS
FP8 稠密/稀疏4.5 / 9 PFLOPS5 / 10 PFLOPS
最大功耗1,000W1,400W(另有 1,100W 风冷档)
NVLink1.8TB/s1.8TB/s
PCIeGen5Gen6(256GB/s)

B300 并非只有液冷一档:1,400W 顶配档需要直冷液冷,但 1,100W 档支持风冷,NVIDIA 自家的 DGX B300 就是风冷系统,Supermicro 也有 8U 风冷 HGX B300。真正的硬约束是整机功耗——8 卡节点仅 GPU 就要 8.8kW 至 11.2kW,加上 CPU 与网络,单节点约 14 至 15kW,远高于 H200 节点。

GB300:超级芯片与 20TB 机柜​

GB300 不是"更快的 B300",而是另一种产品:Grace CPU 与两颗 B300 组成的超级芯片(超级芯片功耗约 3,000W,含两颗 1,400W B300 与约 200W Grace)。以它为单元的 GB300 NVL72 机柜集成 72 颗 B300 与 36 颗 Grace,组成 130TB/s 的单一 NVLink 域,GPU 显存合计约 20TB HBM3e。

指标B300 节点(8 卡)GB300 NVL72(机柜)
组成8 颗 B300 + 2 颗 x86 CPU72 颗 B300 + 36 颗 Grace
显存合计2.3TB HBM3e约 20TB HBM3e
FP4 稠密约 120 PFLOPS约 1.1 EFLOPS
网络侧ConnectX-7 400G 起ConnectX-8 800G
散热风冷或液冷可选强制全液冷
形态标准机架服务器定制机柜,约 120kW 级

两者的分工与 GB200 NVL72 一脉相承:B300 节点服务"8 卡能装下"的负载,GB300 NVL72 服务万亿参数与巨型 MoE。相比 GB200 NVL72,GB300 机柜的稠密 FP4 算力提升 50%,显存从 13.4TB 增至 20TB,网络升级到 800G,对推理时代的长上下文与多轮 Agent 场景更友好。据公开报道,GB300 NVL72 机柜价格约在 370 万至 400 万美元区间。

选型建议​

三步判断。第一步看模型规模:单副本权重加 KV Cache 能进 180GB(B200)就不用看 B300;需要 288GB 单卡容量或 1.5 倍 FP4 吞吐,选 B300 节点;张量并行超过 8 卡、或 KV Cache 需要机柜级共享,进 GB300 NVL72。第二步看机房:风冷机房先把 B300 排除在 1,400W 档之外,GB300 NVL72 需要完整液冷改造。第三步看精度需求:FP64 密集的科学计算请留在 Hopper 或 HPC 专线,B300 会让你失望。

小结​

B300 与 GB300 是同一代硅片的两种野心:前者把 Blackwell Ultra 塞进可管理的 8 卡节点,是 2026 年高端推理与微调的主力;后者把它推向 20TB 显存的机柜级单一域,是 AI 工厂的正装。想清楚"8 卡够不够、机房供不供得起",这道二选一就不难。

xAI Colossus 2 与全球十万卡级训练集群竞赛

· 4 min read
Industry Research Team

从动工到全球首个吉瓦级训练集群投运,xAI 只用了不到一年。Colossus 2 不只是一座数据中心,它重新定义了前沿 AI 竞赛的入场券价格。

Colossus 2:吉瓦级集群的扩张节奏​

Colossus 2 位于田纳西州孟菲斯,2026 年 1 月 17 日由马斯克宣布投入运行。据其 9 月 25 日披露,集群现有 11 万颗 GB200 与 44 万颗 GB300 加速器,并计划在年底前分三批再各增加 22 万颗 GB300——若全部兑现,Colossus 2 单站加速器总数将达约 121 万颗,加上 Colossus 1 的约 23 万颗(15 万 H100、5 万 H200、3 万 GB200),整个孟菲斯园区将逼近 144 万颗英伟达加速器。

扩张速度背后是一套非常规建设方法。据 SpaceX 证券文件,首个 Colossus 2 集群(约 11 万颗 GB200、210 兆瓦算力)从建成到上线仅用 91 天,第二个集群(11 万颗 GB300、约 220 兆瓦)只用了 64 天。独立研究机构 Epoch AI 估算,Colossus 2 已投入资本约 358 亿美元,若完成全部扩建可能高达 580 亿美元,其中仅 GPU 采购就超过 180 亿美元。

指标Colossus 1Colossus 2
上线时间2024 年2026 年 1 月
加速器构成约 23 万颗 H100、H200、GB200约 55 万颗 GB200、GB300(9 月)
年底目标维持现有规模约 121 万颗
电力负荷数百兆瓦初始 1 吉瓦,目标 2 吉瓦
建设节奏122 天建成首个集群91 天上线首个 11 万卡集群

电力、散热与环保争议​

吉瓦级集群的真正瓶颈不在芯片而在能源。Colossus 2 采用"电网加自备电厂加储能"的三重方案:邻近的密西西比州配套建设了总装机超过 100 万千瓦的天然气电厂(41 台涡轮机获监管批准),现场部署了大量特斯拉 Megapack 电池储能,媒体报道其储能规模约 2000 兆瓦功率、3.3 吉瓦时容量,被称为全球最大的电网级电池系统之一。散热方面,集群采用超微设计的端到端芯片级液冷,据报道可将 PUE 控制在 1.12 左右。

粗放扩张的代价是监管风险。美国环保署裁定 xAI 曾违规运行未获空气质量许可的天然气涡轮机;环保组织已在联邦法院提起诉讼;根据与州监管机构达成的协议,约 69 台临时涡轮机须在 2027 年年中前逐步退出,由永久性电厂替代。这套"先上车后补票"的供电模式,正在成为超大规模集群建设的争议焦点。

从自用训练到算力出租:商业模式的变化​

Colossus 2 的角色已从 xAI 专属训练设施转变为对外收费的算力平台。据彭博等媒体报道,谷歌以每月约 9.2 亿美元租用约 11 万颗 GPU(合同期至 2029 年,总额超过 300 亿美元);Anthropic 的租约据报接近每月 12.5 亿美元;另有未具名客户自 12 月起每月支付约 11 亿美元。2026 年 2 月 SpaceX 完成对 xAI 的收购后,这套资产被并入上市公司体系,据其 IPO 路演材料披露,AI 板块 2025 年营收 32 亿美元、经营亏损 64 亿美元。

一个耐人寻味的技术细节是:据 2026 年 5 月的报道,xAI 集群的模型浮点运算利用率仅约 11%,内部备忘录称该数字"低得尴尬",反映出血膨胀的加速器规模与软件调度效率之间的落差。

小结​

Colossus 2 证明了两件事:其一,吉瓦级训练集群可以在一年内从图纸变为现实,算力竞赛的节奏由能源与供应链而非技术能力决定;其二,超大规模集群的商业模式正在从"训练自家模型"转向"对外批发算力",谷歌、Anthropic 租用竞争对手体系内的 GPU,说明前沿 AI 的算力短缺已经到了不讲阵营的地步。全球范围内,微软、Meta、谷歌与中国的万卡集群同步扩张,但论单点规模与建设速度,孟菲斯目前没有对手。