跳到主要内容

10 篇博文 含有标签「Blackwell」

NVIDIA Blackwell architecture

查看所有标签

Rubin Q4 放量与 SpaceX 月上 20 万颗 GB300:需求侧的三个新信号

· 阅读需 3 分钟
Industry Research Team

2026 年 10 月,NVIDIA 供给侧出现三个值得记录的事实:Rubin 机柜开始放量、单一客户(SpaceX)给出每月 20 万颗 GB300 的上线速度、以及 Rubin 规格表上罕见的「官方双口径」。本文逐一梳理。

信号一:Vera Rubin NVL72 进入放量阶段​

鸿海在 10 月上旬首次公开了 Rubin 机柜的制造细节:由鸿佰科技组装的 Vera Rubin NVL72 量产机柜已出货,首批交付微软;产线引入机器人自动化,母线(Busbar)组装成功率超过 95%。鸿海轮值 CEO 的口径是:Vera Rubin 预计第四季度放量出货,2027 年成为主力产品,同时 GB 系列需求稳定、至少延续到明年。

时间线回顾:2026-01-05 CES 宣布全面量产,8 月 26 日财报称「向全面生产爬坡、机柜已在合作伙伴处运行」,10 月起进入放量。另有一个容易踩坑的命名变化:原「Rubin NVL144」按 die 计数,官方已统一改称 Vera Rubin NVL72(按 72 个 GPU 封装计数)。

信号二:SpaceX 的月度上线速度​

10 月 20 日 SpaceX Q3 财报电话会上,马斯克给出的数字是:SpaceX 正按每月约 20 万颗 GB300 的速度把英伟达芯片上线,该节奏将持续到年底,明年转向以 Vera Rubin 算力为主,并规划在 2027 年二季度末建成 44 万颗 Vera Rubin 训练集群;SpaceX 还在寻求约 400 亿美元贷款(Apollo 牵头)用于采购英伟达芯片。

单客户月化 60 万颗的 Q4 上线量,是「算力军备竞赛进入吉瓦时代」最直白的注脚。但对采购方的参照意义有限——这是顶配客户的特殊节奏,不代表市场平均可获得性。

信号三:Rubin 带宽的官方双口径​

一个数据站必须诚实记录的事实:NVIDIA 自己的两个页面给出了不同的 Rubin 显存带宽——

来源显存带宽NVLink
1 月技术博客 / HGX 产品页22 TB/s3.6 TB/s
Vera Rubin NVL72 产品页19.2 TB/s3 TB/s

在 NVIDIA 调和之前,任何单值引用都应注明出处。本站全部页面统一采用 NVL72 产品页口径 19.2 TB/s,并在 Rubin 卡片中保留双口径说明。

中国市场的另一个极端​

与吉瓦级部署形成对照的是:中国数据中心收入已不再进入 NVIDIA 业绩展望,FY2027Q2 财报确认中国收入贡献为零(H20 库存释放的 1.8 亿美元是非中国区销售)。出口管制时间线上,2026-01-14 BIS 新规将 H200 等从「推定拒绝」改为「逐案审查」,但中国海关放行与买方意愿两个环节均未打通。这意味着全球 AI 算力市场事实上分裂为两个定价体系——本站所有价格对比均分列 USD 与 CNY 口径,不做跨体系直接换算。

相关阅读​

B300 与 GB300 有何不同:Blackwell Ultra 的两种打开方式

· 阅读需 4 分钟
Industry Research Team

同一套 Blackwell Ultra 硅片,NVIDIA 给了它两个名字、两种形态:B300 是可以进风冷机柜的 8 卡节点核心,GB300 则是焊进 NVL72 机柜的机柜级答案。分清两者,是 2026 年 Blackwell 采购的第一道题。

B300:先看芯片本身改了什么​

B300 是 B200 的" Ultra "增强版:同样的双 Die Blackwell 架构,但显存堆叠从 8-Hi 换成 12-Hi,容量从 192GB 提升到 288GB(提升 50%);NVFP4 稠密算力提升到约 15 PFLOPS,约为 B200 的 1.5 倍;功耗上限从 1,000W 提到 1,400W。两处容易被忽略的变化:FP64 性能大幅削减至约 1.25 TFLOPS(B200 为 37 TFLOPS),HPC 科学计算用户需特别留意;稀疏比也从常见的 2 倍收敛到约 1.33 倍(15 稠密对 20 稀疏),容量规划时不能沿用旧公式。

规格B200B300(Blackwell Ultra)
显存192GB HBM3e288GB HBM3e(12-Hi 堆叠)
显存带宽8TB/s8TB/s
FP4 稠密/稀疏9 / 18 PFLOPS15 / 20 PFLOPS
FP8 稠密/稀疏4.5 / 9 PFLOPS5 / 10 PFLOPS
最大功耗1,000W1,400W(另有 1,100W 风冷档)
NVLink1.8TB/s1.8TB/s
PCIeGen5Gen6(256GB/s)

B300 并非只有液冷一档:1,400W 顶配档需要直冷液冷,但 1,100W 档支持风冷,NVIDIA 自家的 DGX B300 就是风冷系统,Supermicro 也有 8U 风冷 HGX B300。真正的硬约束是整机功耗——8 卡节点仅 GPU 就要 8.8kW 至 11.2kW,加上 CPU 与网络,单节点约 14 至 15kW,远高于 H200 节点。

GB300:超级芯片与 20TB 机柜​

GB300 不是"更快的 B300",而是另一种产品:Grace CPU 与两颗 B300 组成的超级芯片(超级芯片功耗约 3,000W,含两颗 1,400W B300 与约 200W Grace)。以它为单元的 GB300 NVL72 机柜集成 72 颗 B300 与 36 颗 Grace,组成 130TB/s 的单一 NVLink 域,GPU 显存合计约 20TB HBM3e。

指标B300 节点(8 卡)GB300 NVL72(机柜)
组成8 颗 B300 + 2 颗 x86 CPU72 颗 B300 + 36 颗 Grace
显存合计2.3TB HBM3e约 20TB HBM3e
FP4 稠密约 120 PFLOPS约 1.1 EFLOPS
网络侧ConnectX-7 400G 起ConnectX-8 800G
散热风冷或液冷可选强制全液冷
形态标准机架服务器定制机柜,约 120kW 级

两者的分工与 GB200 NVL72 一脉相承:B300 节点服务"8 卡能装下"的负载,GB300 NVL72 服务万亿参数与巨型 MoE。相比 GB200 NVL72,GB300 机柜的稠密 FP4 算力提升 50%,显存从 13.4TB 增至 20TB,网络升级到 800G,对推理时代的长上下文与多轮 Agent 场景更友好。据公开报道,GB300 NVL72 机柜价格约在 370 万至 400 万美元区间。

选型建议​

三步判断。第一步看模型规模:单副本权重加 KV Cache 能进 180GB(B200)就不用看 B300;需要 288GB 单卡容量或 1.5 倍 FP4 吞吐,选 B300 节点;张量并行超过 8 卡、或 KV Cache 需要机柜级共享,进 GB300 NVL72。第二步看机房:风冷机房先把 B300 排除在 1,400W 档之外,GB300 NVL72 需要完整液冷改造。第三步看精度需求:FP64 密集的科学计算请留在 Hopper 或 HPC 专线,B300 会让你失望。

小结​

B300 与 GB300 是同一代硅片的两种野心:前者把 Blackwell Ultra 塞进可管理的 8 卡节点,是 2026 年高端推理与微调的主力;后者把它推向 20TB 显存的机柜级单一域,是 AI 工厂的正装。想清楚"8 卡够不够、机房供不供得起",这道二选一就不难。

xAI Colossus 2 与全球十万卡级训练集群竞赛

· 阅读需 4 分钟
Industry Research Team

从动工到全球首个吉瓦级训练集群投运,xAI 只用了不到一年。Colossus 2 不只是一座数据中心,它重新定义了前沿 AI 竞赛的入场券价格。

Colossus 2:吉瓦级集群的扩张节奏​

Colossus 2 位于田纳西州孟菲斯,2026 年 1 月 17 日由马斯克宣布投入运行。据其 9 月 25 日披露,集群现有 11 万颗 GB200 与 44 万颗 GB300 加速器,并计划在年底前分三批再各增加 22 万颗 GB300——若全部兑现,Colossus 2 单站加速器总数将达约 121 万颗,加上 Colossus 1 的约 23 万颗(15 万 H100、5 万 H200、3 万 GB200),整个孟菲斯园区将逼近 144 万颗英伟达加速器。

扩张速度背后是一套非常规建设方法。据 SpaceX 证券文件,首个 Colossus 2 集群(约 11 万颗 GB200、210 兆瓦算力)从建成到上线仅用 91 天,第二个集群(11 万颗 GB300、约 220 兆瓦)只用了 64 天。独立研究机构 Epoch AI 估算,Colossus 2 已投入资本约 358 亿美元,若完成全部扩建可能高达 580 亿美元,其中仅 GPU 采购就超过 180 亿美元。

指标Colossus 1Colossus 2
上线时间2024 年2026 年 1 月
加速器构成约 23 万颗 H100、H200、GB200约 55 万颗 GB200、GB300(9 月)
年底目标维持现有规模约 121 万颗
电力负荷数百兆瓦初始 1 吉瓦,目标 2 吉瓦
建设节奏122 天建成首个集群91 天上线首个 11 万卡集群

电力、散热与环保争议​

吉瓦级集群的真正瓶颈不在芯片而在能源。Colossus 2 采用"电网加自备电厂加储能"的三重方案:邻近的密西西比州配套建设了总装机超过 100 万千瓦的天然气电厂(41 台涡轮机获监管批准),现场部署了大量特斯拉 Megapack 电池储能,媒体报道其储能规模约 2000 兆瓦功率、3.3 吉瓦时容量,被称为全球最大的电网级电池系统之一。散热方面,集群采用超微设计的端到端芯片级液冷,据报道可将 PUE 控制在 1.12 左右。

粗放扩张的代价是监管风险。美国环保署裁定 xAI 曾违规运行未获空气质量许可的天然气涡轮机;环保组织已在联邦法院提起诉讼;根据与州监管机构达成的协议,约 69 台临时涡轮机须在 2027 年年中前逐步退出,由永久性电厂替代。这套"先上车后补票"的供电模式,正在成为超大规模集群建设的争议焦点。

从自用训练到算力出租:商业模式的变化​

Colossus 2 的角色已从 xAI 专属训练设施转变为对外收费的算力平台。据彭博等媒体报道,谷歌以每月约 9.2 亿美元租用约 11 万颗 GPU(合同期至 2029 年,总额超过 300 亿美元);Anthropic 的租约据报接近每月 12.5 亿美元;另有未具名客户自 12 月起每月支付约 11 亿美元。2026 年 2 月 SpaceX 完成对 xAI 的收购后,这套资产被并入上市公司体系,据其 IPO 路演材料披露,AI 板块 2025 年营收 32 亿美元、经营亏损 64 亿美元。

一个耐人寻味的技术细节是:据 2026 年 5 月的报道,xAI 集群的模型浮点运算利用率仅约 11%,内部备忘录称该数字"低得尴尬",反映出血膨胀的加速器规模与软件调度效率之间的落差。

小结​

Colossus 2 证明了两件事:其一,吉瓦级训练集群可以在一年内从图纸变为现实,算力竞赛的节奏由能源与供应链而非技术能力决定;其二,超大规模集群的商业模式正在从"训练自家模型"转向"对外批发算力",谷歌、Anthropic 租用竞争对手体系内的 GPU,说明前沿 AI 的算力短缺已经到了不讲阵营的地步。全球范围内,微软、Meta、谷歌与中国的万卡集群同步扩张,但论单点规模与建设速度,孟菲斯目前没有对手。

GB200 NVL72 架构拆解:72 卡为何是一个"GPU"

· 阅读需 4 分钟
Industry Research Team

黄仁勋在发布时说,GB200 NVL72 是一台"大 GPU"。这不是营销修辞:72 颗 Blackwell GPU 通过九层 NVSwitch 连成单一 NVLink 域,任何两卡之间的通信都不必经过机柜外网络。理解这台机器,关键在理解它如何消灭"节点边界"。

机柜解剖:18 个计算托盘、9 个交换托盘​

GB200 NVL72 的基本单元是 GB200 超级芯片:一颗 72 核 Grace CPU(Arm Neoverse V2)通过 NVLink-C2C 以 900GB/s 的缓存一致性互联挂载两颗 B200 GPU。18 个 1U 计算托盘各装两颗超级芯片,合计 36 颗 Grace 与 72 颗 B200;机柜中部竖插 9 个 NVSwitch 托盘,用约 3 公里长的铜缆把所有 GPU 织成一张完整无阻塞的 NVLink 5.0 交换网。

指标GB200 NVL72 单机柜
GPU/CPU72 颗 B200 + 36 颗 Grace(72 核 Neoverse V2)
FP4 算力(稀疏)1.44 EFLOPS
FP8 算力(稀疏)约 720 PFLOPS
GPU 显存合计13.4TB HBM3e(每 GPU 192GB)
CPU 内存合计约 17TB LPDDR5X(每 Grace 480GB)
NVLink 总带宽130TB/s(每 GPU 1.8TB/s 双向)
机柜功耗约 120kW,强制液冷
机柜价格据公开报道约 200 万至 300 万美元

在上一代 HGX H100 体系里,8 卡节点内部靠 NVLink 互联,跨节点只能走 InfiniBand,带宽低一到两个数量级。任何需要 8 卡以上张量并行的任务,一旦集合通信溢出节点,单卡有效带宽会骤降一个数量级,通信时间反过来吞掉算力收益。

NVL72 的解法是把域直接扩大 9 倍:72 卡全对全互联后,万亿参数稠密模型或巨型 MoE 的张量并行、长上下文注意力的 KV Cache 共享,都可以在机柜内完成。配合 Grace 的缓存一致性设计,HBM 与 LPDDR5X 组成约 30TB 的统一可寻址内存池,CPU 与 GPU 之间无需显式拷贝。这就是"一个大 GPU"的实质:对并行策略而言,机柜边界消失了。

Grace CPU 的角色同样关键。它不是通用主机,而是专为 AI 服务器设计的 Arm 处理器:每颗 480GB LPDDR5X 提供约 4TB/s 的内存带宽,远高于 x86 服务器;数据预处理、token 化、KV Cache 管理这类原本消耗 GPU 时间的任务,被下放给 Grace,让 GPU 专注矩阵运算。

什么业务才配得上这 120kW​

NVL72 解决的是"单节点装不下"的问题,而不是所有问题。据公开报道,全机柜价格 200 万至 300 万美元,功耗约 120kW,整机 1.36 吨——标准数据中心大门都进不去,液冷改造按每兆瓦数百万美元计。

适合 NVL72不适合 NVL72
万亿参数稠密模型训练与推理70B 以下稠密模型(8 卡节点足够)
大规模 MoE 的全对全路由常规 200B 以下 MoE 微调
超长上下文、单域 KV Cache 共享标准企业级推理服务
前沿实验室的多机柜 AI 工厂预算敏感的租赁型业务

一个实用的判断门槛:当你的张量并行度或 KV Cache 体积明显超过 8 卡节点的物理上限时,NVL72 才开始产生不可替代的价值。多数企业负载(百亿到两三千亿参数)用 HGX B200 节点做扩展,每 token 成本反而更低。

小结​

GB200 NVL72 的本质是把"集群"压缩成"一台设备":用 130TB/s 的机柜内 NVLink、30TB 统一内存和 Grace 的算力卸载,消灭节点间通信这个老敌人。它是为万亿参数时代和 AI 工厂设计的基建产品——确认你的模型真的需要 72 卡一个域,再确认你的机房能承受 120kW 液冷,这两关都过了,它就是目前最强的单机柜答案。

GB300 Grace Blackwell Ultra 全解:从 20 PFLOPS 桌面超算到数据中心旗舰

· 阅读需 6 分钟
Industry Research Team

同一颗 GB300 Grace Blackwell Ultra 芯片,既能撑起 350 万美元级的数据中心机柜,也能塞进一台放在办公桌上的 DGX Station。2026 年 10 月微软活动上预览的 DGX Station for Windows,让这个"双面故事"变得更加完整。本文依据站内芯片数据库,梳理 GB300 在 Blackwell 家族中的定位、桌面与数据中心的产品分层,以及 WSL 桥接对 Windows 企业市场的意义。

GB300 在 Blackwell 家族中的定位​

GB300 是 NVIDIA 第三代 Grace Blackwell 超级芯片,2025 H2 发布。其代际演进脉络清晰:

指标GH200 (2023-Q3)GB200 (2024-Q4)GB300 (2025 H2)
GPUH100B200B300 Ultra
CPUGrace 72 核Grace 72 核Grace 72 核
GPU 内存96GB HBM3192GB HBM3e288GB HBM3e
GPU 带宽3.35 TB/s8 TB/s10 TB/s
NVLink 域内60 TB/s130 TB/s130 TB/s
网络ConnectX-7 400GConnectX-8 800GConnectX-9 1.6T
FP4 sparse(单 GPU)N/A(FP8 2 PF)10 PF15 PF
TDP(GPU)1000W1000W1400W

GB300 超级芯片 = 2 颗 B300 Ultra GPU + 1 颗 Arm Grace CPU(72 核 Neoverse V2),通过 900 GB/s 的 NV-HBI 高速接口配对。据站内芯片数据库,单 Superchip FP4 sparse 算力 30 PFLOPS、FP8 dense 7.5 PFLOPS、GPU 侧总显存 576GB HBM3e,Superchip 模块单价约 7-8 万美元。

B300 Ultra:288GB HBM3e 的推理特化​

B300 Ultra(Blackwell Ultra)是 Blackwell 的中期升级版本,2026 年 1 月正式出货。据站内芯片数据库:

  • 显存:288GB HBM3e(12-Hi 堆叠),相比 B200 的 192GB 提升 50%,可单卡加载 FP16 的 70B 模型并保留 100GB+ 给 KV Cache;
  • 算力:FP4 稀疏 30 PFLOPS、FP8 密集 7 PFLOPS,相比 B200 均提升约 56%;
  • 实测:DeepSeek-R1 Prefill 吞吐 22,476 TGS,相比 H200 提升 8 倍;短输出场景提升 20 倍。

需要说明的是,站内 b300-ultra 卡按单卡口径记录 FP4 稀疏 30 PFLOPS,而 gb300 卡的代际对比表按单 GPU 口径记 15 PFLOPS(Superchip 两颗合计 30 PFLOPS),两个数据源口径存在差异,读者引用时需注意区分。B300 的制程仍为台积电 4NP,升级重心放在显存容量与 FP4 精度上——这正是"中期升级"的典型特征:架构不动,围绕推理经济性做增量。

NVL72 机柜:数据中心旗舰形态​

36 颗 GB300 组成 NVL72 机柜(72 颗 B300 Ultra + 36 颗 Grace),据站内芯片数据库:

项目配置
HBM 总量20.7 TB HBM3e
LPDDR5X 总量34.6 TB
NVLink 5 域内130 TB/s 全互联
ConnectX-9 出口72× 1.6T = 115 Tb/s
FP4 sparse 总算力1.08 EFLOPS
机柜 TDP约 120kW(含冷却)
价格约 330 万美元/机柜

ConnectX-9 是这代机柜的隐性升级:单端口 1.6 Tb/s 相比 ConnectX-8 翻倍,延迟低于 0.5 微秒,支持 NVLink over IB 跨机柜互联。8 个机柜可组成 NVL576 域——576 颗 B300 Ultra 共享 130 TB/s 互联,是业界最大单一 NVLink 域,对万亿参数 LLM 训练至关重要。云端租用方面,行业口径(Nebius)B300 的租用价格约为 9.50 美元/GPU 小时,站内芯片数据库另记录 AWS 8 卡 B300 实例(p6-b200.48xlarge)单 GPU 小时价 11.70 美元,不同供应商价差明显。

在 token 成本维度,站内数据给出了关键洞察:B300 单价虽高,但以 Llama 70B 推理测算,FP4 量化下单 token 成本相比 H100 低约 61%——单价高不等于用得贵。

DGX Station:20 PFLOPS 的桌面超算​

2026 年 10 月的微软活动上,NVIDIA 预览了 DGX Station for Windows,核心配置:

  • 芯片:GB300 Grace Blackwell Ultra Desktop Superchip;
  • 一致性内存:748GB(252GB HBM3e + 496GB LPDDR5X);
  • 算力:最高 20 PFLOPS FP4;
  • 模型能力:可在本地运行约 1 万亿参数模型;
  • 软件:Linux 工具链经 WSL(Windows Subsystem for Linux)访问;
  • 上市:2026 Q4,ASUS、Dell、HP、Lenovo 推出整机。

产品分层:1 PFLOPS 与 20 PFLOPS 之间​

DGX Station 的出现补全了 NVIDIA 桌面产品线的断层。站内芯片数据库记录的 RTX Spark(RTX DGX Spark)定位约 1 PFLOPS 级 FP4 算力的紧凑桌面开发机,而基于 GB300 Desktop Superchip 的 DGX Station 直接把桌面算力抬到 20 PFLOPS——20 倍的分层差距,对应着完全不同的用户画像:

维度RTX SparkDGX Station (GB300)
算力约 1 PFLOPS FP4最高 20 PFLOPS FP4
内存统一紧凑内存748GB 一致性内存
目标场景个人开发、微调小型模型本地万亿参数推理、企业级开发
价格量级消费级/准专业级高端工作站

WSL 桥接:Windows 企业市场的钥匙​

DGX Station for Windows 最值得玩味的细节是"Linux 工具链经 WSL 访问"。CUDA 生态的主场在 Linux,此前企业若要在 Windows 环境做本地 AI 开发,往往需要双机或虚拟化方案。WSL 桥接意味着:

  1. 企业 IT 无需改变管理习惯:Windows 域、组策略、合规审计体系原样保留;
  2. 开发者无需迁移工作流:PyTorch、TensorRT-LLM 等工具链在 WSL 内原生运行;
  3. 数据不出本地:金融、医疗、政务等对数据合规敏感的行业,获得了一条"本地跑万亿参数模型"的合规路径。

这与 GB300 数据中心侧的统一内存设计一脉相承:Grace 上 480GB LPDDR5X 与 B300 上 288GB HBM3e 统一寻址,CPU 与 GPU 共享一致性内存池。桌面版把同样的架构哲学浓缩进一台工作站——数据搬运越少,推理经济性越好。

小结​

GB300 家族展示了 NVIDIA 的典型打法:一颗芯片,从数据中心机柜到桌面工作站全栈铺开。数据中心侧,B300 Ultra 用 288GB HBM3e 和 FP4 精度把推理 token 成本压到 H100 的四成以下;桌面侧,DGX Station 用 20 PFLOPS FP4 和 748GB 一致性内存把"本地大模型"从口号变成 Q4 可买的产品。而 Rubin R200 已在 H2 2026 接棒数据中心旗舰,GB300 的价值窗口正在收窄——但它建立的"统一内存 + 桌面到机柜分层"产品范式,将由 Vera Rubin 平台延续下去。

微软 Fairwater:为 AI 重新发明的数据中心

· 阅读需 4 分钟
Industry Research Team

传统数据中心为百万种应用服务,Fairwater 只为一件事而生:把数十万颗 GPU 拧成一台跨越州界的巨型计算机。这代表微软对 AI 基础设施的全新定义。

两座站点,一座超级工厂​

Fairwater 系列首站位于威斯康星州芒特普莱森特,2025 年 9 月对外公布,初始投资 33 亿美元,后续微软又追加 40 亿美元,威斯康星总投入超过 70 亿美元。据微软官方信息,该园区占地 315 英亩,三座建筑屋顶面积合计约 120 万平方英尺,采用双层高密度架构;设备于 2026 年 4 月启动上线调试,首座设施于 2026 年 6 月 23 日宣布全面投运。第二座 Fairwater 站点位于佐治亚州亚特兰大,已于 2025 年 10 月率先运营。

真正的巧思在于联网。两座站点通过专用光纤 AI 广域网直连,构成微软首座跨州"AI 超级工厂":大型训练任务可拆分到两地协同执行,微软称此举可将部分训练周期从数月压缩到数周。威斯康星园区还规划了第二座设施,预计 2028 年建成,微软并计划在美国其他地区复制这一模式。

Fairwater 关键事实数据
威斯康星首站投运2026 年 6 月 23 日
亚特兰大站点投运2025 年 10 月
威斯康星园区规模315 英亩,约 120 万平方英尺
威斯康星投资初始 33 亿美元,总计超过 70 亿美元
加速器规模数十万颗英伟达 GB200 与 GB300
单机架 GPU 数量72 颗 Blackwell GPU(NVLink 域)

工程细节:密度、液冷与扁平网络​

Fairwater 与传统云数据中心的差异体现在三个维度。计算密度上,每个机架在单一 NVLink 域内封装 72 颗英伟达 Blackwell GPU,为当时云平台最高机架吞吐水平;散热上,园区采用设施级闭环液冷,冷却液初次灌注后循环使用,微软宣称该设计将数据中心对当地水资源的消耗降到极低水平;网络架构上,单一扁平的高速网络让数十万颗加速器可以像一台机器一样协同工作。

这种设计的本质是把云数据中心的"多租户、多应用"模型彻底翻转为"单一巨型任务"模型:传统机房同时运行数百万个互不相关的工作负载,而 Fairwater 让一个前沿模型训练任务横跨百万级硬件部件。微软将其纳入更宏大的 Azure AI 超级工厂架构,与早期 AI 超算及 Azure 全球算力池互连,目标是让每吉瓦电力产出最大数量的有效 AI token。公司提出的路线图是每 18 到 24 个月将 AI 训练能力提升 10 倍。

电力与竞争背景​

支撑这一切的底层约束是电力。据公开报道,微软已签署多项天然气发电协议(总规模接近 5 吉瓦),并通过建设太阳能电厂与预付电网费用锁定供电,以分散跨州选址带来的电力需求压力。竞争对手的动向同样激进:xAI 的 Colossus 2 已成为全球首个吉瓦级训练集群,Meta、谷歌、亚马逊均在以吉瓦为单位扩张。UBS 等机构追踪 Fairwater 部署节奏并将其纳入 Azure 增长预测,显示资本市场已把 AI 数据中心建设视为云厂商竞争的核心变量。

小结​

Fairwater 的意义超出了一座数据中心:它验证了"分布式超级工厂"这一全新基建形态——训练任务不再受限于单一园区的电力与空间,而是可以在数百英里外的站点间自由调度。当 AI 竞赛的胜负手从芯片数量转向电力、散热与互联的系统工程,微软用 Fairwater 给出了自己的答案模板。

RTX PRO 6000 Blackwell:工作站级 AI 算力天花板的正确用法

· 阅读需 4 分钟
Industry Research Team

当数据中心 GPU 被出口管制和 SXM 生态层层包裹时,一张 96GB 显存、走标准 PCIe 的 Blackwell 专业卡,成了许多团队拿到最新架构的现实路径。RTX PRO 6000 不是缩小版 H100,它有自己的生态位。

规格:把数据中心架构装进双槽卡​

RTX PRO 6000 基于 GB202 大核心,搭载第五代 Tensor Core,完整支持 FP4/FP8 低精度推理,这是它区别于上一代 Ada 专业卡的本质跃升。96GB GDDR7 ECC 显存、512-bit 位宽、1.79TB/s 带宽,让它成为显存容量最大的单插槽 PCIe GPU 之一。

规格RTX PRO 6000 Blackwell(工作站版)参考:H100 SXM
显存96GB GDDR7 ECC80GB HBM3
显存带宽1.79TB/s3.35TB/s
FP32125 TFLOPS67 TFLOPS
AI 算力(FP4/INT8 稀疏)约 4,000 TOPSFP8 3,958 TFLOPS
CUDA 核心24,06416,896
功耗600W700W
接口PCIe Gen 5 x16SXM(PCIe 版无 NVLink)
光追第四代 RT Core,380 TFLOPS无

两个版本需要分清:工作站版面向桌面塔式机箱,双槽双风扇,600W,配 DisplayPort 2.1 可接 8K 显示器;服务器版(Server Edition)面向数据中心风冷或液冷机箱,去掉显示输出,专为高密度部署调校。另据公开报道,MSRP 约 9,999 美元,相比 H100 时期动辄二十几万的整机门槛,单卡可负担性显著改善。

能干什么:从本地 70B 到渲染农场​

显存是这张卡的灵魂。96GB 意味着单卡可跑 70B 级模型 Q4 量化并留足 KV Cache 余量,34B 级模型可 FP16 全精度运行;四卡组网(PCIe 点对点)可容纳 Q4 量化的千亿级模型。对 Agent 开发者、数据科学团队和小型 AI 工作室,这意味着把微调与推理搬回本地、摆脱云端计费的第一块拼图。

它的短板同样清晰。GDDR7 带宽 1.79TB/s,明显低于 HBM 系的 3.35TB/s 至 4.8TB/s,decode 速度(每秒 token 数)受此制约;没有 NVLink,多卡扩展只能走 PCIe,不适合大规模张量并行训练。一句话概括能力边界:单卡大模型推理与小规模微调是甜点,分布式训练不是它的战场。

场景适配度说明
本地 LLM 推理(70B Q4)高容量充足,带宽决定单流速度
LoRA/SFT 微调(34B 级)高96GB 可容纳完整训练态
大规模分布式训练低无 NVLink,PCIe 互联成瓶颈
3D 渲染与视频工程高125 TFLOPS FP32 加第四代 RT Core
MIG 多租户切分中最多 4 实例,每实例 24GB

与 H100/H200 怎么选​

如果预算覆盖 HGX H200 且需要多卡并行训练,服务器平台仍不可替代。但如果需求是"一两张卡、本地推理、兼顾图形",RTX PRO 6000 的单位显存价格优势明显:96GB 显存约为 H100 80GB 的 1.2 倍,而价格通常只有后者的几分之一。它还有 H100 没有的完整图形栈——同一个团队白天做渲染、晚上跑推理,一张卡通吃。出口管制语境下,其消费级产线的可获得性也是许多团队的现实考量。

小结​

RTX PRO 6000 Blackwell 的定位是"工作站里的数据中心 GPU":把 Blackwell 的 FP4 算力与 96GB 显存带给不拥有机柜的团队。它用带宽和互联换来了价格与部署便利性——只要你的负载是单卡可解的推理、微调与图形,它就是当前桌面 AI 算力的天花板。

机架即计算机:NVL72、Helios、昇腾超节点的系统级战争

· 阅读需 6 分钟
Industry Research Team

当GPU单卡性能提升越来越难,NVIDIA、AMD与华为不约而同地把战场转向了机架。Bain 2026报告指出,竞争优势正从芯片规格转向系统级整合——compute、memory、networking、power与software的整体协同,才是AI算力下半场的胜负手。

三方系统规格对照​

先看三家旗舰机架级系统的硬规格:

维度NVIDIA Vera Rubin NVL72AMD Helios华为昇腾960超节点
计算单元Rubin GPU + Vera CPU72× MI455X + EPYC "Venice"(Zen 6,最高256核)昇腾960
互联NVLinkUALink over Ethernet超节点互联 + Hi-ONE光引擎
内存/带宽HBM4;AMD官方对比口径单卡288GB HBM4、22TB/s带宽31TB HBM4,每GPU 23.3TB/s1PB HBM
算力—整机架2.9 EF FP4、1.4 EF FP88 EFLOPS FP8(FP4为16 EFLOPS)
规模72卡72卡4096卡,集群可扩至51.2万卡
出货时间2026年下半年Hot Chips 2026公布规格—
性能提升Qwen3-VL吞吐较GB300最高3.7倍;推理token成本降低最高10倍scale-out 43TB/s(较竞品多50%以上)全球首个NPO超节点

注:表中"—"为素材未公开项,不作估算。三家口径与测试条件不同,数值仅供方向性参考。

NVIDIA NVL72:垂直整合与生态开放并行​

NVIDIA Vera Rubin NVL72延续"机架即计算机"的路线:Rubin GPU搭配自研Vera CPU,通过NVLink将72颗GPU熔铸成一个计算整体。MLPerf v6.1中,其Qwen3-VL吞吐较GB300 NVL72最高提升3.7倍,NVIDIA更宣称推理token成本最高降低10倍。

但NVIDIA也在调整姿态:NVLink Fusion向合作伙伴开放,允许集成自定义CPU与芯片;同时推进NVHBM定制内存控制器计划(与亚马逊Annapurna Labs合作)。这是垂直整合帝国的"有限开放"——互联与内存标准仍然是NVIDIA掌控的枢纽,但入口已经打开。

AMD Helios:开放标准路线的全面出击​

AMD Helios选择了另一条路:基于OCP开放标准构建,与Meta共同研发ORW(Open Rack Wide)设计。整机构成包括:

  • 计算:72颗MI455X,整机架2.9 EF FP4、1.4 EF FP8;
  • CPU:EPYC "Venice"(Zen 6架构,最高256核);
  • 网络:Pensando Vulcano 800G AI NIC,UALink over Ethernet互联;
  • 内存:31TB HBM4,每GPU 23.3TB/s,scale-up总带宽260TB/s,scale-out带宽43TB/s——较竞品多50%以上;
  • 机架:44OU ORW双宽机架,18个计算托盘加6个交换托盘,液冷快速接头,50V直流母线,整机重超7000磅(Hot Chips 2026口径)。

Helios的意义在于证明:不依赖专有互联协议,开放标准同样能撑起机架级系统。对担心NVIDIA锁定的云厂商与主权AI项目而言,UALink over Ethernet提供了真正的第二选择。

华为昇腾960超节点:换道超车的超大规模​

华为给出了截然不同的设计哲学——直接跳过"机架"这个尺度,以4096卡的超节点为单位构建系统:

  • 全球首个NPO超节点,算力达8 EFLOPS FP8(FP4精度16 EFLOPS);
  • 1PB HBM,内存容量以"PB"计;
  • 5500个Hi-ONE光引擎(单引擎7.2T)替代4.8万颗800G光模块,节省550kW功耗;
  • 可用度99.8%;
  • 集群可扩展至51.2万卡,多轨道拓扑支持100万卡。

4096卡 vs 72卡,不只是数字差异,而是设计哲学的分歧:NVIDIA与AMD把一个机架做成一台"计算机",华为则把半个数据中心机房做成一个"计算节点"——用光互联(NPO)解决跨机架带宽衰减问题,用超节点内部的高速交换换取更大规模的统一调度域。

Bain的判断:从芯片规格到系统级整合​

Bain 2026报告给出了理解这场战争的钥匙:竞争优势正从芯片规格转向系统级整合。compute、memory、networking、power与software五个维度的协同设计能力,取代单卡FLOPS成为竞争的决定性因素。

与之相伴的是评价体系的迁移:"每瓦token数"(tokens per watt)正在成为新的北极星指标。当电力成为第一约束,每消耗一瓦电力能产出多少token,直接决定了AI工厂的经济性——这比"峰值算力"诚实得多,因为前者同时反映了芯片效率、互联损耗、内存带宽与软件调度的综合水平。

两条路线:开放标准 vs 垂直整合​

机架级战争背后是两条路线的对抗:

路线代表互联标准优势风险
垂直整合NVIDIA(NVLink/灵衢UnifiedBus)、华为专有协议端到端协同优化,性能上限高生态锁定,客户议价力弱
开放标准AMD Helios(UALink/UEC/OCP)开放协议供应链多元,无锁定优化深度依赖联盟执行力

值得注意的是,NVIDIA的NVLink Fusion开放与华为的灵衢UnifiedBus生态,都在尝试"专有内核+开放外围"的中间态——完全的封闭或完全的开放可能都不是终局,机架级时代的第一性原理是:谁能定义互联标准,谁就掌握议价权。

小结​

NVL72、Helios与昇腾960超节点的三方对垒,宣告AI算力竞争进入"机架即计算机"的系统级时代:NVIDIA以Rubin GPU+Vera CPU+NVLink延续垂直整合,Qwen3-VL吞吐最高3.7倍、token成本最高降低10倍;AMD Helios以UALink over Ethernet与OCP开放标准证明第二条路可行,2.9 EF FP4、260TB/s scale-up带宽毫不逊色;华为昇腾960则以4096卡NPO超节点、1PB HBM的极端规格换道超车。Bain 2026报告说得透彻——竞争优势已从芯片规格转向系统级整合,"每瓦token数"成为新的北极星指标。72卡与4096卡的设计哲学差异,本质上是开放与整合两条路线对未来AI基础设施形态的不同押注。这场战争没有旁观者,采购方、云厂商与主权AI项目的每一次选择,都在为两条路线投票。

2026年H1 AI芯片行业复盘:Blackwell Ultra、国产三强与推理新时代

· 阅读需 12 分钟
Industry Research Team

2026年上半年,AI芯片产业发生了历史性转折——产业重心从"训练竞赛"转向"推理效率",国产芯片市场份额首次突破40%,NVIDIA以Blackwell Ultra筑高壁垒,推理专用芯片赛道百花齐放。


一、算力再翻番:NVIDIA Blackwell Ultra 发布(6月1日)​

2026年6月1日,NVIDIA CEO黄仁勋在**台北国际电脑展(Computex 2026)**上揭晓新一代AI芯片 Blackwell Ultra,为未来两年的AI基础设施竞赛划定新起跑线。

关键规格​

指标Blackwell UltraB200提升
FP8算力20 petaFLOPS~10 petaFLOPS100%
架构Blackwell UltraBlackwell升级
预计交付2027年Q12026年Q1—
定位超大规模训练+推理训练+推理旗舰

产业意义​

  1. 算力翻倍的直接影响:20 petaFLOPS FP8意味着千亿参数模型训练时间大幅缩短,万亿参数模型训练从"科学实验"走向"工程常态"
  2. 系统级平衡:Blackwell Ultra不仅是芯片,更是NVLink、HBM、散热、供电的系统级工程突破
  3. 路线图确定性:2027年Q1交付时间表,让云厂商和AI实验室可以提前18个月规划基础设施预算

挑战​

  • 能耗危机:性能翻倍伴随功耗大幅上升,数据中心供电和冷却设计面临极限挑战
  • 可及性问题:顶级算力优先供应顶级云厂商,中小开发者和研究机构如何通过云服务以合理成本触达算力
  • 软件栈适配:新硬件需要匹配的CUDA版本和框架支持,软件生态成熟度成为算力转化的关键瓶颈

二、国产AI芯片:从"可用"到"好用"的临界点​

2026年6月16日,信创世界发布**《2026中国国产AI芯片厂商能力象限》**,清晰勾勒出国产AI芯片的整体格局。

2.1 能力象限排名​

象限代表厂商
领导者象限华为昇腾、海光信息、寒武纪、阿里平头哥、摩尔线程
远见者象限百度昆仑芯、壁仞科技、燧原科技、沐曦股份、瀚博半导体
竞争者象限清微智能、黑芝麻智能、芯驰科技、砺算科技、后摩智能
挑战者象限登临科技、知存科技、芯原股份、瑞芯微、云天励飞

2.2 华为昇腾:国产算力的定海神针​

市场地位​

  • 2025年昇腾系列出货 81.2万张,占国产AI加速卡 49% 份额,稳居国产第一
  • 昇腾950PR单卡FP8算力达 1P(PetaFLOPS)、FP4算力达 2P
  • 推理性能约为NVIDIA H20的 2.87倍,定价仅 7.2-7.5万元,性价比优势显著

全栈优势​

华为"端管云芯"一体化战略是昇腾的核心壁垒:

  • 芯片设计:Da Vinci 3.0架构持续迭代
  • 操作系统:鸿蒙/欧拉OS深度优化
  • 网络通信:欧拉网络协议栈
  • 云服务:华为云ModelArts平台无缝集成

最新进展​

  • 2026年6月5日,深圳河套学院联合哈工大(深圳)、华为团队,依托昇腾910C集群完成 1.6万亿参数DeepSeek V4 Pro大模型全参数后训练
  • 这是国产AI芯片首次完成万亿参数级大模型训练,标志着"国产替代"从推理迈向训练

2.3 寒武纪:率先盈利的国产AI芯片标杆​

业绩爆发​

指标2025年全年2026年Q1同比增长
营收64.97亿元28.85亿元+453% / +160%
净利润20.59亿元(首次年度盈利)10.13亿元— / +185%

核心产品:思元590​

  • 在DeepSeek R1推理场景下,TPS可达 942,比H20高出约 50%
  • 与字节跳动多年联合优化,具备短期最强的云端推理部署能力
  • 2026年Q1营收28.85亿元中,思元590贡献超过70%

潜在风险​

在2026年第2号《安全可靠测评结果公告》中缺席,原因尚未明确,将对其国内政企市场表现产生影响。

2.4 清微智能:可重构芯片的"第三路线"​

技术路线​

清微智能采用与Groq LPU同源的可重构数据流架构,在GPU通用性与ASIC极致效率之间找到了平衡点。

指标清微智能 TX81传统GPU方案优势
推理成本基准+100%降低50%
能效比基准基准提升3倍
架构可重构数据流SIMT/SIMD更适合推理

落地进展​

  • 可重构芯片累计出货量已超 3000万颗
  • 在全国十余座千卡规模智算中心实现规模化落地
  • 已启动A股IPO辅导,有望成为"可重构芯片第一股"

三、推理芯片赛道:产业重心转移的核心信号​

2026年6月4日,TrendForce发布深度报告**《推理经济时代来临:AI芯片的规则正被重写》,指出AI产业的算力竞争重心正在从训练转向推理**。

3.1 为什么是现在?​

成本结构改变​

  • 训练是一次性成本:模型训练完成后,边际成本趋近于零
  • 推理是持续性成本:每一次API调用、每一个生成token,都代表算力消耗与毛利压力
  • 单位推理成本与能效表现将直接影响毛利率与规模扩张能力

模型精简技术成熟​

  • 1.58-bit量化技术与权重剪枝,使模型可在极低内存占用下维持推理准确度
  • MoE(混合专家)架构通过"部分唤醒"机制,每次推理仅激活少数专家子网络,大幅降低实际运算量
  • 精简模型的崛起,为硬式编码推理芯片提供了商业可行性

3.2 NVIDIA的百亿押注:收购Groq(2025年12月)​

2025年12月24日,NVIDIA以 200亿美元取得Groq的Inference技术授权与核心团队,这是NVIDIA历史上最大规模的并购/技术收购之一。

战略意图:

  1. 补全推理短板:NVIDIA GPU在训练领域无可撼动,但推理效率一直不是最强
  2. 对抗专用推理芯片:Cerebras、Taalas、SambaNova等初创公司正在蚕食推理市场
  3. 布局Agentic AI:Agentic AI需要极低延迟、极高吞吐的推理能力

3.3 Taalas HC1:硬式编码推理的概念验证​

2026年2月20日,加拿大AI芯片初创公司Taalas发布推理芯片 Taalas HC1,将Meta的开源AI模型Llama 3.1 8B直接刻印在芯片中。

关键指标​

指标Taalas HC1NVIDIA B200(throughput optimized)优势
推理速率16,960 tokens/s/user基准~4-5x
每百万tokens成本0.75 cents3.79 cents降低80%
功耗~250W~700W降低64%
制程TSMC N6TSMC 4nm更成熟
HBM❌ 不使用✅ HBM3e成本更低

技术原理​

Taalas HC1采用**存储内运算(Computing-in-Memory, CIM)**的激进实现:

  • 将模型权重直接固化于Mask ROM中(完全硬体定义)
  • 以片上SRAM处理动态资料(KV cache和LoRA微调权重)
  • 仅需修改2层光罩就能产出另一个AI模型的专用芯片,将一个AI模型转化为实体芯片仅需2个月

局限性​

  • 缺乏弹性:硬式编码无法应对快速迭代的模型更新
  • 生态壁垒:当前云端市场仍依赖通用平台,客户可能更偏好可随模型升级的弹性方案
  • NRE成本:一次性工程费用高,需要足够大规模的部署才能摊薄

3.4 Cerebras:晶圆级整合的上市之路​

2026年5月14日,Cerebras Systems正式在纳斯达克挂牌上市,成为首家上市的晶圆级AI芯片公司。

核心技术:Wafer-Scale Integration(WSI)​

  • WSE-3(第三代晶圆级引擎):整片12英寸晶圆做成单一芯片
  • 44GB片上SRAM:无需外部HBM,彻底消除内存带宽瓶颈
  • 21 PB/s带宽:片上通信带宽,是GPU的千倍级别
  • 与OpenAI合作:已签署逾200亿美元、规模750MW的三年算力合作协议

上市意义​

Cerebras的上市是推理专用芯片赛道成熟的标志:

  1. 资本市场开始为这类公司定价
  2. 证明"非GPU"技术路线具备商业可行性
  3. 为其他推理芯片初创公司(Groq、SambaNova、Taalas等)提供了估值参照

3.5 推理芯片格局:多元技术路线并存​

公司技术路线核心优势代表产品
Taalas硬式编码(Mask ROM)极致推理效率、低成本HC1
Cerebras晶圆级整合(WSI)超高带宽、大模型推理WSE-3
GroqSRAM-first架构确定性延迟、高吞吐LPU(已被NVIDIA收购)
d-Matrix数字存储内运算(DIMC)灵活性强于硬式编码Corsair
EtchedHard-wired Transformer所有Transformer模型适用Sohu
Axelera AI数字存储内运算(D-IMC)+ RISC-V高能效比Metis AIPU

TrendForce预测:

  • 通用GPU仍主导训练与多模型环境
  • 但在成熟、可预测场景中,通用GPU的利润空间将受到压缩
  • 产业格局从通用算力垄断,走向通用与专用并行的双轨结构

四、2026年H1国产AI芯片整体格局​

4.1 行业进入放量期​

指标2025年2026年Q1趋势
国产AI加速卡出货量165万张(占比41%)—持续上升
中国AI加速卡总出货量~400万张——
海光信息营收增速—翻倍增长↑
寒武纪营收增速—+160%↑
摩尔线程营收增速—翻倍增长↑

头部厂商集体进入业绩兑现通道,行业从"技术验证"迈向"规模商用"。

4.2 三大核心发展趋势​

趋势一:资本化浪潮重塑格局​

  • 2025年底至2026年初,摩尔线程、沐曦股份登陆科创板
  • 壁仞科技登陆港股
  • 燧原科技科创板IPO获受理
  • 昆仑芯、平头哥启动上市进程
  • 清微智能、瀚博半导体等推进IPO

资本化带来双重效应:

  • ✅ 正面:为研发和生态建设提供支撑
  • ⚠️ 负面:估值泡沫和业绩兑现压力

趋势二:产能成为最大制约变量​

国产AI芯片爆发式需求与有限先进制程产能的矛盾日益尖锐:

厂商先进制程产能需求实际获得
华为昇腾每月1.5万片(7nm级)优先保障
中芯国际总产能每月约2万片(7nm级)—
其他厂商合计约5000片/月极度紧张

能否拿到稳定晶圆产能直接决定厂商生死。寒武纪75.4%的营收占比存货,本质是对产能的锁定。

趋势三:竞争从"可用"转向"好用"​

早期竞争聚焦"能否跑通模型",当前升级为"运行效率、部署成本"的比拼:

竞争维度"可用"时代"好用"时代
硬件性能能否跑通模型运行效率、能效比
软件栈基本适配成熟度、框架广度
生态有无开发者社区活跃度
部署成本不敏感核心竞争要素

五、2026年H2展望​

5.1 即将到来的关键事件​

时间事件影响
2026年Q3NVIDIA Rubin架构详情公布下一代旗舰规格揭晓
2026年Q3华为昇腾950PR/950DT正式发布国产推理芯片新标杆
2026年Q4AMD MI350X规模化交付NVIDIA Blackwell竞品
2026年Q4寒武纪思元690发布(推测)新一代训练芯片
2027年Q1NVIDIA Blackwell Ultra交付算力新标杆落地

5.2 未来三年关键竞争要素​

  1. 晶圆产能获取能力:先进制程产能是稀缺资源,绑定中芯国际、TSMC的厂商具备先天优势
  2. 资本运作效率:IPO窗口期有限,能否在资本市场上融到足够资金决定研发持续性
  3. 软件生态建设深度:硬件性能只是入场券,软件栈成熟度、框架适配广度、开发者社区活跃度才是核心壁垒

六、结语:多元生态终将形成​

2026年H1,AI芯片产业正在经历从"一家独大"到"多元并存"的历史性转变。

  • NVIDIA以Blackwell Ultra筑高训练壁垒,同时以收购Groq布局推理效率
  • 华为昇腾以全栈能力守住国产算力的基本盘,950PR在推理性能上开始超越H20
  • 寒武纪以率先盈利证明国产AI芯片的商业化可行性,思元590在特定场景超越国际竞品
  • Cerebras、Taalas等推理专用芯片公司开辟了"非GPU"的第三路线
  • 清微智能的可重构架构为中国AI芯片提供了技术路线的多元化选择

未来三年,国产AI芯片终局将形成GPU、ASIC、可重构计算三大技术路线并存,云端与边缘协同发展的多元生态。"国产替代"不再是口号,而是正在发生的产业现实。


数据来源:

  • 信创世界《2026中国国产AI芯片厂商能力象限》(2026-06-16)
  • TrendForce《推理经济时代来临:AI芯片的规则正被重写》(2026-06-04)
  • RayByte《算力再翻番!英伟达Blackwell Ultra芯片发布》(2026-06-02)
  • 各公司官方财报和公告

相关阅读:


NVIDIA Vera Rubin 全面投产:智能体AI工厂时代正式开启

· 阅读需 6 分钟
Industry Research Team

2026年6月1日,NVIDIA创始人兼首席执行官黄仁勋在COMPUTEX 2026(台北国际电脑展)上正式宣布:Vera Rubin平台全面投产。这标志着AI硬件从"离散加速器"向"整体化AI工厂"的根本性范式转变。

核心亮点​

  • Rubin GPU:下一代AI计算芯片,FP4算力是Blackwell的3.6×
  • Vera CPU:88个自定义Arm核心(176线程),替代Grace CPU
  • NVLink 6:GPU间互联带宽达260 TB/s(相比Blackwell翻倍)
  • CX8 SuperNIC:800Gb/s网络,ConnectX-9链路达28.8 TB/s
  • HBM4显存:单芯片288GB,带宽13 TB/s
  • 智能体吞吐量:相比Grace Blackwell提升10×

Vera Rubin 平台完整规格​

Vera Rubin不是一个单独的GPU,而是一个完整的AI工厂平台,包含7款芯片:

芯片名称类型用途
Rubin GPU主力AI计算芯片训练+推理
Rubin Ultra GPU旗舰版超大尺度推理
Vera CPU配合Rubin的CPUHost CPU + 数据预处理
NVLink 6互联芯片GPU间高速互联(260 TB/s)
CX8 SuperNIC网卡800Gb/s网络
XDR 800G 交换机数据中心网络跨机架通信
Rubin平台POD整机柜预配置的AI工厂(144 GPU)

Rubin GPU 详细规格(推测)​

参数Rubin GPURubin UltraBlackwell (B200)
架构RubinRubin UltraBlackwell
制程TSMC 3nm(推测)TSMC 3nmTSMC 4NP
显存288GB HBM4288GB HBM4E(推测)192GB HBM3e
显存带宽13 TB/s13+ TB/s8 TB/s
FP4 算力~3,600 TFLOPS(推测)~5,000 TFLOPS(推测)2,250 TFLOPS
TDP1,000W(推测)1,200W(推测)700-1000W
互联NVLink 6(260 TB/s)NVLink 6NVLink 5(1800 GB/s)
量产时间2026 Q32027 下半年2024 Q4

📌 注:Rubin具体规格尚未完全公开,上表部分为推测值。

Vera CPU:替代Grace的新一代Host CPU​

Vera CPU是NVIDIA自研的Arm架构CPU,取代此前的Grace CPU:

参数Vera CPUGrace CPU
核心数88核(176线程)72核(144线程)
架构自定义Armv9(推测)Arm Neoverse V2
接口NVLink 5.0(1.8 TB/s)NVLink 4.0(900 GB/s)
TDP~500W(推测)350-500W
用途AI工厂Host CPU超算/AI Host

关键升级:Vera与Rubin GPU的协同设计,使其在计算、数据加载、预处理上实现端到端优化,对标Google TPU 8t的Arm Axion集成。

与Blackwell的性能对比​

NVIDIA官方宣称,在相同POD配置(144个GPU芯片)下:

指标Grace Blackwell (GB200 NVL72)Vera Rubin NVL144提升
FP4 算力1.1 PFLOPS3.6 PFLOPS3.3×
显存容量288GB×72 = 20.7TB288GB×144 = 41.4TB2×
显存带宽8 TB/s×7213 TB/s×144~3.3×
NVLink 带宽1800 GB/s×72260 TB/s(全POD)~2×
智能体吞吐量基准10×10×
每瓦性能基准25×(与单独CPU比)25×

💡 为何是"10×智能体吞吐量"? 智能体AI(Agentic AI)工作负载与训练/推理不同:一个提示词可能触发包含推理、检索、工具调用、响应生成的多个环节,涉及数千个步骤。Rubin平台专为这种长链条、高并发工作负载优化。

MGX 第三代机架级系统​

Vera Rubin采用MGX第三代开源机架级系统设计:

  • 五机架协同:Vera Rubin NVL72系统 + Vera CPU + Groq 3 LPX + Vera BlueField-4 STX存储 + Spectrum-6 SPX以太网
  • 全球供应链:30个国家、350+工厂、数百家合作伙伴(Dell、HPE、Lenovo、Supermicro、Asus、Foxconn等)
  • Spectrum-X 以太网硅光技术:全球首款基于CPO(光电一体化封装)、支持200Gb/s SerDes的交换机,现已量产

量产时间表​

时间事件
2026年1月CES 2026首次公布Rubin平台
2026年6月1日COMPUTEX 2026宣布全面投产
2026年秋季Vera Rubin正式启动量产并开始出货
2027年下半年Rubin Ultra发布(HBM4E升级)
2028年Feynman架构(下一代)

AI工厂:从卖芯片到卖"智能生产线"​

黄仁勋在发布会上说了一句让业界震动的话:

"Rubin的Agentic AI吞吐量,是Blackwell的10倍。Rubin是一个完整的AI工厂平台。"

这标志着NVIDIA商业模式的根本转变:

  • 过去:卖GPU(H100/B200),客户自己搭建系统
  • 现在:卖"AI工厂成套解决方案"(Vera Rubin POD),包含GPU、CPU、网络、存储、软件栈
  • 未来:成为全球AI基础设施的"台积电"(提供智能生产能力)

与竞品对比​

厂商产品定位优势劣势
NVIDIAVera RubinAI工厂整体方案生态最完整、软件最成熟价格昂贵、功耗极高
AMDMI455X(MI400系列)训练竞品性价比、开放生态软件生态差距
GoogleTPU 8i/8t云上训练/推理与Gemini深度集成仅Google Cloud
华为昇腾910C/950国产替代中国本土化、昇思框架受出口管制影响

行业影响​

  1. AI实验室:Frontier模型训练时间从"数月"缩短到"数周"
  2. 云服务商:必须决定是否采购Vera Rubin POD(与自研芯片战略冲突)
  3. 超大规模数据中心:AI工厂成为新的竞争维度(谁有最强算力,谁就能训练最强模型)
  4. 国产芯片:昇腾910C/950、寒武纪MLU590等必须在2026-2027年追上Blackwell,否则差距将扩大到Rubin时代

相关芯片​

参考资料​


本文基于NVIDIA官方公告及公开资料整理,部分规格为推测值,以官方最终发布为准。