跳到主要内容

62 篇博文 含有标签「NVIDIA」

NVIDIA AI chips and GPUs

查看所有标签

NVIDIA H200 深度解析:141GB HBM3e 的长青主力与它在中国市场的曲折命运

· 阅读需 5 分钟
Industry Research Team

在 Blackwell 与 Rubin 接连发布的 2026 年,一颗 2024 年发布的 Hopper 芯片依然是全球推理集群里最常见的面孔。H200 的故事说明了一件事:在 LLM 时代,显存容量与带宽往往比峰值算力更能决定服务器的价值。

H200 到底改了什么:加显存,而不是加算力​

H200 是 H100 的"内存增强版",这是理解它的全部起点。两者的 Hopper 架构核心、算力规格几乎一致:BF16 Tensor Core 均为 1,979 TFLOPS(稀疏口径),FP8 Tensor Core 均为 3,958 TFLOPS(稀疏口径)。NVIDIA 没有动计算部分,而是把显存从 80GB HBM3 换成了 141GB HBM3e,带宽从 3.35TB/s 提升到 4.8TB/s——容量约为 1.8 倍,带宽约为 1.4 倍。

这个改动的逻辑直接来自 LLM 推理的物理特性:生成每一个 token 都要把模型权重和 KV Cache 从显存里读一遍,单流解码速度受限于显存带宽而非 TFLOPS;而能装下多大的模型、多大的上下文,则受限于显存容量。H200 在两个维度上同时抬高了上限,于是出现了官方 MLPerf 测试中 Llama 2 70B 推理吞吐接近 2 倍、GPT-3 175B 推理提升约 1.6 倍的成绩。

规格H100 SXMH200 SXMH200 NVL
显存80GB HBM3141GB HBM3e141GB HBM3e
显存带宽3.35TB/s4.8TB/s4.8TB/s
BF16 Tensor(稀疏)1,979 TFLOPS1,979 TFLOPS1,671 TFLOPS
FP8 Tensor(稀疏)3,958 TFLOPS3,958 TFLOPS3,341 TFLOPS
最大 TDP700W700W600W
NVLink900GB/s900GB/s900GB/s(2 路或 4 路桥接)
MIG 切分7 实例7 实例(每实例 18GB)7 实例(每实例 16.5GB)

值得注意的是 H200 NVL 版本:为了适配企业风冷机柜,其功耗上限降到 600W,算力也相应下调,但保留了 141GB 显存与四卡 NVLink 桥接能力,是"风冷机柜跑 70B 模型"的常见方案。

中国市场:从 H20 的遗憾到 H200 的回归​

H200 在 2026 年的最大新闻不来自参数表,而来自出口管制。此前中国市场的合规替代品 H20 为了满足出口阈值,保留了大量显存带宽(96GB HBM3、4TB/s 级别)却把算力削到约 148 TFLOPS BF16,"能推理不能训练",被广泛认为是糟糕的替代品。

2025 年 12 月,路透社报道 NVIDIA 计划在春节假期前向中国交付 H200;2026 年 3 月的 GTC 大会上,黄仁勋确认在获得美方出口许可与中方审批后恢复面向中国市场的生产;2026 年 5 月,美国商务部批准了包括阿里巴巴、腾讯、字节跳动、京东等约 10 家中国企业购买 H200,每家获批客户最多可采购 7.5 万颗,联想、富士康等分销及服务器企业也拿到了相关授权。

中国市场 SKU算力(BF16 稠密口径约值)显存定位
H20约 148 TFLOPS96GB HBM3推理合规替代,算力被大幅削减
H200约 990 TFLOPS141GB HBM3e训练推理兼顾,2026 年恢复供应
B30A(据公开报道)未确认传 Blackwell 系裁剪版观察中的下一代中国 SKU

需要强调的是:H200 返华是"有限放行"而非限制解除,监管框架仍在,政策方向此前已经反转过多次,采购预算不宜单边押注。## 2026 年视角:H200 还值不值得买

在 B300、Rubin 已经铺开的 2026 年,H200 的定位可以概括为"性价比推理底座"。它的优势场景非常明确:其一,单卡装下 70B 级稠密模型或量化后的百亿级模型,免去张量并行的通信开销;其二,对需要 FP64 或成熟 FP8 生态的 HPC 混合负载,Hopper 栈依然最稳;其三,风冷兼容性好,H200 NVL 可直接进入存量企业机柜。

它的劣势同样清楚:相比 B200/B300,FP4 时代的算力代差已经拉开;随着合规渠道打开,二手 H100 价格与亚洲区域租赁价格都在承压回落,采购者应以季度为单位重新询价。按每百万 token 的综合成本测算,H200 通常在"单卡顶替两卡 H100"的场景下胜出;而模型能装进 80GB 且 prefill 占比高的场景,H100 甚至更便宜。

小结​

H200 的价值公式是:H100 的算力,加上 1.8 倍显存与 1.4 倍带宽,再乘上一个高度成熟的 CUDA 生态。对以推理为主、追求 TCO 的团队,它在 2026 年仍是稳妥的默认答案;对训练前沿模型或押注 FP4 的 AI 工厂,Blackwell 与 Rubin 才是主线。在中国市场,它则承载了出口管制博弈中最微妙的一章——值得每季度复核一次供应与价格信号。

HGX 与 MGX:英伟达双平台参考设计怎么选

· 阅读需 4 分钟
Industry Research Team

采购英伟达服务器时,报价单上经常同时出现 HGX 与 MGX 两个词。它们不是新旧两代,而是两类完全不同的东西:一个是一块固定的基板,一套模块化的规则。分清这一点,能避免大部分选型返工。

HGX:一块不可修改的 8 卡基板​

HGX 的本质是英伟达设计、制造的 GPU 基板:4 卡或 8 卡 SXM 形态,NVLink 布线与 NVSwitch 芯片全部由英伟达固定,OEM 拿到后不能改动基板本身。戴尔、HPE、超微、联想等厂商围绕这块基板构建整机——机箱、散热、CPU(Intel Xeon 或 AMD EPYC)、内存、网卡、存储、BMC 都由 OEM 自主选择。

归属HGX 体系
英伟达固定GPU 数量与型号、NVLink 布线、NVSwitch、基板供电
OEM 决定机箱高度、散热方式(风冷/液冷/混合)、CPU 型号、内存、NIC/DPU、NVMe、固件与服务等级
典型整机戴尔 PowerEdge XE9680、超微 SYS-821GE 系列、联想 ThinkSystem SR675 V3

关键约束:PCIe 服务器用不了 HGX 基板——SXM 与 PCIe 是两条互斥的路线。据公开报道,8 卡 HGX H100 整机约 20 万至 30 万美元,B200/B300 级别约 25 万至 40 万美元,价差主要来自 OEM 的散热、存储与服务配置。

MGX:模块化参考架构​

MGX(2023 年推出)不是一块板,而是一套模块化规范:OEM 从英伟达给出的组件清单里独立选择机箱、CPU(x86、Grace、Vera 或其他 Arm)、GPU(SXM 或 PCIe,覆盖 Blackwell、Rubin 及老架构)、网络(NVLink、Spectrum-X 以太网、Quantum InfiniBand、BlueField DPU),英伟达称已有超过 100 种组合,覆盖从单卡边缘服务器到 GB200/GB300 NVL72 机柜。

维度HGXMGX
本质固定 8 卡 SXM 基板开放模块化参考架构
GPU 形态仅 SXMSXM 或 PCIe
CPUOEM 选 x86x86、Grace、Vera、第三方 Arm
覆盖范围4 卡与 8 卡训练节点单卡推理盒到 NVL72 机柜
典型产品HGX H200/B300 整机GB200 NVL72、RTX PRO Server、H200 NVL 系统

两个常见误解需要澄清。第一,MGX 不是 HGX 的替代品:HGX 面向需要极致互联带宽的 8 卡训练节点,MGX 覆盖推理服务器、CPU 与 GPU 混合节点等固定基板服务不好的长尾,许多机构最终两样都买。第二,2026 年的 Blackwell 旗舰(B200/B300)几乎只以 SXM 形态出现,PCIe 阵营由独立的 RTX PRO Server 产品线(基于 MGX)承接——两条线是被产品策略刻意分开的。

决策树与采购陷阱​

按四步走。第一步问互联:多节点训练、张量并行、大型 MoE,必须 SXM/HGX;单卡或双卡可解的推理与微调,PCIe 加 MGX 更省钱。第二步问机房:没有液冷且无法改造,NVL72 直接出局,风冷 PCIe 推理服务器往往是暖气候地区最便宜的可用算力。第三步问集成能力:有资深基础设施团队选 HGX 让 OEM 组机,性价比更高;团队薄弱或要快速上线选 DGX 整机(同一块 HGX 基板加英伟达认证的固件、软件栈与单一责任支持),为省心多付约两到三成溢价。第四步问规模:跨多机柜的组网交给 BasePOD/SuperPOD 参考架构,它们是集群蓝图而非服务器选项。

两个高频陷阱:其一,把 RTX PRO 6000 Server Edition 当成"B200 平替"对比互联性能——前者无 NVLink,走 PCIe,分布式训练会掉一个数量级;其二,忽略 MGX 系统的配置自由度带来的测试责任——OEM 组合自由度高,具体配置的验证矩阵要自己确认。

小结​

一句话记住三者关系:HGX 是英伟达焊死的 8 卡基板,DGX 是英伟达自己在 HGX 上装好的整机,MGX 是让 OEM 自由组装的模块化规则。训练要带宽选 HGX,推理要灵活选 MGX,要省心买 DGX——三条路对应三种团队,没有哪条天然更高级。

一颗 GPU 背后的七颗芯片:NVIDIA "七芯片堆栈"战略全拆解

· 阅读需 7 分钟
Industry Research Team

当竞争对手还在对比单颗 GPU 的 FLOPS 时,NVIDIA 已经把战场挪到了另一个维度。2026 年 GTC 发布的 Vera Rubin 平台,表面上是"新一代 GPU",实际上是一套由七颗芯片组成的完整 AI 工厂蓝图。据站内芯片数据库,这七颗芯片分别是:Vera CPU、Rubin GPU、NVLink 6 交换机、ConnectX-9 SuperNIC、BlueField-4 DPU、Spectrum-6 以太网交换机,以及 Groq 3 LPX。本文逐一拆解这套"七芯片堆栈"的分工、协同与战略意图。

七颗芯片,各司其职​

先看全局分工表(数据据站内芯片数据库):

#芯片角色关键规格
①Vera CPU主机调度中枢88 核自研 Olympus、1.5TB LPDDR5X、1.2TB/s
②Rubin GPU训练与 prefill 主力288GB HBM4、22TB/s 带宽、50 PFLOPS FP4
③NVLink 6 交换机纵向扩展互联单 GPU 3.6TB/s、NVL72 机柜 260TB/s
④ConnectX-9 SuperNIC横向扩展网络单端口 1.6T、延迟低于 0.5μs、GPUDirect
⑤BlueField-4 DPU基础设施卸载与存储驱动第三层推理上下文内存存储平台,token 吞吐最高 5 倍
⑥Spectrum-6 交换机数据中心以太网骨干Scale-out 网络核心
⑦Groq 3 LPX智能体解码加速256 颗 LPU/机架、128GB 聚合 SRAM、40 PB/s

七颗芯片覆盖了 AI 工厂从计算、互联、网络到存储的每一层——这是一个信号:NVIDIA 卖的不再是芯片,而是一整座工厂的参考设计。

计算层:Vera + Rubin + LPX 的异构三重奏​

计算层的分工体现了"每 token 经济学"的推理:

Rubin GPU 负责训练与 prefill。3360 亿晶体管、22TB/s 显存带宽,让它成为吞掉训练算力与推理 prefill(吃算力)这两个负载的最优解。

Groq 3 LPX 专攻智能体 decode。据站内芯片数据库,LPX 机架集成 256 颗 LPU,聚合 128GB 片上 SRAM 提供高达 40 PB/s 的片上带宽,互联达 640 TB/s。decode 阶段的核心瓶颈是内存带宽而非算力,LPU 用超大片上 SRAM 绕开这一瓶颈,延迟达到纳秒级——对于每秒上千次调用的 agentic AI 负载,这是 GPU 结构上难以企及的能力。GPU 管 prefill、LPU 管 decode,两种架构各干各的,总成本反而更低。

Vera CPU 是调度中枢。88 个自研 Olympus 核心、第二代 SCF 一致性结构(3.4TB/s 对分带宽)、1.5TB LPDDR5X 与 HBM4 构成单一一致性内存池,负责数据搬运调度、内存管理与系统控制编排——海量的智能体沙盒、KV 缓存卸载、多模型并发,都由它承接。

AI 工厂的网络是分层的,NVIDIA 用三颗芯片精确对应:

  • NVLink 6 交换机(Scale-up):机柜内纵向扩展,单 GPU 3.6TB/s 全互联带宽,让 72 乃至更多 GPU 像一颗 GPU 一样工作。这是训练超大模型的命脉,也是 NVIDIA 最深的护城河;
  • ConnectX-9 SuperNIC(Scale-out):单端口 1.6 Tb/s 的跨机柜网络,延迟低于 0.5 微秒,支持 GPU-NIC 直接 DMA,决定集群的横向扩展效率;
  • Spectrum-6 以太网交换机:承载南北向流量与存储网络,是数据中心以太网骨干。

三级网络的本质是把"AI 工厂"拆解成可量化的工程指标:token 从进入机房到输出,要经过计算、Scale-up、Scale-out、存储四类路径,NVIDIA 在每一条路径上都放了一颗自己设计的芯片。

BlueField-4:被忽视的第三层存储革命​

七芯片堆栈中最容易被低估的是 BlueField-4 DPU。它的战略意义在于驱动第三层推理上下文内存存储平台——在 GPU 显存(HBM)与主机内存(LPDDR5X)之外,用 DPU 管理一层专门的推理上下文存储,官方宣称可将 token 吞吐提升最高 5 倍。

这重构了经典的 HBM-DRAM-NAND 三层存储金字塔:智能体对话的 KV 缓存、多轮会话上下文,不再挤占宝贵的 HBM4 容量,而是按热度分层放置在三级存储中。对于长上下文、多轮对话的 agentic AI 负载,这一层的存在直接决定了"每 GB 有效 KV 容量成本"——一个纯 GPU 厂商根本无法优化的指标。

七芯片堆栈的封锁性引发过大客户反弹,NVIDIA 的回应是有选择的开放:

  • NVLink Fusion:向合作伙伴开放 NVLink 互联,允许其将自定义 CPU 或加速器集成进 NVIDIA 的 Scale-up 域——用互联标准换取生态驻留;
  • NVHBM 定制内存控制器计划:允许超大规模客户定制 HBM 配置,市场传闻亚马逊 Annapurna 团队正参与合作——把客户自研芯片的冲动,引导为"在 NVIDIA 平台上定制"的合作姿态。

这步棋颇为高明:客户想自研的动机无非是定制与议价,NVIDIA 干脆把定制能力开放出来,但互联与软件栈的根仍握在自己手里。

系统级竞争:对手的对位打法​

Bain 在 2026 年的行业分析给出了一个重要判断:AI 算力的竞争优势正从芯片规格转向系统级整合。这解释了为什么各大厂商都在拼"整栈":

厂商CPUGPU/加速器互联/网络开放程度
NVIDIAVera(自研)Rubin R200NVLink 6 + ConnectX-9 + Spectrum-6NVLink Fusion 有限开放
AMDEPYC VeniceMI455X/MI500Vulcano NIC + UALink开放标准联盟
华为自研鲲鹏系昇腾系列灵衢 UnifiedBus国内生态自主

AMD Helios 机架的组合是 EPYC Venice(256 核 Zen 6)+ MI455X + Vulcano 网络芯片,以 UALink 开放标准对抗 NVLink 的封闭性——用"开放"换生态盟友。华为的灵衢 UnifiedBus 则在国内市场构建对位体系。但双方都面临同一个难题:NVIDIA 的七芯片是同步迭代的——Vera 与 Rubin 同代设计、NVLink 6 为 HBM4 的带宽特性量身定做、LPX 与 GPU 的 prefill/decode 分工在参考架构层面打通。对手的"拼装式整栈"在迭代节奏上天然慢一拍。

小结​

七芯片堆栈是 NVIDIA 对"AI 工厂"时代的一次完整应答:计算层用 Vera、Rubin、LPX 实现异构分工,互联层用 NVLink 6、ConnectX-9、Spectrum-6 铺设三级网络,BlueField-4 则重构了推理存储的金字塔。再辅以 NVLink Fusion 的有限开放与 NVHBM 定制计划,NVIDIA 把竞争维度从"单芯片规格"彻底抬升到"系统级整合"——Bain 的判断在这里得到了最好的注脚。对买方而言,评估下一笔 AI 基础设施投资时,问题已经不该是"这颗 GPU 多少 TFLOPS",而是"这套系统能把每 token 成本压到多少"。谁能回答好后者,谁就赢得下一个五年。

AI 服务器 OEM/ODM 的收入海啸:广达、纬创、超微们的机遇与隐忧

· 阅读需 5 分钟
Industry Research Team

每一台GB300机柜从台系代工厂的产线走向北美数据中心,都会在财报上留下痕迹。2026年,这些痕迹汇聚成一场收入海啸:单月营收年增近九成、全年AI服务器营收翻倍目标、单季出货上万柜。但繁荣的背面,是毛利率被压缩到个位数、现金流被库存吞噬的另一本账。

海啸有多猛:营收数字的集体跳涨​

先看台系ODM阵营2026年的成绩。广达3月合并营收3628亿元新台币,月增68.3%、年增88.4%,创单月历史新高,第一季度营收8092亿元、年增66.6%;纬创3月营收3330亿元、年增118%,第一季度8463亿元、年增144%。更早的1月数据同样惊人:鸿海年增35.5%,广达年增61.9%,纬创年增151.5%,服务器代工专业户纬颖年增121.9%。

增长的核心引擎是机柜级AI系统。广达确认2026年第一季度GB300系列出货量已超过GB200,并维持全年AI服务器营收翻倍的目标;纬创2025年出货约5万柜英伟达AI服务器,2026年预估提升至7.5万柜,年增50%,订单能见度已到2027年。广达与鸿海均评估2026年AI服务器业务将实现三位数百分比成长。

厂商2026年最新业绩核心动能
广达3月营收年增88.4%,Q1年增66.6%GB300出货超GB200,全年AI营收翻倍目标
纬创3月营收年增118%,Q1年增144%全年出货7.5万柜,能见度到2027年
鸿海1月营收年增35.5%评估AI服务器三位数成长
纬颖1月营收年增121.9%直销云厂商的机柜式方案
超微FY2026收入391亿美元,年增78%GPU与整机柜配置增长83.4%

OEM 的另一面:超微的高营收与紧现金流​

美系OEM代表超微(Supermicro)交出的账本更能说明行业的天花板与地板。据第三方研究机构基于其财报的拆解,超微2026财年净销售收入达390.6亿美元,同比增长78%,其中GPU与整机柜配置增长83.4%;净利润同比增长113%至22.3亿美元。但代价同样醒目:毛利率仅10.82%,同比还在下滑;经营现金流为负68亿美元,现金转换周期拉长到约169天,存货堆积至103亿美元,另有342亿美元的不可取消采购承诺压在身上。

这组数字揭示了AI服务器生意的商业模式真相:组装厂赚的是"流水钱"——收入巨大、利润极薄、营运资金占用极重。组件成本里昂贵的硅片占比越来越高,机箱与组装的增值空间被进一步压缩,规模不赚毛利、只赚周转。

隐忧清单:三重挤压正在形成​

机遇之下的隐忧值得逐条列出。其一是利润挤压:ODM毛利率普遍在个位数徘徊,AI服务器占比越高、越接近"过手贸易"的财务特征,一旦上游降价或客户压价,缓冲空间极小。其二是资本开支重担:纬创追加近90亿元新台币购置新竹厂房设备、在美国德州设厂,ODM们被迫从轻资产走向重资产,以换取关键客户的独占份额。其三是客户与代际风险:每一代GPU平台切换都是一轮淘汰赛,未能切入新平台供应链的厂商将被迅速甩开;而云厂商自研整机(如开放机架规范)的推进,也在长期侵蚀传统ODM的设计价值。

研判:海啸之后,看谁能把流水变成利润​

AI服务器代工的黄金窗口至少延续到2027年——订单能见度、Vera Rubin平台切换与北美资本开支共同托底,收入海啸不会退潮。但行业内部将剧烈分化:能同时拿下机柜设计权、液冷交付能力与多平台卡位的头部ODM,会把规模优势转化为议价权;纯组装型玩家则可能陷入"增收不增利加现金流紧绷"的Triple挤压。观察下一阶段的两个关键指标:一是机柜级订单中自主设计(而非纯代工料件)的占比,二是现金转换周期能否从极端水位回落。海啸所有人都能淋到,但只有学会冲浪的厂商能把浪头变成护城河。

RTX PRO 6000 Blackwell:工作站级 AI 算力天花板的正确用法

· 阅读需 4 分钟
Industry Research Team

当数据中心 GPU 被出口管制和 SXM 生态层层包裹时,一张 96GB 显存、走标准 PCIe 的 Blackwell 专业卡,成了许多团队拿到最新架构的现实路径。RTX PRO 6000 不是缩小版 H100,它有自己的生态位。

规格:把数据中心架构装进双槽卡​

RTX PRO 6000 基于 GB202 大核心,搭载第五代 Tensor Core,完整支持 FP4/FP8 低精度推理,这是它区别于上一代 Ada 专业卡的本质跃升。96GB GDDR7 ECC 显存、512-bit 位宽、1.79TB/s 带宽,让它成为显存容量最大的单插槽 PCIe GPU 之一。

规格RTX PRO 6000 Blackwell(工作站版)参考:H100 SXM
显存96GB GDDR7 ECC80GB HBM3
显存带宽1.79TB/s3.35TB/s
FP32125 TFLOPS67 TFLOPS
AI 算力(FP4/INT8 稀疏)约 4,000 TOPSFP8 3,958 TFLOPS
CUDA 核心24,06416,896
功耗600W700W
接口PCIe Gen 5 x16SXM(PCIe 版无 NVLink)
光追第四代 RT Core,380 TFLOPS无

两个版本需要分清:工作站版面向桌面塔式机箱,双槽双风扇,600W,配 DisplayPort 2.1 可接 8K 显示器;服务器版(Server Edition)面向数据中心风冷或液冷机箱,去掉显示输出,专为高密度部署调校。另据公开报道,MSRP 约 9,999 美元,相比 H100 时期动辄二十几万的整机门槛,单卡可负担性显著改善。

能干什么:从本地 70B 到渲染农场​

显存是这张卡的灵魂。96GB 意味着单卡可跑 70B 级模型 Q4 量化并留足 KV Cache 余量,34B 级模型可 FP16 全精度运行;四卡组网(PCIe 点对点)可容纳 Q4 量化的千亿级模型。对 Agent 开发者、数据科学团队和小型 AI 工作室,这意味着把微调与推理搬回本地、摆脱云端计费的第一块拼图。

它的短板同样清晰。GDDR7 带宽 1.79TB/s,明显低于 HBM 系的 3.35TB/s 至 4.8TB/s,decode 速度(每秒 token 数)受此制约;没有 NVLink,多卡扩展只能走 PCIe,不适合大规模张量并行训练。一句话概括能力边界:单卡大模型推理与小规模微调是甜点,分布式训练不是它的战场。

场景适配度说明
本地 LLM 推理(70B Q4)高容量充足,带宽决定单流速度
LoRA/SFT 微调(34B 级)高96GB 可容纳完整训练态
大规模分布式训练低无 NVLink,PCIe 互联成瓶颈
3D 渲染与视频工程高125 TFLOPS FP32 加第四代 RT Core
MIG 多租户切分中最多 4 实例,每实例 24GB

与 H100/H200 怎么选​

如果预算覆盖 HGX H200 且需要多卡并行训练,服务器平台仍不可替代。但如果需求是"一两张卡、本地推理、兼顾图形",RTX PRO 6000 的单位显存价格优势明显:96GB 显存约为 H100 80GB 的 1.2 倍,而价格通常只有后者的几分之一。它还有 H100 没有的完整图形栈——同一个团队白天做渲染、晚上跑推理,一张卡通吃。出口管制语境下,其消费级产线的可获得性也是许多团队的现实考量。

小结​

RTX PRO 6000 Blackwell 的定位是"工作站里的数据中心 GPU":把 Blackwell 的 FP4 算力与 96GB 显存带给不拥有机柜的团队。它用带宽和互联换来了价格与部署便利性——只要你的负载是单卡可解的推理、微调与图形,它就是当前桌面 AI 算力的天花板。

RTX Spark 笔记本首发潮:微软 Surface 对标 MacBook Pro、联想 YOGA Pro 15 三年磨一剑

· 阅读需 4 分钟
Industry Research Team

RTX Spark 笔记本的首发潮终于来了。微软与联想相继公布旗舰级 AI PC:一款把矛头直接对准 MacBook Pro,一款则用128GB 统一内存和1 PFLOP FP4 算力重新定义 Windows 阵营的端侧 AI 上限。这批产品背后,是一段长达三年的等待史。

Rubin CPX:专攻长上下文推理的差异化设计,与它跌宕的 2026 年

· 阅读需 4 分钟
Industry Research Team

LLM 推理从来不是一种负载,而是两种。Rubin CPX 的出现,是 NVIDIA 第一次在芯片层面把这两种负载拆开:prefill 交给一颗便宜的 GDDR7 芯片,decode 交给昂贵的 HBM 芯片。这是自 RTX 以来 NVIDIA 对 GPU 品类最激进的一次扩容。

为什么 prefill 值得一颗专用芯片​

LLM 推理分两个阶段。上下文阶段(prefill)读入整段提示词并构建 KV Cache,是算力密集型;生成阶段(decode)逐 token 出字,瓶颈在显存带宽。过去两种负载共享同一种 GPU,结果是为了 decode 的带宽为 prefill 买了昂贵的 HBM,而 prefill 本可以跑在便宜得多的存储介质上。

Rubin CPX 关键规格数值
Die 设计单晶片(区别于标准 Rubin 的双 Die 封装)
算力最高 30 PFLOPS(NVFP4)
显存128GB GDDR7(约 HBM4 单位成本的五分之一)
视频引擎4 组 NVENC + 4 组 NVDEC
注意力性能官方称较 GB300 NVL72 系统快约 3 倍
发布时间2025 年 9 月 9 日

GDDR7 带宽远低于 HBM,但对瓶颈在算力的 prefill 而言是可接受的取舍,换来的是更低的每 GB 成本和免硅中介层的标准封装。芯片还内置了硬件注意力加速与视频编解码引擎——处理一小时视频可能需要百万 token 量级的上下文,Cursor、Runway、Magic 等公司在发布时即表态探索将其用于代码库级理解与长视频生成。

系统层面,Vera Rubin NVL144 CPX 机柜集成 144 颗 Rubin CPX、144 颗标准 Rubin GPU 与 36 颗 Vera CPU,合计 8 EFLOPS NVFP4、100TB 快速内存、1.7PB/s 内存带宽,官方称 AI 算力较 GB300 NVL72 高 7.5 倍。144 颗 CPX 负责 prefill,144 颗 Rubin 负责 decode,NVIDIA Dynamo 推理平台在两个池之间调度 KV Cache 的传递。

2026 年的现实:延期、缺席与 HBM4 传闻​

差异化设计的故事在 2026 年出现了转折。按原计划,Rubin CPX 应于 2026 年底出货,但 2026 年 3 月的 GTC 主题演讲上它并未出现——NVIDIA 当场展示的是用于低延迟解码的 Groq 3 LPX 机架,据 Tom's Hardware 报道,NVIDIA 高管在问答中确认 CPX 被调整让路于 LPU 解码路线。

时间节点事件
2025 年 9 月Rubin CPX 正式发布,宣布 2026 年底上市
2026 年 3 月GTC 2026 主题演讲未亮相,官方称聚焦 LPU 解码
2026 年 9 月据公开报道,分析师郭明錤称 HBM4 改版 CPX 计划 2027 年一季度投产(未经证实)

对采购者的含义很直接:不要围绕 CPX 做部署规划。但它背后的 disaggregated serving 架构——prefill 池与 decode 池分离、跨池传递 KV Cache——是成熟且已经落地的模式,今天的推理引擎与 GPU 租赁就能实践。CPX 若最终以 HBM4 形态归来,说明市场对"专用 prefill 硅片"的定价尚未收敛;若长期缺席,则证明混合负载仍将由通用 GPU 一肩挑。

小结​

Rubin CPX 的价值一半在硬件,一半在范式:它把"推理是两种负载"写进了产品线,逼迫整个行业认真核算 prefill 的成本占比。单 Die 加 GDDR7 的设计逻辑——用便宜的介质喂饱算力密集的段——未来大概率以某种形态回归。2026 年底的现在,把它当作路线图上值得追踪的节点,而不是采购清单上的选项。

Rubin R200 深度解析:3360亿晶体管、288GB HBM4、50 PFLOPS FP4 的代际跨越

· 阅读需 7 分钟
Industry Research Team

2026 年 3 月 17 日的 GTC 大会上,NVIDIA 正式发布了 Rubin R200——这颗基于 3nm 制程、集成 3360 亿晶体管的 AI GPU,用 2.75 倍显存带宽和 5 倍 FP4 推理算力,完成了对 Blackwell 的一次教科书式代际跨越。本文依据站内芯片数据库数据,结合 MLPerf Inference v6.1 实测结果,拆解这颗芯片的技术细节与系统级打法。

核心规格总览​

据站内芯片数据库,Rubin R200 的完整规格如下:

规格参数
GPU 架构Rubin 架构(MCM 多芯片模块设计)
制程工艺台积电 3nm N3P(计算 die)+ N5B(I/O die)
晶体管数量3360 亿
SM 数量224 个
FP4 推理算力50 PFLOPS(sparse)
FP4 训练算力35 PFLOPS(sparse)
FP8/FP6 算力17.5 PFLOPS(sparse)
显存容量288 GB HBM4
显存带宽22 TB/s
互联技术NVLink 6(单向 3.6 TB/s)
TDP1800-2300W(必须液冷)
量产时间2026 年 6 月(全面量产)
定价单 NVL72 机柜 350-400 万美元

单看数字,Rubin R200 的 TDP 达到 1800-2300W,是 B200(1000W)的近两倍——功耗墙的持续抬升,正是当代 AI 芯片竞争的缩影:算力提升越来越依赖"堆晶体管 + 堆显存 + 堆带宽"的三重奏。

MCM 设计:2+2+8 的多芯片方程式​

Rubin R200 没有走"单颗巨 die"的路线,而是采用多芯片模块(MCM)设计,核心包含三部分:

  • 2 颗计算 die:GPU 核心本体,采用台积电 3nm N3P 工艺;
  • 2 颗 I/O die:负责 HBM 控制器与 NVLink 物理层,采用成本更低的 N5B 工艺;
  • 8 颗 HBM4 显存堆栈:提供 288GB 总容量。

这种"计算与 I/O 分离"的设计是 HBM4 时代的必然选择。HBM4 的接口宽度翻倍到每堆栈 2048bit,如果继续让 3nm 计算 die 直接挂载 HBM 控制器,die 面积将被大量 I/O 逻辑占据,成本失控。把 HBM 控制器和 NVLink PHY 下放到 N5B 工艺的 I/O die,既保护了最昂贵的 3nm 面积,又让存储互联部分可以独立迭代——这也是 AMD 在 MI400 系列上殊途同归的工程共识。

第三代 Transformer Engine​

Rubin 架构的第三代 Transformer Engine 支持硬件级自适应精度压缩,不需要重写模型代码即可在 FP4/FP6/FP8/FP16/BF16/TF32/FP32/FP64 之间动态切换。对用户而言,这意味着 FP4 量化不再是"敢不敢用"的权衡,而是训练与推理管线的默认状态。

HBM4:接口翻倍如何换来 2.8 倍带宽​

显存是这代产品最戏剧性的升级点。据站内芯片数据库的对比数据:

对比项Blackwell B200Rubin R200提升比例
晶体管数2080 亿3360 亿1.6 倍
显存容量192GB HBM3e288GB HBM41.5 倍
显存带宽8 TB/s22 TB/s2.75 倍
NVLink 带宽1.8 TB/s3.6 TB/s2 倍
FP4 推理算力~10 PFLOPS50 PFLOPS5 倍
TDP1000W1800-2300W1.8-2.3 倍

HBM4 将单堆栈接口从 HBM3e 的 1024bit 翻倍到 2048bit,引脚速率提升至 10.8 GT/pin 左右。两个因素相乘,让单堆栈带宽突破 2.7 TB/s 量级——8 个堆栈聚合后达到 22 TB/s,相比 B200 的 8 TB/s 实现 2.75 倍提升。相比 B300 Ultra(288GB HBM3e、8 TB/s 带宽),容量持平但带宽提升 2.75 倍;而对比 B200 的 FP4 算力是 5 倍,对比 FP4 sparse 口径的 B300 Ultra 则约 3.3 倍。

值得注意的是 HBM4 的供货格局:三星、SK 海力士、美光三家多源供货,其中 SK 海力士 12 层 HBM4(36GB/堆栈、2.8 TB/s/堆栈、11 Gbps)已于 2026 年 7 月启动量产出货。多源策略显著降低了 NVIDIA 在 HBM4 时代的供应链风险。

单 GPU 的 NVLink 6 互联带宽达到 3.6 TB/s(双向),是上一代 1.8 TB/s 的整整两倍。在一个 NVL72 机柜内,72 颗 Rubin R200 与 36 颗 Vera CPU 全互联,机柜总 NVLink 带宽达 260 TB/s。

Vera Rubin NVL72 的机柜级规格(据站内芯片数据库):

  • 总算力:FP4 约 3.6 EFLOPS
  • 总显存:20.7 TB HBM4
  • 总带宽:1.58 PB/s
  • TDP:约 180kW(必须全液冷)
  • 定价:350-400 万美元

规划中的 Vera Rubin NVL144 将把 144 颗 Rubin R200 装进一个互联域,FP4 总算力约 7.2 EFLOPS,NVIDIA 宣称大模型推理成本可降至 Blackwell 平台的 1/10。

MLPerf 实测:99% 扩展效率意味着什么​

2026 年 9 月 16 日,Rubin R200 在 MLPerf Inference v6.1 上完成首秀:

测试项对比基准(GB300 NVL72)提升
Qwen3-VL 吞吐同配置最高 3.7 倍
DeepSeek-R1 吞吐同配置最高 2.5 倍
288 卡扩展效率—99%

99% 的 288 卡扩展效率是比峰值算力更有说服力的指标——它意味着 NVLink 6 与系统软件栈在跨机柜扩展时几乎没有"漏水",集群规模翻倍时吞吐也近乎线性翻倍。对于按 token 计价的推理业务,NVIDIA 宣称 Rubin 平台的推理 token 成本最高可降 10 倍。

量产节奏与客户版图​

  • CES 2026:NVIDIA 宣布 Vera Rubin NVL72 进入全面投产,H2 2026 出货;
  • 首批客户:AWS 与微软率先确认;站内芯片数据库同时记录 CoreWeave、Google Cloud、Microsoft Azure、Oracle Cloud 的 NVL72 机柜已交付并扩大部署;
  • OpenAI 合作:NVIDIA 计划与 OpenAI 合建的首个 1GW 数据中心将于 2026 H2 通过 Rubin 平台交付;
  • 自建机房用户:2027 年第一季度可采购。

"七芯片堆栈":R200 只是一部分​

理解 Rubin R200,不能只看这颗 GPU。Vera Rubin 平台的完整组成是七颗芯片:Vera CPU + Rubin GPU + NVLink 6 交换机 + ConnectX-9 SuperNIC + BlueField-4 DPU + Spectrum-6 以太网交换机 + Groq 3 LPX(专为智能体解码阶段设计的低延迟推理加速器)。

这套组合拳的逻辑很清晰:训练吃算力,推理吃带宽与延迟,而不同环节由不同架构的芯片承担,整体效率最高。GPU 负责训练与 prefill,Groq 3 LPX 负责智能体 decode 阶段的低延迟输出,网络芯片保证 72 乃至 576 卡像一个 GPU 一样工作。竞争对手要在单点芯片上追平 R200 的规格或许可行,但要复制整套系统,难度完全不在一个量级。

小结​

Rubin R200 是一次典型的"系统级代际跨越":3360 亿晶体管和 50 PFLOPS FP4 是显性的规格领先,而 MCM 封装、HBM4 多源供货、NVLink 6 的 99% 扩展效率,以及七芯片堆栈的完整生态,才是 350-400 万美元机柜定价背后的真正护城河。H2 2026 大规模出货后,AI 算力市场的竞争焦点将进一步从"单芯片跑分"转向"每 token 成本"——这正是 Rubin 平台设计之初就瞄准的战场。

从 Rubin Ultra 到 Feynman:NVIDIA 2027-2028 路线图全解读

· 阅读需 7 分钟
Industry Research Team

当 Rubin R200 还在陆续爬坡之际,NVIDIA 的下一个两年已经被写进路线图:2027 H2 的 Rubin Ultra 与 2028 年的 Feynman。但与以往"官宣即定型"不同,Rubin Ultra 在 2026 年经历了一次罕见的架构大改——原版 4 芯片设计被取消。本文依据站内芯片数据库与行业路线图口径,拆解这次调整背后的工程与商业逻辑。

Rubin Ultra(V300):从官宣到修订​

Rubin Ultra 在 GTC 2026(2026-03-17)与 Rubin R200 一同公布,定位超大规模训练/推理的顶端产品。据站内芯片数据库,其原版设计规格如下:

规格参数(原版设计,待官方最终确认)
GPU 架构Rubin 架构(MCM 多芯片模块)
封装原版 4 芯片设计(已取消)
FP4 推理算力推测约 100 PFLOPS(原版,密集)
FP8 训练算力推测约 70 PFLOPS(原版)
显存容量576 GB HBM4e(原版设计)
显存带宽推测 >44 TB/s(HBM4e)
互联技术NVLink 7(推测,单向 >3.6 TB/s)
TDP推测 3000W+(必须液冷)
量产时间推测 2027 H2 – 2028
定价推测单 NVL144 机柜 1500-2100 万美元

原版 NVL144 机柜配置为 144 颗 Rubin Ultra GPU + 72 颗 Vera CPU,总显存 82.9 TB HBM4e,FP4 总算力推测约 14 EFLOPS,TDP 推测约 360kW——是 Vera Rubin NVL72(约 180kW)的整整一倍。

关键调整:4 芯片设计取消​

2026 年最重要的路线图变化,是据 SemiAnalysis 报道,原版 4 芯片 Rubin Ultra 设计因封装制造难度被取消,新版规模缩减约一半、性能相应减半,仅保留 2 芯片版本——规模扩展能力弱于原设计。站内芯片数据库也明确记录了这一调整。

与之相伴的是显存减配传闻:2026 年 9 月,SemiAnalysis 与科创板日报报道 Rubin Ultra 的 HBM 配置拟从 HBM4E 12-Hi(384GB 档)下调至 HBM4 8-Hi(192GB),三星配合开发 8 层产品。动因是 HBM/DRAM 涨价后内存已占整机 TCO 约 40%,减配后 HBM 成本可降超 50%;省下的预算转向 Scale-up 纵向扩展网络——以 NVL576 NPO 方案测算,Scale-up 网络占机架支出比例将从 4% 升至 12%。TrendForce 显示 NVIDIA 自 2026 Q3 起并行评估 HBM4E 8-Hi、HBM4E 12-Hi、HBM4 8-Hi 多套方案。

行业路线图口径:VR300 NVL576 与 Feynman​

行业路线图汇总口径(Thunder Compute,2026-10)给出了另一个观察视角,需注意与 GTC 2026 原版公布信息存在差异,最终以官方为准:

产品目标时间关键规格(行业口径)
Rubin Ultra VR3002027 H2100 PFLOPS FP4/GPU、1TB HBM4e、NVL576、机架约 600kW
Feynman2028规格未公布(preliminary/未确认)

这个口径下的 VR300 与站内数据库记录的原版 NVL144(576GB HBM4e/GPU)明显不同:单卡显存更高(1TB)、机柜规模更大(NVL576)、单机架功耗推高到约 600kW。两条信息线的分歧恰恰说明 Rubin Ultra 仍处于架构修订期,唯一确定的是方向——显存继续翻倍、机柜规模继续翻倍、功耗继续飙升。

一年一代:与客户 capex 的绑定节奏​

从 Hopper(2022)到 Blackwell(2024)再到 Rubin(2026),NVIDIA 已把旗舰产品节奏锁定为两年一代;而在同一代际内部,GB200→GB300 的中期升级又把"可买的最新品"刷新周期压缩到约一年。这种节奏对客户 capex 形成了强绑定:

  • 锁定采购:超大规模云厂商若想保持算力性价比领先,必须按 NVIDIA 的节奏滚动下单,否则两年后单位算力成本被拉开数倍;
  • 规划反推:Rubin Ultra 的 2027 H2 时间点,意味着客户 2026 年就要锁定机位、电力与液冷改造——约 600kW/机架的功耗口径直接改写数据中心设计规范;
  • 竞争挤压:AMD Helios II/MI500 同样瞄准 2027 年窗口,NVIDIA 把 Rubin Ultra 顶在 2027 H2,本质上是在客户年度预算分配前抢先占位。

HBM4e 供给与功耗:砍半的真实原因​

Rubin Ultra"砍半"并非技术退缩,而是三重现实约束的交汇:

  1. 封装良率:4 颗计算 die 的 MCM 封装对 CoWoS-L 工艺的良率要求过高,量产风险不可控;
  2. HBM 成本:内存占 TCO 40% 的现实下,576GB→192GB 档的减配能省下过半 HBM 预算;
  3. 功耗墙:原版 360kW 乃至行业口径 600kW 的机架功耗,正在逼近现有液冷基础设施与供电改造的承受极限。

省下的预算被重新分配给 Scale-up 网络——这透露出 NVIDIA 的判断:下一代旗舰的瓶颈不在单卡 FLOPS,而在机柜内纵向扩展的互联效率。光互联(NPO)进入 Scale-up 网络,就是这个判断的落地。

Feynman:2028 的悬念与命名暗示​

Feynman 目标 2028 年,目前规格完全未公布(preliminary/未确认)。但命名本身已传递信息——继以物理学家命名的传统(Fermi、Maxwell、Volta),Feynman(理查德·费曼)指向的是量子电动力学与路径积分的缔造者。行业普遍猜测其架构方向可能包括:更激进的近存计算、光子互联的规模化引入,以及面向 agentic AI 负载的原生优化。考虑到 NVIDIA 2026 年收购 Groq 后已在 LPU 架构上积累经验,Feynman 完全可能首次把"训练芯片"与"推理加速器"在架构层面统一调度。

不过需要冷静看待:NVIDIA 的公开路线图历来在临近发布时大幅修订,Feynman 的最终形态大概率与今天的任何猜测都不同。

与 AMD Helios II/MI500 的时间赛跑​

2027 年的正面交锋已经排定:AMD 的 Helios II 机架与 MI500 系列瞄准同一时间窗口。AMD 的打法是开放生态(UALink、开放 HBM4/4e 规格)+ 激进显存(延续 MI400 432GB HBM4 的堆料路线),而 NVIDIA 则以 NVLink 域规模与 CUDA 软件栈守正。Rubin Ultra 的架构修订,某种意义上正是对 AMD 显存策略的回应——当单卡显存竞争的成本效益递减时,把预算转向 Scale-up 网络与系统效率是更聪明的花法。

小结​

NVIDIA 2027-2028 路线图的核心叙事是"从堆规格到堆系统":Rubin Ultra 取消 4 芯片设计、显存减配、预算转向 Scale-up 光互联,是 HBM4e 供给与功耗现实下的理性选择;行业口径中 2027 H2 的 VR300 NVL576 与 2028 年的 Feynman,则勾勒出机架功耗迈向 600kW、架构走向异构统一的下一幕。对采购方而言,最重要的不是记住这些规格数字,而是理解一年一代节奏下"早买早享受、晚买享折扣"的 capex 决策模型正在失效——不跟上节奏,两年后的单位算力成本差距将大到无法用预算延迟来弥补。

三星的 HBM 追赶战:失位、反扑与 1c HBM3e 之后

· 阅读需 4 分钟
Industry Research Team

在AI存储这条赛道上,落后一年半的代价是什么?三星用亲身经历给出答案:丢失整个Blackwell世代的主供资格,市值与声誉双重承压,高管公开道歉。但反转来得也快——凭借率先出货HBM4,三星在2026年完成了一场教科书级的追赶。

失位:一个认证延误引发的连锁反应​

故事的开端是2024年的HBM3E认证折戟。由于良率与可靠性问题迟迟无法通过英伟达验证,三星错过了H100、H200乃至Blackwell系列最肥美的出货窗口,HBM市场份额在2025年第二季度一度跌至17%的低点(据行业研究机构估算)。期间公司更换了芯片业务负责人,管理层罕见地为AI存储业务的延误公开致歉。

这段时间里,三星只能转向AMD等对认证要求相对宽松的客户出货HBM3E,同时在后台持续打磨工艺。对一家DRAM市占率全球第一的公司而言,这种"二线身份"的刺痛感可想而知——HBM是AI加速器物料清单中占比接近一半的成本项,缺席一个产品世代意味着数百亿美元级别的收入让渡。

时间节点三星HBM关键事件
2024年5月芯片业务负责人更换,HBM3E认证持续受阻
2024年10月管理层就AI存储延误公开道歉
2025年9月12层HBM3E通过英伟达认证,成为第三家合格供应商
2025年10月与OpenAI签署星门计划战略存储合作意向
2026年2月业界率先批量出货HBM4,引脚速率达11.7Gbps
2026年第二季度HBM收入份额回升至33%(Counterpoint估算)

反扑:1c DRAM 加自研基底的技术豪赌​

三星的反扑建立在两步棋上。第一步是HBM3E的补票:2025年9月,其12层HBM3E历时约18个月终于通过英伟达测试,瞄准B300等加速器,第三季度开始出货。第二步才是真正的翻盘手——HBM4。三星采用第六代1c DRAM搭配自家4纳米逻辑基底die,成为三巨头中唯一能自产先进逻辑基底的厂商(SK海力士的基底需台积电代工),在集成度与成本结构上握有独特筹码。据报道,其HBM4在英伟达认证中以11.7Gbps的引脚速率超过10Gbps的要求,且无需重新设计即通过双档位认证。

产能层面同样激进:三星计划2026年底前将1c DRAM月产能提升至约15万片,并将全年HBM总产量提升至2025年的三倍以上,其中过半为HBM4。据行业报道,其HBM4良率已从约60%爬升至接近80%。市占率数据印证了反扑成效:Counterpoint估算显示,2026年第一季度三星份额21%,第二季度已升至33%,同期SK海力士为50%,美光18%。

下一步:Rubin 配额与星门赌注​

不过追赶战远未结束。据多家机构预测,在英伟达Vera Rubin平台的HBM4配额中,SK海力士预计拿下约七成,三星初始份额在两成到两成半之间——技术上限仍是约束,产能已不是瓶颈。三星更大的赌注押在生态位上:2025年10月与OpenAI签署星门计划战略存储合作意向,OpenAI的存储需求据估计最高可达每月90万片DRAM晶圆,接近全球DRAM产能的四成。

研判:追赶的终点是"跟随定价权"​

三星这场追赶战的最大启示在于:HBM竞争的本质不是产能竞赛,而是认证与良率的信任竞赛。三星已经证明自己能重新登上牌桌,但要从"跟随者"变成"定价者",还需在11Gbps档位的良率上追平SK海力士,并在HBM4E定制化世代拿到属于自己的旗舰客户。未来两年,HBM市场大概率维持SK海力士领先、三星紧咬、美光卡位的寡头格局——而对整个AI产业来说,三强咬得越紧,加速器厂商的议价空间就越大。