跳到主要内容

NVIDIA Rubin CPX (Context Processing Unit)

产品概述

NVIDIA Rubin CPX(全称 Rubin Context Processing Unit)是 NVIDIA 于 2025年9月9日 发布的业界首款专为超长上下文 AI 推理设计的 GPU,定位为推理 prefill(预填充)+ KV Cache 构建 阶段的专用加速器。

🚨 重大设计变更(2026-09-01 郭明錤产业调查核实):Rubin CPX 项目一度被传从路线图剔除,现已重启且设计大幅调整,投产时间推迟至 2027 Q1。核心变化:

  • 显存:128 GB GDDR7 → 168 GB HBM4(旧设计用消费级 GDDR7 控制成本,新设计改用 HBM4 强化 prefill 性能)
  • 功耗:500 W → 2,300 W(与标准 Rubin GPU 持平)
  • 算力:提升至接近标准 Rubin GPU 的水平
  • 机架:改用独立 MGX ETL 机架(非与 Rubin 混插),每个机架含 1–4 组机架模组

下方「核心规格」表保留初始发布设计(128 GB GDDR7)以便对照,新设计参数请见文末「2026-09 设计修订」小节

Rubin CPX 与 Rubin GPU(负责生成阶段)和 Vera CPU(负责调度)配合,组成解耦式推理架构。在 Vera Rubin NVL144 CPX 机架中,144 颗 CPX + 144 颗 Rubin GPU + 36 颗 Vera CPU 提供 8 EFLOPS 总算力,是 GB300 NVL72 的 7.5×

为什么需要 CPX:当前 AI 推理工作负载中超过 50% 来自输入上下文处理与 KV Cache 构建。CPX 负责预先填充并构建 KV 缓存,再通过以太网 RDMA 传输给 Rubin 进行解码——NVIDIA 建议 CPX 与标准 Rubin 按 1:1 配置。

核心规格

项目参数
架构Rubin(CPX 专用变体)
制程TSMC 3NP(推测)
封装单片式(Monolithic),非 MCM
显存128 GB GDDR7(消费级显存,非 HBM)
显存带宽2 TB/s
FP4(NVFP4)30 PFLOPS(稀疏,官方标称)
FP8 / FP16未公开
注意力加速3×(vs GB300 NVL72)
TDP500 W
板卡形态独立 GPU(与 Rubin GPU 配对使用)
发布时间2025-09-09(发布)
出货时间2026 H2

⚠️ 设计哲学(旧设计):CPX 的 2 TB/s 带宽远低于 HBM 方案(B200: 8 TB/s,Rubin R200: 22 TB/s),因为上下文处理阶段是 Compute-bound(算力瓶颈),而非 Memory-bandwidth-bound(生成阶段)。低带宽 GDDR7 大幅降低成本。

⚠️ 注意:上述「GDDR7 控制成本」的设计哲学在 2026-09 重启方案中被推翻——新设计改用 HBM4。

2026-09 设计修订(重启方案)

据分析师郭明錤 2026 年 9 月 1 日产业调查,NVIDIA 已重启 Rubin CPX 项目,设计较初版大幅调整,预计 2027 Q1 投产

项目初版设计(2025-09 发布)重启设计(2027 Q1 投产)
显存128 GB GDDR7168 GB HBM4
TDP500 W2,300 W(与标准 Rubin 持平)
算力30 PFLOPS NVFP4接近标准 Rubin GPU
封装单片式(Monolithic)未公开
机架与 Vera Rubin NVL144 CPX 混插独立 MGX ETL 机架
出货2026 H22027 Q1

重启方案的机架与互联架构

  • 计算托盘:8 颗 CPX 构成 1 个计算托盘,单托盘约 1.34 TB HBM4 显存
  • 机架模组:8 个计算托盘构成 1 个机架模组(共 64 颗 CPX)
  • 机架配置:客户可选 64 / 128 / 192 / 256 颗 GPU 配置(每 64 颗为一个机架模组)
  • 纵向扩展(Scale-up):托盘使用 NVLink(1–1.5 TB/s)
  • 横向扩展(Scale-out):托盘Spectrum-6 以太网全铜 L1 链路;机架模组Spectrum-6 + OSFP 光链路
  • 系统协作:CPX ETL 机架与 Vera Rubin NVL72 机架之间采用基于以太网的 RDMA 连接,NVIDIA 建议 1:1 配对

📌 背板铜缆翻倍:为支撑全铜 L1 横向扩展,MGX ETL 机架背板铜缆数量从 5,184 根翻倍至 10,368 根,是 CPC(Co-packaged Copper,共封装铜互连)技术从验证走向量产导入的标志性事件。

为什么重启后改用 HBM4

旧设计用 GDDR7 是为了在 compute-bound 的 prefill 阶段压低成本;但重启方案发现长上下文场景的 KV Cache 容量需求更为关键——每个 8 卡 CPX 托盘的 1.34 TB HBM4 足以覆盖多数长上下文预填充与 KV Cache 建立需求,这是 GDDR7 方案难以满足的。代价是功耗从 500 W 飙升至 2,300 W。

解耦式推理架构

阶段执行单元瓶颈类型CPX 角色
上下文阶段(Context / Pre-fill)Rubin CPXCompute-bound处理 1M+ token 输入
生成阶段(Generation / Decode)Rubin GPUMemory-bandwidth-bound逐 token 生成输出
调度/预处理Vera CPUI/O bound请求调度 + KV Cache 管理

传统方案(GB200/B200):同一 GPU 处理两阶段,上下文阶段浪费高带宽内存。 CPX 方案:专用 CPX 处理上下文,Rubin GPU 专注生成,总吞吐量提升 6.5×(NVIDIA 官方数据)。

Vera Rubin NVL144 CPX 机架

项目参数
CPX GPU 数144
Rubin GPU 数144
Vera CPU 数36
总 FP4 算力8 EFLOPS
总高带宽内存100 TB
总内存带宽1.7 PB/s
对比 GB300 NVL72算力 7.5×,内存容量 ~14×
组网Quantum-X800 InfiniBand / Spectrum-X 以太网 + ConnectX-9
调度软件NVIDIA Dynamo 平台

与 Rubin R200 对比

指标Rubin CPXRubin R200(训练 GPU)
定位推理上下文专用训练 + 推理通用
显存128GB GDDR7288GB HBM4
带宽2 TB/s22 TB/s
FP4 算力30 PFLOPS50 PFLOPS(稀疏)
设计单片式6 芯片 MCM
TDP~500–600W(推测)~1,800W
成本(GDDR7 vs HBM4)

适用场景

  • 超长上下文推理(1M+ token,代码生成、视频理解)
  • 多轮对话系统(Context 阶段吞吐量 critical)
  • RAG(检索增强生成)(大量文档输入)
  • 推理专用集群(与训练集群分离)
  • ❌ 大模型训练(非目标场景)
  • ❌ 高带宽需求工作负载(生成阶段仍由 Rubin GPU 处理)

投资回报率(ROI)

NVIDIA 官方数据(SemiAnalysis 引用):

  • 单机架(NVL144 CPX):~$50M
  • 年收入贡献:$1.5B–2.5B(推理即服务)
  • ROI30–50×

相关卡

参考资料