AI Compute Cards Wiki Editorial

2022 年发布 MTT S80 时，摩尔线程被寄予"国产游戏显卡之光"的厚望，也因驱动不成熟和游戏兼容问题承受了铺天盖地的质疑。很少有人预料到，两年后这家公司会靠着数据中心卡和智算集群登陆科创板，成为中国 GPU 概念股里最受关注的名字之一。

S80：全功能 GPU 的第一块试金石​

MTT S80 搭载完整的第二代"春晓"芯片，内置 4096 个 MUSA 核心，1.8GHz 主频下提供 14.7 TFLOPS 单精度算力，配备 16GB GDDR6 显存与 448 GB/s 带宽，整卡功耗 255W。它还有两个容易被忽略的亮点：是业内首款配备 PCIe Gen5 x16 接口的显卡，并支持 8K 显示输出与 1080P 360Hz 高刷。

争议与转向：从游戏玩家到智算中心​

S80 上市后遭遇的现实很骨感：DirectX 游戏需经转译层运行，早期帧率与兼容性均不理想，"买卡看驱动更新"一度成为玩家社区的调侃。但摩尔线程没有在消费市场硬耗，而是快速将重心转向 AI 算力——2023 年底发布的 MTT S4000 基于"曲院"架构，显存翻三倍到 48GB，并补齐了 FP16/BF16 与 INT8 训练推理能力；随后推出的夸娥（KUAE）智算集群方案，可支撑千亿参数大模型训练。

这一转向在财报中体现得非常直接：公司营收从 2022 年的约 0.46 亿元增至 2024 年的 4.38 亿元，2025 年达 15.05 亿元，同比增长 243%，其中 AI 智算产品贡献了绝大部分收入；归母净亏损也从 2022 年的 18.94 亿元收窄到 2025 年的 10.01 亿元。

上市之后：MUSA 生态的长期答卷​

2025 年 12 月 5 日，摩尔线程以 114.28 元发行价登陆科创板，募资约 80 亿元，成为"国产 GPU 第一股"。据公开报道，其 MUSA 架构已兼容约九成 CUDA 语法，工具链支持 PyTorch、TensorFlow 等主流框架，并对 DeepSeek 等开源大模型实现发布即适配。2025 年公司发布第五代"花港"架构，支持 FP4 至 FP64 全精度；旗舰智算卡 MTT S5000 单卡稠密 AI 算力最高 1000 TFLOPS，基于它搭建的夸娥万卡集群已上线服务，密集大模型训练算力利用率达 60%。

小结：活下去，再谈引领​

从 S80 的争议到 S4000 的落地再到 S5000 的万卡集群，摩尔线程三年间完成了一次教科书级的战略调整：不与巨头在消费市场纠缠，而是用全功能 GPU 的统一架构承接 AI 算力需求。对采购方而言，S4000 至今是国产推理与中等规模训练的高性价比选项；对观察者而言，这家公司接下来要回答的问题是，如何在盈利压力下持续支撑高强度的架构研发。

当多数国产 AI 芯片公司all in 大模型算力时，摩尔线程依然坚持"两条腿走路"：一手是 MTT S5000 智算卡撑起的夸娥万卡集群，一手是瞄准 3A 游戏的"庐山"图形 GPU。9 月初的半年度业绩说明会给出了两条线的最新坐标——这条"AI+游戏"并举的路线，正在从权宜之计变成差异化壁垒。

一、MTT S5000：平湖架构的训推一体旗舰​

MTT S5000 基于第四代 MUSA"平湖"架构，搭载 PH100 芯片、4096 个自研 MUSA Core，2025 年 2 月公开参数。核心规格如下：

几点澄清值得注意：其一，"单卡 AI 稠密算力 1000 TFLOPS"特指 FP8 精度（液冷版），并非 FP16；其二，80GB 显存的颗粒类型官方从未公布，市场流传的"GDDR6X"说法与 1.6 TB/s 带宽自相矛盾，本站已订正为"类型未公开"；其三，S5000 配备硬件级 FP8 Tensor Core，支持 FP8→FP64 全精度，并已基于 FP8 完成 DeepSeek-V4 的 Day-0 适配。加上《安全可靠测评结果公告（2026 年第 2 号）》的通过——AI 训推芯片首次纳入该体系——S5000 同时拿到了信创市场的入场券。

二、万卡落地：夸娥集群与京东云合作​

S5000 的成色，最终要靠集群说话。基于夸娥（KUAE）万卡智算集群的实测数据：

95% 的线性扩展效率背后是 ACE 异步通信引擎——把通信任务从计算核心卸载，实现计算与通信零冲突并行。商业侧，2026 年 3 月签下 6.6 亿元夸娥集群订单；软件侧，MiniMax M3、智谱 GLM-5.2、阿里 Qwen3.5、美团万亿参数 LongCat-2.0 相继完成 Day-0 适配。最关键的落地信号来自 9 月 19 日：京东云与摩尔线程合作的万卡级集群已部署上线服务——从"能跑通"到"规模化服务外部客户"，国产 GPU 集群跨过了商用验证的分水岭。随后的数贸会（9 月 23–27 日，杭州）上，摩尔线程集中展示了 AI 智算卡、万卡级集群，以及"模型训练工厂、词元生产工厂、智能体生产工厂"三层能力，产品覆盖云-边-端全场景。

三、"庐山"GPU：从兼容显卡到渲染范式革命​

图形产品线上，9 月 3 日半年度业绩说明会披露了新一代"庐山"GPU 的指标——基于花港架构，预计 2026 年底推出：

• 3A 游戏渲染性能提升 15 倍；
• 光线追踪性能提升 50 倍；
• AI 性能提升 64 倍。

比倍数更重要的是两项渲染技术的组合：一是硬件光线追踪，原生支持 DirectX Raytracing，让国产 GPU 第一次在光追管线层面与主流标准对话；二是AI 生成式渲染 AGR，基于全自研 MTAGR 1.0，把渲染范式从"逐像素计算"推向"生成"——用 AI 直接生成画面内容，而非暴力算出每个像素。前者补齐了传统管线的硬件短板，后者则是在渲染范式切换窗口期的卡位：当英伟达 DLSS、AMD FSR 都在走向 AI 化时，AGR 让摩尔线程有机会在下一代渲染标准里占据一席，而不是永远追赶。

四、游戏反哺 AI：双架构复用的独特路线​

把两条产品线放在一起看，摩尔线程的打法浮现出独特逻辑：图形与 AI 共享同一套 MUSA 架构底座——SIMT 核心、张量单元、光追核心、统一软件栈全部复用。游戏 GPU 的价值因此不只是营收 diversification：海量游戏场景是最好的架构压力测试与现金流来源，图形侧打磨的调度、显存与光速能力，反向反哺 AI 卡的通用计算质量；而 AI 业务积攒的先进制程流片经验，又拉高图形芯片的天花板。

已登陆科创板的摩尔线程，如今可以用上市平台的融资能力同时养两条产品线。这与纯 AI 芯片公司"单点押注大模型"的路线形成鲜明对比——在国产算力需求旺盛但波动性尚存的市场里，双线作战既是对冲，也是壁垒。

小结​

摩尔线程的 2026 年验证了"全功能 GPU"路线的可行性：MTT S5000 以 FP8 稠密 1000 TFLOPS、80GB 显存撑起夸娥万卡集群，并通过京东云万卡级集群部署完成了规模化商用验证；"庐山"GPU 则以硬件光追与 AI 生成式渲染 AGR 完成了从"国产兼容显卡"到"渲染范式探索者"的技术跃迁。图形+AI 双架构复用的独特路线，让摩尔线程在国产 AI 芯片阵营中占据了一个难以复制的生态位。2026 年底"庐山"如期推出与否，将是这条双线故事的下一次大考。

一张 H100 大部分时间利用率不到三成，是很多企业 GPU 平台的常态——整卡分发的模式对小任务极不友好。GPU 池化就是要把一张卡切成多份安全地分出去，核心矛盾在三个词：切分粒度、隔离强度、计费公平。

五条切分路线，三种隔离等级​

业界主流的切分技术可以按隔离强度分成三档：硬件级、软件级和无隔离。

MIG 是唯一提供真正硬件隔离的方案：每个实例有独立的显存控制器与计算引擎，一个实例内存溢出不可能波及邻居。但它的限制同样明确：只支持较新的数据中心卡、档位固定不可在线调整、NVLink 不跨实例，而且改档位需要整节点排空重启。时间分片最省事也最危险——显存是共享池，一个租户的显存泄漏可以砸掉同卡所有邻居，绝不能当作租户边界。HAMi（已进入 CNCF 孵化阶段）走中间路线：在调度层做细粒度虚拟化，通过拦截 CUDA 调用强制执行显存与算力上限，对业务代码透明，且是五条路线里唯一跨芯片厂商的。

信任边界决定技术选型​

选型的第一问不是"哪个性能好"，而是"租户之间信不信任"。同一公司内部团队共享一张卡，软件级限流足够；面向外部客户的推理平台，租户与租户之间只有整卡或 MIG 才够格——因为共享的不只是 GPU，还有内核驱动、宿主机内核与控制平面，软件拦截层挡不住恶意工作负载。CNCF 相关指南的表述很直白：同一信任域内才共享硅片，跨信任域只共享整卡。

还有一个常见误区值得点名：部署了 HAMi 但资源申请只写整卡数、不写显存与算力限额，结果每张卡还是被一个任务独占，池化等于没做。此外，混合策略往往是最优解：生产推理用 MIG 保隔离，内部开发测试走 HAMi 提灵活性，老卡开时间分片充分利旧。调度协议层面，Kubernetes 的 DRA（动态资源分配）已在 1.34 版本转正，用结构化的 ResourceClaim 取代整数计数，是各家方案正在迁移的统一底座。

计费：按分配开票，按用量审计​

池化之后最麻烦的是"钱怎么算"。成熟的做法是双轨制：计费以分配量为准（租户占了多少 GB 显存、多少比例算力、占了多长时间），与队列和配额联动，这是账单的依据；同时用 DCGM 之类工具采集实际利用率，做成本审计与容量规划，识别"占着不用"的僵尸配额。OpenCost 等开源方案可以把这笔账对齐到团队与项目维度。没有这层计量，池化平台最终会退化成"先到先得的公共冰箱"。

写在最后​

三条建议：第一，先画信任边界再选技术，外部租户只用 MIG 或整卡，内部混部才上软件切分；第二，上池化的同时上计量，分配量开票、用量对账，缺一边都会引发结算纠纷；第三，关注 DRA 的落地进度，把自有平台的资源申请结构化，为跨厂商调度留好接口。GPU 太贵，贵到不该让任何一张卡闲着——但切分的前提，是切得安全、算得清楚。

"多模态"是一个筐，但 VLM、语音和视频生成装的是三种完全不同的负载。把它们混在一起选卡，要么算力浪费，要么显存爆掉。本文按模态分别算账。

一、VLM 推理：显存带宽决定一切​

视觉语言模型的负载形态和纯文本 LLM 接近：自回归解码受显存带宽约束，视觉编码器只在首 token 前跑一次，算力占用是脉冲式的。选卡的关键是"模型量化后能否装下"加"带宽决定吐字速度"。

7B 级 VLM（如 Qwen-VL 系列 7B）Q4 量化约 4 至 6GB，24GB 消费卡轻松承载并留出图像 token 的 KV cache 余量；30B 至 72B 级 VLM（如 Qwen-VL-Max 同级开源模型）Q4 约 18 至 40GB，需要 48GB 专业卡或 80GB HBM 卡；90B 至 100B+ 级则应直接看 H200 的 141GB——大上下文图文混合场景下，KV cache 增长很快，8B 模型在 128K 上下文时仅 KV cache 就可能超过 20GB，显存买大不为过。

二、语音推理：延迟与并发的平衡术​

语音管线的显存需求小得出人意料：Whisper large-v3 FP16 仅约 3GB、INT8 约 1.5GB；TTS 侧轻量方案（Kokoro 类）不足 1GB，中量级方案（Qwen3-TTS 类 1.7B）约 4GB，重表达力方案（Step-Audio 类 7B 级）约 6 至 8GB。完整的 STT 加 LLM 加 TTS 管线，10 至 20GB 显存即可全部常驻。

真正的门槛是延迟与并发。实时对话要求端到端低于 500 毫秒，语音流有天然停顿，10 路并发同时活跃的转写任务通常只有 4 至 5 路，一张 16 至 24GB 的卡即可承载 10 路并发语音助手。高并发客服外呼场景（百路以上）才需要考虑 80GB HBM 卡或国产推理卡集群。

三、视频生成：被低估的算力黑洞​

视频生成是三者中唯一"算力吃紧"的场景。DiT 类视频模型在去噪阶段是密集矩阵运算，且长时长、高分辨率视频的隐空间序列长度线性增长，显存压力接近训练。经验值是：数秒级 720P 视频生成，24 至 32GB 消费卡可行但排队慢；分钟级或 1080P 以上，需要多卡并行与 80GB 级显存。做视频生成业务的公司，推理集群的卡时成本远高于 VLM 业务，定价模型时务必先实测单条视频的卡时消耗。

四、结尾建议​

选型三步走：先按模态对号入座（VLM 看显存、语音看延迟、视频看算力），再按并发规模定卡的数量而非档次，最后用真实流量压测两周再固化采购。特别提醒：多模态业务的显存需求会随上下文长度和分辨率持续上涨，新购卡优先选 32GB 以上显存或支持多卡扩展的机型，给六个月后的模型升级留出空间——2026 年的模型迭代速度下，显存不足是所有多模态服务扩容时最先撞上的墙。

当超节点从 72 卡扩张到 4096 卡，铜缆互连在功耗与距离面前彻底缴械。2026 年 9 月，华为发布全球首个采用 NPO（近封装光学）技术的超节点，用 5500 个光引擎替代 4.8 万颗 800G 光模块、省电 550kW——"光进铜退"从口号变成了工程现实。

可插拔光模块的功耗天花板​

传统数据中心组网依赖可插拔光模块：交换机面板上插着 400G、800G 的模块，通过光纤连接各节点。这套体系成熟、可维护，但在 AI 超节点规模下撞上了天花板。

华为披露的数字最具说服力：若用传统方案支撑昇腾 960 超节点的组网需求，需要约 48000 颗 800G 光模块。每颗 800G 可插拔模块功耗约 15-25W，4.8 万颗意味着仅光互连部分就要消耗兆瓦级电力，还不算 SerDes 链路、面板空间与故障率代价。更进一步，可插拔模块的 DSP 重定时环节占据了模块功耗的大头，且离交换芯片越远、信号损耗越大——模块越密，这场"功耗税"越重。

对于动辄数千卡、训练十万亿参数模型的超节点而言，光互连的功耗与可靠性直接决定了系统能建多大。这就是"光进铜退"的起点：把光引擎从面板挪到芯片身边，甚至塞进封装里面。

NPO、CPO、OIO：光互连技术梯队​

按光引擎与芯片的距离由远及近，光互连分为三个梯队：

NPO 与 CPO 的核心差异在于取舍：CPO 把光引擎与芯片放在同一封装，光电距离最短、功耗最低，但激光器故障要更换整个昂贵封装，可靠性与可制造性一直是拦路虎；NPO 则把光引擎放在封装之外的基板上，保留"独立可插换"的维护性，同时实现光电近距离握手。华为明确解释过为何 960 超节点选择 NPO 而非 CPO：规避 CPO 的可靠性、可制造性、可维护性难题，并延续现有光模块产业生态——这是工程务实主义的典型选择。OIO 则更激进，目标是把光 IO 直接做进 GPU 封装，与 HBM、die 一起共封装，被视为超节点互连的远期方向。

华为 Hi-ONE 案例精算：5500 引擎 vs 4.8 万模块​

昇腾 960 超节点的 NPO 方案给出一组可以精算的对比：

三个要点值得展开：

1. 单引擎容量 7.2T：一颗 Hi-ONE 顶 9 颗 800G 模块，器件数量骤降一个数量级，故障点随之大幅减少——这是无故障运行时间翻倍的直接来源；
2. 省 550kW 意味着什么：550kW 约等于把整个 Vera Rubin NVL72 机柜（约 180kW TDP）的耗电省出近三台，省下的不仅是电费，更是散热系统的建设成本；
3. 唯一内置光源：Hi-ONE 是业界首个量产、当前传输能力最大且唯一内置光源的 NPO 产品，内置光源意味着激光器与引擎协同设计，省去外置光源的耦合损耗。

配合灵衢 UnifiedBus 全域 D2D 互连（RTT 2μs），这套光互连底座支撑起单节点 4096 卡、8 EFLOPS FP8、1PB HBM 的超节点规模。

光互连对超节点规模的意义：72 卡到 4096 卡的物理前提​

超节点的本质是让大量卡共享统一内存编址、像一台机器一样工作，而互连带宽与时延是规模的第一性约束。华为仿真数据：4K 超节点组成的 10 万卡集群，相比传统 8 卡服务器组网，MFU 提升 2.75 倍——因为在传统架构下，集群内通信占用训练时间超过 40%。

从 72 卡（NVL72 级别）到 4096 卡（昇腾 960 超节点），跨了两个数量级，物理上只有光互连能同时满足带宽密度、传输距离和功耗预算。NPO 把光链路推进到基板级，使跨机柜、跨机行的卡间通信时延降到微秒级，"逻辑上的一台机器"才有了物理载体。再往上，多个 960 超节点经灵衢网络或 RoCE 互联，最大可扩展到 51.2 万卡乃至 100 万卡集群——光互连是这一切的物理前提。

硅光、VCSEL、EML：技术路线与投资热​

光互连的爆发也点燃了产业链与资本市场：

• EML 激光器：相干与高速光模块的核心光源，分析师口径显示 Lumentum 持有约 60% 的 EML 市场份额，是本轮"光进铜退"最直接的受益者之一；
• 硅光集成：把调制器、波导、探测器集成在硅片上，与 CMOS 工艺兼容，是 CPO/OIO 时代的主力路线；
• VCSEL 路线：Volantis 用类似 Face ID 的垂直腔面发射激光器连接 AI 芯片与内存芯片，主打短距、低成本，斩获 8800 万美元 A 轮融资；
• 加速器光互连创业潮：CScale 开发面向加速器的光互连技术，C 轮融资 1.45 亿美元；Upscale AI 推出多厂商芯片互联的 Token Fabric 平台，获 NVIDIA 参投（2026-10-08）。

从激光器材料、硅光工艺到系统级创业公司，资本正沿光互连链条全面下注——这与当年 HBM 军备竞赛的剧本如出一辙。

小结​

光互连不再是数据中心的"锦上添花"，而是超节点规模的"生死线"。可插拔光模块在 4.8 万颗的量级上暴露了功耗天花板，NPO 用 5500 个光引擎交出了省电 550kW、可用度 99.8% 的量产答卷，CPO 与 OIO 则代表着更彻底的光电融合。当卡间通信成为训练时间的大头，"光进铜退"就不再是技术偏好，而是算力扩张的唯一出路。

NVIDIA 与 OpenAI 宣布达成一项足以改写 AI 基础设施格局的战略伙伴关系：NVIDIA 承诺最高1000亿美元投资，用于加速 OpenAI 下一代 AI 数据中心的建设与部署。这是目前 AI 行业规模最大的单一投资承诺之一。

当一家公司的九成收入来自同一个业务板块，而这个板块里又有三分之一以上来自两三个客户，财报阅读的方式就必须变了：你读的不只是一家公司的业绩，而是一张全球AI算力供需的压力表。

收入几乎全部押注数据中心​

英伟达2026财年（截至2026年1月25日）交出的成绩单是：全年营收2159.4亿美元，同比增长65%；GAAP净利润1200.8亿美元。其中数据中心业务贡献1934.8亿美元，同比增长68%，占总营收约89.7%。也就是说，游戏、专业可视化、汽车等所有其他业务加起来，只占一成出头。

第四财季的拆分更能说明结构变化：数据中心收入623.1亿美元，同比增长75%；其中计算业务（主要是GPU与系统）513.3亿美元，同比增长58%；网络业务109.8亿美元，同比增长263%。网络收入的爆发式增长来自GB200与GB300系统配套的NVLink交换机以及Spectrum-X以太网平台的交付放量——这说明英伟达卖的已经不再是"一颗芯片"，而是整机柜级别的系统，网络互连正在成为第二增长曲线。

客户集中度：36%的收入来自两个名字​

真正的看点在客户结构。根据英伟达10-K文件披露，2026财年有两位直接客户分别贡献了总营收的22%和14%，两家合计36%。此前三季报披露的口径更细：2026财年第三季度，四家直接客户分别占22%、15%、13%和11%。同时，第四财季全球前五大云服务商和超大规模企业合计贡献了数据中心业务50%以上的收入。

这些匿名客户几乎可以确定是大型云厂商与系统集成商。对英伟达而言，这意味着收入基础并没有随着规模扩大而分散，反而在加速集中；对投资者而言，任何一家头部云厂商调整资本开支节奏，都会被放大传导到英伟达的收入表上。此外英伟达自己也在10-K中提示，部分间接最终客户的采购规模可能达到总营收的10%以上——集中度是双向的。

主权AI与采购义务：两个被低估的信号​

除了云大厂，2026财年主权AI业务贡献了超过300亿美元收入，采购方主要分布在加拿大、法国、荷兰、新加坡和英国。这为高度集中的客户结构提供了一定的对冲，但也意味着这块收入与政府预算周期高度绑定。

更值得关注的是资产负债表：期末"采购义务"（向台积电等供应商支付的不可取消采购合同）飙升至950亿美元，而一年前只有约160亿美元。这是英伟达在用真金白银为未来几个季度的出货背书。管理层给出的2027财年第一财季指引为780亿美元，且明确不含中国市场收入的假设。

研判：集中度是价签，也是风险敞口​

英伟达的财报正在变成一个宏观指标：S&P 500中其权重一度达到7.58%（据2026年3月底的ETF披露口径），这意味着英伟达股价每波动30%，指数本身就会被拖动约2.3个百分点，而财报中的客户集中度又把云厂商资本开支与这根杠杆直接焊在一起。收入结构上，计算与网络的双轮驱动、主权AI与系统级出货的放量，都指向2027财年继续增长的确定性；但36%收入系于两个客户的事实提醒我们：这份财报的核心风险不是需求，而是需求方的单一性。读懂英伟达，本质上是读懂少数几家公司的资本开支意愿。

在 Blackwell 与 Rubin 接连发布的 2026 年，一颗 2024 年发布的 Hopper 芯片依然是全球推理集群里最常见的面孔。H200 的故事说明了一件事：在 LLM 时代，显存容量与带宽往往比峰值算力更能决定服务器的价值。

H200 到底改了什么：加显存，而不是加算力​

H200 是 H100 的"内存增强版"，这是理解它的全部起点。两者的 Hopper 架构核心、算力规格几乎一致：BF16 Tensor Core 均为 1,979 TFLOPS（稀疏口径），FP8 Tensor Core 均为 3,958 TFLOPS（稀疏口径）。NVIDIA 没有动计算部分，而是把显存从 80GB HBM3 换成了 141GB HBM3e，带宽从 3.35TB/s 提升到 4.8TB/s——容量约为 1.8 倍，带宽约为 1.4 倍。

这个改动的逻辑直接来自 LLM 推理的物理特性：生成每一个 token 都要把模型权重和 KV Cache 从显存里读一遍，单流解码速度受限于显存带宽而非 TFLOPS；而能装下多大的模型、多大的上下文，则受限于显存容量。H200 在两个维度上同时抬高了上限，于是出现了官方 MLPerf 测试中 Llama 2 70B 推理吞吐接近 2 倍、GPT-3 175B 推理提升约 1.6 倍的成绩。

值得注意的是 H200 NVL 版本：为了适配企业风冷机柜，其功耗上限降到 600W，算力也相应下调，但保留了 141GB 显存与四卡 NVLink 桥接能力，是"风冷机柜跑 70B 模型"的常见方案。

中国市场：从 H20 的遗憾到 H200 的回归​

H200 在 2026 年的最大新闻不来自参数表，而来自出口管制。此前中国市场的合规替代品 H20 为了满足出口阈值，保留了大量显存带宽（96GB HBM3、4TB/s 级别）却把算力削到约 148 TFLOPS BF16，"能推理不能训练"，被广泛认为是糟糕的替代品。

2025 年 12 月，路透社报道 NVIDIA 计划在春节假期前向中国交付 H200；2026 年 3 月的 GTC 大会上，黄仁勋确认在获得美方出口许可与中方审批后恢复面向中国市场的生产；2026 年 5 月，美国商务部批准了包括阿里巴巴、腾讯、字节跳动、京东等约 10 家中国企业购买 H200，每家获批客户最多可采购 7.5 万颗，联想、富士康等分销及服务器企业也拿到了相关授权。

需要强调的是：H200 返华是"有限放行"而非限制解除，监管框架仍在，政策方向此前已经反转过多次，采购预算不宜单边押注。## 2026 年视角：H200 还值不值得买

在 B300、Rubin 已经铺开的 2026 年，H200 的定位可以概括为"性价比推理底座"。它的优势场景非常明确：其一，单卡装下 70B 级稠密模型或量化后的百亿级模型，免去张量并行的通信开销；其二，对需要 FP64 或成熟 FP8 生态的 HPC 混合负载，Hopper 栈依然最稳；其三，风冷兼容性好，H200 NVL 可直接进入存量企业机柜。

它的劣势同样清楚：相比 B200/B300，FP4 时代的算力代差已经拉开；随着合规渠道打开，二手 H100 价格与亚洲区域租赁价格都在承压回落，采购者应以季度为单位重新询价。按每百万 token 的综合成本测算，H200 通常在"单卡顶替两卡 H100"的场景下胜出；而模型能装进 80GB 且 prefill 占比高的场景，H100 甚至更便宜。

小结​

H200 的价值公式是：H100 的算力，加上 1.8 倍显存与 1.4 倍带宽，再乘上一个高度成熟的 CUDA 生态。对以推理为主、追求 TCO 的团队，它在 2026 年仍是稳妥的默认答案；对训练前沿模型或押注 FP4 的 AI 工厂，Blackwell 与 Rubin 才是主线。在中国市场，它则承载了出口管制博弈中最微妙的一章——值得每季度复核一次供应与价格信号。

采购英伟达服务器时，报价单上经常同时出现 HGX 与 MGX 两个词。它们不是新旧两代，而是两类完全不同的东西：一个是一块固定的基板，一套模块化的规则。分清这一点，能避免大部分选型返工。

HGX：一块不可修改的 8 卡基板​

HGX 的本质是英伟达设计、制造的 GPU 基板：4 卡或 8 卡 SXM 形态，NVLink 布线与 NVSwitch 芯片全部由英伟达固定，OEM 拿到后不能改动基板本身。戴尔、HPE、超微、联想等厂商围绕这块基板构建整机——机箱、散热、CPU（Intel Xeon 或 AMD EPYC）、内存、网卡、存储、BMC 都由 OEM 自主选择。

关键约束：PCIe 服务器用不了 HGX 基板——SXM 与 PCIe 是两条互斥的路线。据公开报道，8 卡 HGX H100 整机约 20 万至 30 万美元，B200/B300 级别约 25 万至 40 万美元，价差主要来自 OEM 的散热、存储与服务配置。

MGX：模块化参考架构​

MGX（2023 年推出）不是一块板，而是一套模块化规范：OEM 从英伟达给出的组件清单里独立选择机箱、CPU（x86、Grace、Vera 或其他 Arm）、GPU（SXM 或 PCIe，覆盖 Blackwell、Rubin 及老架构）、网络（NVLink、Spectrum-X 以太网、Quantum InfiniBand、BlueField DPU），英伟达称已有超过 100 种组合，覆盖从单卡边缘服务器到 GB200/GB300 NVL72 机柜。

两个常见误解需要澄清。第一，MGX 不是 HGX 的替代品：HGX 面向需要极致互联带宽的 8 卡训练节点，MGX 覆盖推理服务器、CPU 与 GPU 混合节点等固定基板服务不好的长尾，许多机构最终两样都买。第二，2026 年的 Blackwell 旗舰（B200/B300）几乎只以 SXM 形态出现，PCIe 阵营由独立的 RTX PRO Server 产品线（基于 MGX）承接——两条线是被产品策略刻意分开的。

决策树与采购陷阱​

按四步走。第一步问互联：多节点训练、张量并行、大型 MoE，必须 SXM/HGX；单卡或双卡可解的推理与微调，PCIe 加 MGX 更省钱。第二步问机房：没有液冷且无法改造，NVL72 直接出局，风冷 PCIe 推理服务器往往是暖气候地区最便宜的可用算力。第三步问集成能力：有资深基础设施团队选 HGX 让 OEM 组机，性价比更高；团队薄弱或要快速上线选 DGX 整机（同一块 HGX 基板加英伟达认证的固件、软件栈与单一责任支持），为省心多付约两到三成溢价。第四步问规模：跨多机柜的组网交给 BasePOD/SuperPOD 参考架构，它们是集群蓝图而非服务器选项。

两个高频陷阱：其一，把 RTX PRO 6000 Server Edition 当成"B200 平替"对比互联性能——前者无 NVLink，走 PCIe，分布式训练会掉一个数量级；其二，忽略 MGX 系统的配置自由度带来的测试责任——OEM 组合自由度高，具体配置的验证矩阵要自己确认。

小结​

一句话记住三者关系：HGX 是英伟达焊死的 8 卡基板，DGX 是英伟达自己在 HGX 上装好的整机，MGX 是让 OEM 自由组装的模块化规则。训练要带宽选 HGX，推理要灵活选 MGX，要省心买 DGX——三条路对应三种团队，没有哪条天然更高级。

当竞争对手还在对比单颗 GPU 的 FLOPS 时，NVIDIA 已经把战场挪到了另一个维度。2026 年 GTC 发布的 Vera Rubin 平台，表面上是"新一代 GPU"，实际上是一套由七颗芯片组成的完整 AI 工厂蓝图。据站内芯片数据库，这七颗芯片分别是：Vera CPU、Rubin GPU、NVLink 6 交换机、ConnectX-9 SuperNIC、BlueField-4 DPU、Spectrum-6 以太网交换机，以及 Groq 3 LPX。本文逐一拆解这套"七芯片堆栈"的分工、协同与战略意图。

七颗芯片，各司其职​

先看全局分工表（数据据站内芯片数据库）：

七颗芯片覆盖了 AI 工厂从计算、互联、网络到存储的每一层——这是一个信号：NVIDIA 卖的不再是芯片，而是一整座工厂的参考设计。

计算层：Vera + Rubin + LPX 的异构三重奏​

计算层的分工体现了"每 token 经济学"的推理：

Rubin GPU 负责训练与 prefill。3360 亿晶体管、22TB/s 显存带宽，让它成为吞掉训练算力与推理 prefill（吃算力）这两个负载的最优解。

Groq 3 LPX 专攻智能体 decode。据站内芯片数据库，LPX 机架集成 256 颗 LPU，聚合 128GB 片上 SRAM 提供高达 40 PB/s 的片上带宽，互联达 640 TB/s。decode 阶段的核心瓶颈是内存带宽而非算力，LPU 用超大片上 SRAM 绕开这一瓶颈，延迟达到纳秒级——对于每秒上千次调用的 agentic AI 负载，这是 GPU 结构上难以企及的能力。GPU 管 prefill、LPU 管 decode，两种架构各干各的，总成本反而更低。

Vera CPU 是调度中枢。88 个自研 Olympus 核心、第二代 SCF 一致性结构（3.4TB/s 对分带宽）、1.5TB LPDDR5X 与 HBM4 构成单一一致性内存池，负责数据搬运调度、内存管理与系统控制编排——海量的智能体沙盒、KV 缓存卸载、多模型并发，都由它承接。

互联层：NVLink 6 + ConnectX-9 + Spectrum-6 的三级网络​

AI 工厂的网络是分层的，NVIDIA 用三颗芯片精确对应：

• NVLink 6 交换机（Scale-up）：机柜内纵向扩展，单 GPU 3.6TB/s 全互联带宽，让 72 乃至更多 GPU 像一颗 GPU 一样工作。这是训练超大模型的命脉，也是 NVIDIA 最深的护城河；
• ConnectX-9 SuperNIC（Scale-out）：单端口 1.6 Tb/s 的跨机柜网络，延迟低于 0.5 微秒，支持 GPU-NIC 直接 DMA，决定集群的横向扩展效率；
• Spectrum-6 以太网交换机：承载南北向流量与存储网络，是数据中心以太网骨干。

三级网络的本质是把"AI 工厂"拆解成可量化的工程指标：token 从进入机房到输出，要经过计算、Scale-up、Scale-out、存储四类路径，NVIDIA 在每一条路径上都放了一颗自己设计的芯片。

BlueField-4：被忽视的第三层存储革命​

七芯片堆栈中最容易被低估的是 BlueField-4 DPU。它的战略意义在于驱动第三层推理上下文内存存储平台——在 GPU 显存（HBM）与主机内存（LPDDR5X）之外，用 DPU 管理一层专门的推理上下文存储，官方宣称可将 token 吞吐提升最高 5 倍。

这重构了经典的 HBM-DRAM-NAND 三层存储金字塔：智能体对话的 KV 缓存、多轮会话上下文，不再挤占宝贵的 HBM4 容量，而是按热度分层放置在三级存储中。对于长上下文、多轮对话的 agentic AI 负载，这一层的存在直接决定了"每 GB 有效 KV 容量成本"——一个纯 GPU 厂商根本无法优化的指标。

生态锁定：NVLink Fusion 与定制化开放​

七芯片堆栈的封锁性引发过大客户反弹，NVIDIA 的回应是有选择的开放：

• NVLink Fusion：向合作伙伴开放 NVLink 互联，允许其将自定义 CPU 或加速器集成进 NVIDIA 的 Scale-up 域——用互联标准换取生态驻留；
• NVHBM 定制内存控制器计划：允许超大规模客户定制 HBM 配置，市场传闻亚马逊 Annapurna 团队正参与合作——把客户自研芯片的冲动，引导为"在 NVIDIA 平台上定制"的合作姿态。

这步棋颇为高明：客户想自研的动机无非是定制与议价，NVIDIA 干脆把定制能力开放出来，但互联与软件栈的根仍握在自己手里。

系统级竞争：对手的对位打法​

Bain 在 2026 年的行业分析给出了一个重要判断：AI 算力的竞争优势正从芯片规格转向系统级整合。这解释了为什么各大厂商都在拼"整栈"：

AMD Helios 机架的组合是 EPYC Venice（256 核 Zen 6）+ MI455X + Vulcano 网络芯片，以 UALink 开放标准对抗 NVLink 的封闭性——用"开放"换生态盟友。华为的灵衢 UnifiedBus 则在国内市场构建对位体系。但双方都面临同一个难题：NVIDIA 的七芯片是同步迭代的——Vera 与 Rubin 同代设计、NVLink 6 为 HBM4 的带宽特性量身定做、LPX 与 GPU 的 prefill/decode 分工在参考架构层面打通。对手的"拼装式整栈"在迭代节奏上天然慢一拍。

小结​

七芯片堆栈是 NVIDIA 对"AI 工厂"时代的一次完整应答：计算层用 Vera、Rubin、LPX 实现异构分工，互联层用 NVLink 6、ConnectX-9、Spectrum-6 铺设三级网络，BlueField-4 则重构了推理存储的金字塔。再辅以 NVLink Fusion 的有限开放与 NVHBM 定制计划，NVIDIA 把竞争维度从"单芯片规格"彻底抬升到"系统级整合"——Bain 的判断在这里得到了最好的注脚。对买方而言，评估下一笔 AI 基础设施投资时，问题已经不该是"这颗 GPU 多少 TFLOPS"，而是"这套系统能把每 token 成本压到多少"。谁能回答好后者，谁就赢得下一个五年。