54 posts tagged with "Vendor Strategy"

NVIDIA 与 OpenAI 宣布达成一项足以改写 AI 基础设施格局的战略伙伴关系：NVIDIA 承诺最高1000亿美元投资，用于加速 OpenAI 下一代 AI 数据中心的建设与部署。这是目前 AI 行业规模最大的单一投资承诺之一。

当一家公司的九成收入来自同一个业务板块，而这个板块里又有三分之一以上来自两三个客户，财报阅读的方式就必须变了：你读的不只是一家公司的业绩，而是一张全球AI算力供需的压力表。

收入几乎全部押注数据中心​

英伟达2026财年（截至2026年1月25日）交出的成绩单是：全年营收2159.4亿美元，同比增长65%；GAAP净利润1200.8亿美元。其中数据中心业务贡献1934.8亿美元，同比增长68%，占总营收约89.7%。也就是说，游戏、专业可视化、汽车等所有其他业务加起来，只占一成出头。

第四财季的拆分更能说明结构变化：数据中心收入623.1亿美元，同比增长75%；其中计算业务（主要是GPU与系统）513.3亿美元，同比增长58%；网络业务109.8亿美元，同比增长263%。网络收入的爆发式增长来自GB200与GB300系统配套的NVLink交换机以及Spectrum-X以太网平台的交付放量——这说明英伟达卖的已经不再是"一颗芯片"，而是整机柜级别的系统，网络互连正在成为第二增长曲线。

客户集中度：36%的收入来自两个名字​

真正的看点在客户结构。根据英伟达10-K文件披露，2026财年有两位直接客户分别贡献了总营收的22%和14%，两家合计36%。此前三季报披露的口径更细：2026财年第三季度，四家直接客户分别占22%、15%、13%和11%。同时，第四财季全球前五大云服务商和超大规模企业合计贡献了数据中心业务50%以上的收入。

这些匿名客户几乎可以确定是大型云厂商与系统集成商。对英伟达而言，这意味着收入基础并没有随着规模扩大而分散，反而在加速集中；对投资者而言，任何一家头部云厂商调整资本开支节奏，都会被放大传导到英伟达的收入表上。此外英伟达自己也在10-K中提示，部分间接最终客户的采购规模可能达到总营收的10%以上——集中度是双向的。

主权AI与采购义务：两个被低估的信号​

除了云大厂，2026财年主权AI业务贡献了超过300亿美元收入，采购方主要分布在加拿大、法国、荷兰、新加坡和英国。这为高度集中的客户结构提供了一定的对冲，但也意味着这块收入与政府预算周期高度绑定。

更值得关注的是资产负债表：期末"采购义务"（向台积电等供应商支付的不可取消采购合同）飙升至950亿美元，而一年前只有约160亿美元。这是英伟达在用真金白银为未来几个季度的出货背书。管理层给出的2027财年第一财季指引为780亿美元，且明确不含中国市场收入的假设。

研判：集中度是价签，也是风险敞口​

英伟达的财报正在变成一个宏观指标：S&P 500中其权重一度达到7.58%（据2026年3月底的ETF披露口径），这意味着英伟达股价每波动30%，指数本身就会被拖动约2.3个百分点，而财报中的客户集中度又把云厂商资本开支与这根杠杆直接焊在一起。收入结构上，计算与网络的双轮驱动、主权AI与系统级出货的放量，都指向2027财年继续增长的确定性；但36%收入系于两个客户的事实提醒我们：这份财报的核心风险不是需求，而是需求方的单一性。读懂英伟达，本质上是读懂少数几家公司的资本开支意愿。

当竞争对手还在对比单颗 GPU 的 FLOPS 时，NVIDIA 已经把战场挪到了另一个维度。2026 年 GTC 发布的 Vera Rubin 平台，表面上是"新一代 GPU"，实际上是一套由七颗芯片组成的完整 AI 工厂蓝图。据站内芯片数据库，这七颗芯片分别是：Vera CPU、Rubin GPU、NVLink 6 交换机、ConnectX-9 SuperNIC、BlueField-4 DPU、Spectrum-6 以太网交换机，以及 Groq 3 LPX。本文逐一拆解这套"七芯片堆栈"的分工、协同与战略意图。

七颗芯片，各司其职​

先看全局分工表（数据据站内芯片数据库）：

七颗芯片覆盖了 AI 工厂从计算、互联、网络到存储的每一层——这是一个信号：NVIDIA 卖的不再是芯片，而是一整座工厂的参考设计。

计算层：Vera + Rubin + LPX 的异构三重奏​

计算层的分工体现了"每 token 经济学"的推理：

Rubin GPU 负责训练与 prefill。3360 亿晶体管、22TB/s 显存带宽，让它成为吞掉训练算力与推理 prefill（吃算力）这两个负载的最优解。

Groq 3 LPX 专攻智能体 decode。据站内芯片数据库，LPX 机架集成 256 颗 LPU，聚合 128GB 片上 SRAM 提供高达 40 PB/s 的片上带宽，互联达 640 TB/s。decode 阶段的核心瓶颈是内存带宽而非算力，LPU 用超大片上 SRAM 绕开这一瓶颈，延迟达到纳秒级——对于每秒上千次调用的 agentic AI 负载，这是 GPU 结构上难以企及的能力。GPU 管 prefill、LPU 管 decode，两种架构各干各的，总成本反而更低。

Vera CPU 是调度中枢。88 个自研 Olympus 核心、第二代 SCF 一致性结构（3.4TB/s 对分带宽）、1.5TB LPDDR5X 与 HBM4 构成单一一致性内存池，负责数据搬运调度、内存管理与系统控制编排——海量的智能体沙盒、KV 缓存卸载、多模型并发，都由它承接。

互联层：NVLink 6 + ConnectX-9 + Spectrum-6 的三级网络​

AI 工厂的网络是分层的，NVIDIA 用三颗芯片精确对应：

• NVLink 6 交换机（Scale-up）：机柜内纵向扩展，单 GPU 3.6TB/s 全互联带宽，让 72 乃至更多 GPU 像一颗 GPU 一样工作。这是训练超大模型的命脉，也是 NVIDIA 最深的护城河；
• ConnectX-9 SuperNIC（Scale-out）：单端口 1.6 Tb/s 的跨机柜网络，延迟低于 0.5 微秒，支持 GPU-NIC 直接 DMA，决定集群的横向扩展效率；
• Spectrum-6 以太网交换机：承载南北向流量与存储网络，是数据中心以太网骨干。

三级网络的本质是把"AI 工厂"拆解成可量化的工程指标：token 从进入机房到输出，要经过计算、Scale-up、Scale-out、存储四类路径，NVIDIA 在每一条路径上都放了一颗自己设计的芯片。

BlueField-4：被忽视的第三层存储革命​

七芯片堆栈中最容易被低估的是 BlueField-4 DPU。它的战略意义在于驱动第三层推理上下文内存存储平台——在 GPU 显存（HBM）与主机内存（LPDDR5X）之外，用 DPU 管理一层专门的推理上下文存储，官方宣称可将 token 吞吐提升最高 5 倍。

这重构了经典的 HBM-DRAM-NAND 三层存储金字塔：智能体对话的 KV 缓存、多轮会话上下文，不再挤占宝贵的 HBM4 容量，而是按热度分层放置在三级存储中。对于长上下文、多轮对话的 agentic AI 负载，这一层的存在直接决定了"每 GB 有效 KV 容量成本"——一个纯 GPU 厂商根本无法优化的指标。

生态锁定：NVLink Fusion 与定制化开放​

七芯片堆栈的封锁性引发过大客户反弹，NVIDIA 的回应是有选择的开放：

• NVLink Fusion：向合作伙伴开放 NVLink 互联，允许其将自定义 CPU 或加速器集成进 NVIDIA 的 Scale-up 域——用互联标准换取生态驻留；
• NVHBM 定制内存控制器计划：允许超大规模客户定制 HBM 配置，市场传闻亚马逊 Annapurna 团队正参与合作——把客户自研芯片的冲动，引导为"在 NVIDIA 平台上定制"的合作姿态。

这步棋颇为高明：客户想自研的动机无非是定制与议价，NVIDIA 干脆把定制能力开放出来，但互联与软件栈的根仍握在自己手里。

系统级竞争：对手的对位打法​

Bain 在 2026 年的行业分析给出了一个重要判断：AI 算力的竞争优势正从芯片规格转向系统级整合。这解释了为什么各大厂商都在拼"整栈"：

AMD Helios 机架的组合是 EPYC Venice（256 核 Zen 6）+ MI455X + Vulcano 网络芯片，以 UALink 开放标准对抗 NVLink 的封闭性——用"开放"换生态盟友。华为的灵衢 UnifiedBus 则在国内市场构建对位体系。但双方都面临同一个难题：NVIDIA 的七芯片是同步迭代的——Vera 与 Rubin 同代设计、NVLink 6 为 HBM4 的带宽特性量身定做、LPX 与 GPU 的 prefill/decode 分工在参考架构层面打通。对手的"拼装式整栈"在迭代节奏上天然慢一拍。

小结​

七芯片堆栈是 NVIDIA 对"AI 工厂"时代的一次完整应答：计算层用 Vera、Rubin、LPX 实现异构分工，互联层用 NVLink 6、ConnectX-9、Spectrum-6 铺设三级网络，BlueField-4 则重构了推理存储的金字塔。再辅以 NVLink Fusion 的有限开放与 NVHBM 定制计划，NVIDIA 把竞争维度从"单芯片规格"彻底抬升到"系统级整合"——Bain 的判断在这里得到了最好的注脚。对买方而言，评估下一笔 AI 基础设施投资时，问题已经不该是"这颗 GPU 多少 TFLOPS"，而是"这套系统能把每 token 成本压到多少"。谁能回答好后者，谁就赢得下一个五年。

每一台GB300机柜从台系代工厂的产线走向北美数据中心，都会在财报上留下痕迹。2026年，这些痕迹汇聚成一场收入海啸：单月营收年增近九成、全年AI服务器营收翻倍目标、单季出货上万柜。但繁荣的背面，是毛利率被压缩到个位数、现金流被库存吞噬的另一本账。

海啸有多猛：营收数字的集体跳涨​

先看台系ODM阵营2026年的成绩。广达3月合并营收3628亿元新台币，月增68.3%、年增88.4%，创单月历史新高，第一季度营收8092亿元、年增66.6%；纬创3月营收3330亿元、年增118%，第一季度8463亿元、年增144%。更早的1月数据同样惊人：鸿海年增35.5%，广达年增61.9%，纬创年增151.5%，服务器代工专业户纬颖年增121.9%。

增长的核心引擎是机柜级AI系统。广达确认2026年第一季度GB300系列出货量已超过GB200，并维持全年AI服务器营收翻倍的目标；纬创2025年出货约5万柜英伟达AI服务器，2026年预估提升至7.5万柜，年增50%，订单能见度已到2027年。广达与鸿海均评估2026年AI服务器业务将实现三位数百分比成长。

OEM 的另一面：超微的高营收与紧现金流​

美系OEM代表超微（Supermicro）交出的账本更能说明行业的天花板与地板。据第三方研究机构基于其财报的拆解，超微2026财年净销售收入达390.6亿美元，同比增长78%，其中GPU与整机柜配置增长83.4%；净利润同比增长113%至22.3亿美元。但代价同样醒目：毛利率仅10.82%，同比还在下滑；经营现金流为负68亿美元，现金转换周期拉长到约169天，存货堆积至103亿美元，另有342亿美元的不可取消采购承诺压在身上。

这组数字揭示了AI服务器生意的商业模式真相：组装厂赚的是"流水钱"——收入巨大、利润极薄、营运资金占用极重。组件成本里昂贵的硅片占比越来越高，机箱与组装的增值空间被进一步压缩，规模不赚毛利、只赚周转。

隐忧清单：三重挤压正在形成​

机遇之下的隐忧值得逐条列出。其一是利润挤压：ODM毛利率普遍在个位数徘徊，AI服务器占比越高、越接近"过手贸易"的财务特征，一旦上游降价或客户压价，缓冲空间极小。其二是资本开支重担：纬创追加近90亿元新台币购置新竹厂房设备、在美国德州设厂，ODM们被迫从轻资产走向重资产，以换取关键客户的独占份额。其三是客户与代际风险：每一代GPU平台切换都是一轮淘汰赛，未能切入新平台供应链的厂商将被迅速甩开；而云厂商自研整机（如开放机架规范）的推进，也在长期侵蚀传统ODM的设计价值。

研判：海啸之后，看谁能把流水变成利润​

AI服务器代工的黄金窗口至少延续到2027年——订单能见度、Vera Rubin平台切换与北美资本开支共同托底，收入海啸不会退潮。但行业内部将剧烈分化：能同时拿下机柜设计权、液冷交付能力与多平台卡位的头部ODM，会把规模优势转化为议价权；纯组装型玩家则可能陷入"增收不增利加现金流紧绷"的Triple挤压。观察下一阶段的两个关键指标：一是机柜级订单中自主设计（而非纯代工料件）的占比，二是现金转换周期能否从极端水位回落。海啸所有人都能淋到，但只有学会冲浪的厂商能把浪头变成护城河。

CUDA 的护城河有多深？20 年的代码沉淀、与主流框架的深度绑定、一代工程师的肌肉记忆。但 2026 年，三条隧道正在城墙下方掘进：华为 CANN 全面开源，AMD ROCm 借 MI455X 补课，PyTorch/Triton 中立层持续稀释锁定。本文逐条拆解。

CUDA 护城河的本质​

CUDA 不是一个库，而是一整套生态惯性。站内 NVIDIA 规格卡反复出现的细节印证了这一点：RTX Spark 全栈 CUDA、DGX OS 预装完整 NVIDIA 软件栈、PyTorch with CUDA 原生兼容。护城河由三层构成：

1. 代码沉淀：cuDNN、cuBLAS、NCCL、TensorRT 等组件经过近 20 年打磨，算子覆盖度与稳定性无可替代；
2. 框架绑定：PyTorch、TensorFlow 的默认后端是 CUDA，新模型上线第一天就有 CUDA 支持；
3. 人才习惯：开发者学的是 CUDA 编程模型，迁移到任何新平台都有重学成本。

这种惯性意味着：即使竞品硬件性能追平，软件栈差距仍会让用户停留在原平台。要翻越这堵墙，硬攻不如打隧道。

隧道一：CANN 开源，用开放换生态​

华为选择的路是把家底亮出来。站内昇腾 960 规格卡记录：CANN 全面开源并进入常态化社区运营，外部开发者占比升至 61%（首次超越内部团队），月活跃开发者突破 5200 人。HC2026 补充口径进一步给出：CANN 已支持 40+ 模型原生训练，兼容 PyTorch、Triton、vLLM、veRL 等 90+ 开源项目，并成为 PyTorch 官网首个中国算力平台。

更关键的是头部模型厂商的背书：DeepSeek 与华为联合开源了面向昇腾 950 加速器的编程工具与库（含计算与通信库），明确瞄准降低 NVIDIA 生态锁定。当最强的开源模型团队直接参与昇腾工具链共建，"昇腾只能跑推理"的旧叙事被正式改写——DeepSeek 此前已在昇腾上完成训练侧验证。

CANN 策略的本质是：单芯片性能可以落后一代，但只要开源生态的迁移摩擦足够小，系统级方案（4096 卡超节点、统一内存编址）就能补齐单卡差距。

隧道二：ROCm 补课，用性能换迁移​

AMD 的路线不同：不是换赛道，而是在 CUDA 的主场追赶。站内 MI455X 规格卡显示：CDNA 5 架构、432GB HBM4、MXFP4 算力 40.3 PFLOPS，2026 Q3 末出货、H2 2026–H1 2027 规模爬坡；MI430X 支持 FP64 双精度并将驱动 LUMI-AI 超算。硬件到位之后，ROCm 的补课重心是算子覆盖与框架兼容——从 PyTorch 官方支持到 vLLM/sglang 的推理后端适配，开源社区的力量正在把 ROCm 从"能用"推向"好用"。

国产第二梯队的路径也值得注意：站内天数智芯天垓150 规格卡记录，其软件栈 IXUCA 高度兼容 CUDA 生态，官方口径迁移时间下降 50% 以上，适配主流深度学习框架与 200+ 模型（厂商口径）。兼容 CUDA 的"寄生式"策略，是在城墙阴影下最务实的生存方式。

隧道三：PyTorch/Triton 中立层稀释锁定​

前两条隧道是厂商挖的，第三条是社区挖的。PyTorch 2.x 的 compiler 栈（torch.compile）与 OpenAI Triton 让开发者写的模型代码可以不直接接触 CUDA——同一份 PyTorch 代码在 CUDA、ROCm、CANN 后端之间切换的成本逐年下降。当模型定义层与硬件执行层解耦，CUDA 的"默认后端"地位就从护城河变成了可选组件。CANN 能进 PyTorch 官网、ROCm 能成为官方后端，都是这个中立层稀释效应的体现。

绕过式创新：SINQ 与 Strata​

除了正面挖隧道，还有两条"绕过"城墙的小路：

• 华为苏黎世实验室开源的 SINQ 量化技术：官方测试称可将大模型显存占用削减约 60%-70%——显存需求骤降后，原本装不下的模型可以装进更小的卡，硬件门槛被算法直接拉低；
• OpenAI Strata 开源推理引擎：基于 C++20 与 CUDA，在 12-24GB 的游戏显卡上运行 125B Qwen MoE 模型，吞吐 60-95 tok/s，核心创新是专家缓存机制（CPU/GPU 并行）。它证明了软件创新可以让"消费级显卡跑大模型"成为现实。

这两项技术的共同点是：用算法层创新绕过硬件层差距——量化绕过显存墙，MoE 专家缓存绕过算力墙。软件栈竞争的维度因此变得更加多维。

开发者迁移决策树​

面对多平台选择，一个务实的决策路径：

1. 训练前沿模型？ 优先 CUDA 栈——算子覆盖与稳定性仍是训练侧硬需求，除非有明确的国产化合规要求；
2. 国产化合规优先？ 评估 CANN：40+ 模型原生训练、PyTorch/Triton/vLLM 支持已覆盖主流工作流，用小规模试点验证自己的模型清单；
3. 推理为主、成本敏感？ ROCm 平台（MI455X 432GB 显存）与 Strata 类引擎值得 POC，量化技术（SINQ 等）可显著降低硬件档位；
4. 多平台部署？ 把代码收敛到 PyTorch/Triton 中立层，避免深度依赖平台专有 API——这是面向未来的对冲。

小结​

CUDA 的城墙依然坚固，但 2026 年的掘进速度前所未有：CANN 用开源把外部开发者占比推到 61%，ROCm 借 MI455X 量产获得性能与出货的双重背书，PyTorch/Triton 中立层则从根上稀释锁定价值。叠加 SINQ、Strata 这类绕过式创新，"非 CUDA 平台不好用"的断言正在失效。对开发者而言，最优策略不是站队，而是站到中立层上——让每一条隧道都成为自己的备选出口。

据 The Gist/The Index Today 10月10日汇总，OpenAI 的商业化图景正以两条相互撕扯的曲线展开：一边是年化营收朝年底约700亿美元的方向快速推进，另一边是 Q2 运营亏损扩大至123亿美元。与此同时，这家公司在企业服务、消费产品与广告变现三条战线上同时铺货，并用数千亿美元级的算力协议锁定未来。本文为您梳理全景。

2025 年初，英伟达 CEO 说实用量子计算机还要十几年，量子股应声大跌；十个月后，谷歌在 Willow 芯片上跑出首个可验证的量子优势，同一位 CEO 公开承认判断有误。量子计算到底是 AI 的救世主还是永远的十年之约？把进展和边界分开看，答案才清晰。

真实进展：纠错跨过阈值线​

2024 年底，谷歌 105 量子比特的 Willow 芯片完成了一件三十年没人做到的事：逻辑量子比特的编码规模扩大时，错误率不升反降，指数级压制——这证明量子纠错在工程上真正可行，被业界称为"量子计算的 Transformer 时刻"。2025 年 10 月，谷歌在同一颗芯片上运行量子回声算法，拿到首个可验证的量子优势结果，据公开报道比传统超算快一万三千倍，且结果可在另一台量子计算机上复现。IBM 推出 120 量子比特的 Nighthawk，离子阱阵营 Quantinuum 把双比特门保真度推到 99.92%；英伟达则推出 CUDA-Q 与 NVQLink，把 QPU 定位成超算旁边的异构加速单元。

边界：它不会训练你的大模型​

必须泼一盆冷水：量子计算与 LLM 训练的优势域几乎不重叠。大模型的核心是大规模矩阵乘法，这正是 GPU 被设计出来的问题；量子计算机的优势在于指数级状态空间，即分子模拟、组合优化这类任务。谷歌的研究人员自己也承认，现阶段量子算法能处理的分子还在传统算力范围之内。至于"量子神经网络取代深度学习"，据公开的学界共识，本十年内不会发生。破解主流密码学所需的物理比特数比现有最好机器多四个数量级，但"先窃取、后解密"的威胁已经真实存在——NIST 已在 2024 年标准化三套后量子密码算法，头部厂商开始在生产环境部署混合抗量子方案。

真正的落地图景是混合模式：GPU 集群负责数据预处理、神经网络与任务编排，把其中狭窄的模拟或优化内核卸载给 QPU。英伟达押注的正是这个位置——每一台做量子模拟与混合计算的机器，都离不开 GPU。

对 AI 基础设施团队的启示​

现阶段合理的动作不是"采购量子计算机"，而是三件具体的事。第一，密码学盘点：梳理所有依赖 RSA、ECDSA 的系统与长期敏感数据，制定后量子迁移计划，这是当下唯一有时间压力的量子议题。第二，小成本建立认知：通过云平台按小时租用量子处理器，让两三名工程师跑通混合编程框架，判断自家业务里有没有值得试验的优化或模拟问题。第三，路线观察：超导阵营赌规模，离子阱阵营赌保真度，技术路线尚未收敛，任何重资产投入都为时过早。

写在最后​

量子计算与 AI 的关系，更准确的比喻是"邻居"而非"替代者"：它们共享机房、共享混合调度栈、共享人才，但各管各的优势域。对基础设施工程师，2026 年的正确姿势是保持关注、小步验证、把后量子迁移提上日程；对投资人，警惕把"可验证优势"讲成"商业可用"的故事。远水解不了近渴，但浇灌的方向值得知道。

当超大规模客户纷纷自研芯片，英伟达的应对不是把门关得更紧，而是把门框卖给所有人。Spectrum-X 与 NVLink Fusion 组成了一套精巧的双层策略：计算可以不是我的，但你的芯片必须接在我的网络上。

Spectrum-X：把以太网改造成 AI 网络​

传统以太网为吞吐优化，AI 集群需要的是无损、低熵的集合通信。Spectrum-X 的组合拳包括自适应路由、基于遥测的拥塞控制、RDMA 与 SuperNIC 端侧包重排序，官方目标是达到至少 95% 的有效带宽——而传统以太网在大规模 AI 负载下往往只能用到一半出头。

采用信号很有说服力：Meta 正在扩展基于 Spectrum-X 的 AI 负载，Oracle 在 OCI 上为大规模 AI 网络标准化选择 Spectrum-X，Cisco 与英伟达共建安全 AI 工厂参考设计。共封装光学已进入量产，用光互联的功耗红利去换取更多可分配给计算的瓦数——在 AI 工厂的电费账本里，这是实打实的 token 收益。

NVLink Fusion：把 Scale Up 域开放给对手们​

NVLink Fusion 于 2025 年 5 月 COMPUTEX 发布，逻辑是：第三方芯片只要集成 NVLink Fusion chiplet 与 NVLink-C2C 接口，就能接入英伟达的纵向扩展域和 MGX 机柜架构，获得最高每 XPU 1.8TB/s（新一代架构达 3TB/s 以上）的全对全带宽，以及 72 加速器的扩展能力。

这步棋的防御逻辑值得细读：即使超大规模客户的加速层走向异构——AWS 跑 Trainium4、Meta 跑自研推理芯片——英伟达依然通过 NVLink 交换芯片、机柜架构与网络栈捕获价值。反向看，UALink 阵营试图以开放标准做同样的事，NVLink Fusion 则用成熟度和生态深度先发截流。对定制芯片公司而言，好处是现实的：不必重造 scale-up 互联和机柜设计，就能拿到接近英伟达原生的系统级带宽。

两层策略合起来看​

Spectrum-X 管 Scale Out（机柜之间、数据中心之间），NVLink Fusion 管 Scale Up（机柜之内），BlueField 与 CMX 管存储与上下文，Mission Control 管运维——英伟达正在把"AI 工厂操作系统"的每一层都做成可出售的基座。计算层越开放，网络与软件层的护城河反而越深。

小结​

对采购者的启示有二：其一，评估英伟达方案时，网络栈（Spectrum-X、BlueField、光学）应当与 GPU 一起核算 TCO，它们已不是配件而是性能变量；其二，自研或采用第三方芯片的团队，NVLink Fusion 提供了一条免建互联的捷径，但要清醒地认识到，接入它的代价是深度绑定英伟达的系统生态。开放是真的，方向也是被设计好的。

团队拿到第一笔融资，决定自建算力时，第一台 8 卡服务器往往是最容易踩坑的一次采购。本文按预算分档给出卡型建议，并列出初创团队最常见的四个坑。

一、先算账：一台 8 卡服务器到底多少钱​

按 2026 年的公开渠道报价，主流方案分三档。海外 OEM 的 8 卡 HGX H100 整机报价约 25 万至 32 万美元，折合人民币 180 万至 240 万元；国内渠道的 8 卡 H800 或 H100 服务器租赁报价约每月 6.8 万至 9.5 万元。国产侧，Atlas 800T A2（8 卡昇腾 910B）渠道报价区间很大，从约 75 万元到接近 200 万元都有成交案例，主要受供货紧张程度影响。消费级方案则便宜得多：8 卡 RTX 4090 整机约 25 万至 35 万元，8 卡 RTX 5090 约 40 万至 55 万元。

二、卡型怎么选：显存优先于算力​

初创团队最常见的错误是"按 TFLOPS 买卡"。实际业务里，显存容量和带宽决定你能跑什么模型，算力只决定跑多快。4090 的 24GB 显存放不下 70B 模型的 FP16 权重，再便宜也没用；H100 的 80GB 和 H200 的 141GB 才是 70B 以上模型的入场券。

三个经验法则：

1. 做微调和推理验证：4090 或 5090 起步完全够用，7B 模型 Q4 量化只需约 4GB 显存，70B Q4 约 35 至 40GB，两张 5090 就能跑。
2. 做 70B 级 SFT 或多模态训练：直接上 8 卡 HGX，A800 二手是性价比之选，单卡 80GB、月租口径约 3.15 万至 4.5 万元，整机二手价约 60 万至 80 万元。
3. 拿不到进口卡：昇腾 910B 生态的框架适配已比较成熟，网上踩坑记录多，遇到问题容易找到答案。

三、四大避坑清单​

坑一：供电和散热被低估。 8 卡 H100 仅 GPU 满载就是 5.6kW，加上 CPU、内存、网卡，整机规划要按 8kW 以上算，普通办公室电路根本扛不住。租机房时确认机柜功率上限和是否支持液冷。

坑二：PCIe 版省钱省错了地方。 PCIe 版 8 卡机比 HGX NVSwitch 版便宜约 7 万美元，但没有 NVLink，多卡张量并行通信走 PCIe，大模型训练效率会明显下降。只做推理可以买 PCIe 版，做训练别省这个钱。

坑三：忽视保修和二手卡来源。 二手 A100 单卡约 18,500 美元、H100 约 18,000 至 22,000 美元，价格诱人，但矿卡翻新、显存故障风险真实存在。务必要求原厂保修转移或经销商保修，并做 24 小时烤机测试再付尾款。

坑四：忘了算网络和存储。 报价单上的整机通常不含 InfiniBand 交换机、光模块和分布式存储，这部分加起来可能再花 10 万至 40 万元。采购前让供应商把 BOM 拆开写清楚。

四、结尾建议​

给初创团队一句话总结：先用租赁验证业务，再决定买什么卡。 按 2026 年国内价格，4090 单卡时租低至 2 至 4 元，H100 单卡 28 至 35 元（第三方平台可低至 9.5 元左右），几个月的租赁费用就能摸清你的真实负载形态。如果月均利用率能稳定超过七成，自建才划算；否则把钱留在账上，比堆在机房里灵活得多。真要买，显存买够、供电留足、保修写清，这三条守住了，第一台 8 卡机大概率不会配错。

报价单上的 GPU 单价，通常只占三年总拥有成本的一半左右。电费、机房、冷却、折现和一系列隐藏项，才是采购决策里真正拉开差距的部分。

一、TCO 的五大组件​

一台 AI 服务器的三年总拥有成本，可以拆成五个部分：

1. 采购成本：GPU 卡 + 服务器节点 + 网络设备，一次性支出，不参与折现。
2. 电费：设备电耗 × 使用小时数 × 电价，三年里最大的持续支出之一。
3. 机房托管/租金：机柜租金或自建机房折算成本，按卡或按柜计费。
4. 冷却：风冷机房里冷却电耗约为设备电耗的 30%，液冷机房可压到 10% 左右。
5. 折现：未来三年的运营支出按年化折现率折算回今天的价值，让"三年合计"有可比性。

二、本站 TCO 计算器的默认口径​

为了让测算可复现，TCO 计算器采用了一套公开的默认口径：

• 实际功耗：不按 TDP 满负荷计，而是按"实际功耗 = TDP ×（空闲比 +（1 − 空闲比）× 使用率）"计算，空闲功耗比例默认 15%。
• 年电费：实际功耗 × 8760 小时 × 电价，电价默认 $0.1/kWh。
• 冷却：冷却电费 = 设备电费 ×（PUE − 1）。PUE 默认 1.3（风冷），液冷可设 1.1，极致方案 1.05。注意冷却单独列示、不再重复乘 PUE，避免双重计算。
• 折现：年化折现率默认 8%，按年末现金流口径折现；采购是一次性支出，永不折现。
• 集群口径：默认每 8 卡配一台服务器节点（约 $30,000/台），网络设备按 GPU 采购价的 12% 估算，千卡级集群另计每年约 $15 万的人力 OPEX。
• 汇率：人民币定价统一按 7.2 换算为美元。

三、实例测算：8 卡 B200 集群的三年 TCO​

以 B200 为例做一次文字推演。取站内卡口径：TDP 1,000W，市场价约 $42,000/卡；使用率取默认 90%，三年期。

一次性支出：GPU 采购 8 × $42,000 = $336,000；服务器节点 $30,000；网络设备按 12% 约 $40,300。合计约 $40.6 万。

年度运营：实际功耗 = 1kW × 8 ×（0.15 + 0.85 × 0.9）≈ 7.3kW；年设备电费 ≈ 7.3 × 8760 × $0.1 ≈ $6,400；冷却按 PUE 1.3 再加 30%，约 $1,900；机柜租金按 $500/卡·年 约 $4,000。年运营合计约 $12,300。

折现：8% 折现率下三年折现因子约 2.58，运营支出折现后约 $3.2 万。三年 TCO 约 $43.8 万（按 7.2 汇率约合 ¥315 万）——比单纯的采购价高出约三成，这还没算人力。拆成明细表更直观：

换成 Rubin R200 级别的旗舰方案，差距更夸张：单卡 TDP 1,800–2,300W 且必须液冷，NVL72 机柜功耗约 180kW，机柜定价 350–400 万美元。机柜电费按液冷 PUE 1.1 测算依然可观，这就是为什么"AI 工厂"的选址决策首先是电力决策。AMD MI455X 的 TDP 与定价均未公开，评估时建议按 Helios 机柜 225–245kW 的功耗上限做保守测算。

四、被忽略的隐藏成本​

公式之外的五类成本，最容易让预算失控：

• HBM 涨价传导：2026 年 HBM 供应紧张直接推高卡价——昇腾 950DT 渠道价超 ¥25 万（两个月内涨 20%–50%）、950PR 突破 ¥8 万、寒武纪思元690 上调 20%–30%。今天入库的价格，明年可能就是另一回事；连二手 A100 市场价（约 $28,000）都已远超当年 $15,000 的指导价。
• 供货周期：Rubin R200 自建机房用户要到 2027 年一季度才能采购，MI455X 规模爬坡要到 2026 下半年之后。等卡的每一天，都是空转的机柜租金。
• 软件迁移：从 CUDA 迁到 ROCm 或 CANN，即便有兼容层（CANN Next 官方口径约 80% 的 PyTorch 代码仅需改配置），工程师时间和调优成本也要折算进 TCO。
• 液冷改造：B300 Ultra TDP 1,400W 起就必须液冷，8 卡 DGX B300 峰值功耗约 14kW，相当于两台 H100 服务器。风冷机房升级液冷是一次性资本开支，很多预算模型里根本没这一项。
• 电力增容：Helios 机柜 225–245kW、NVL72 约 180kW，数据中心级部署往往需要电力扩容审批，周期以月计。

五、云租 vs 自建：决策框架​

本站 TCO 计算器内置了 Build-vs-Rent 模型，核心结论可以用一个公式概括：自建的每 GPU·小时成本 = 固定成本 ÷ 利用率 + 变动电费。它意味着：

• 利用率是分母：跑满的自建集群单位成本可能显著低于云价；利用率 30% 以下，自建几乎必然亏。公式还能解出盈亏平衡利用率——云价低于你的变动成本底线时，租赁恒优。
• 云价参照系：默认云价 $2.5/GPU·小时；实际行情中 H100 约 $2.00，B300 约 $8.00。拿你的负载画像去对号入座。
• 决策规则：稳定高负载（利用率 70% 以上）倾向自建；波动或探索期负载先云租；介于两者之间的，用计算器输入真实电价、租金和利用率跑一遍敏感性分析（电价 +20%、使用率 +20%、PUE 1.5 等情景）再做决定。

小结​

TCO 测算的价值不在于算出一个精确数字，而在于把"采购价幻觉"拆掉：一次性支出只占三年成本的一半到三分之二，电费与冷却跟随功耗走，折现让远期支出显形，而 HBM 涨价、供货周期、液冷改造这些隐藏项往往才是超预算的元凶。建议打开站内 TCO 计算器，用自己的参数实测一遍；型号规格可查阅完整对比表与各芯片卡页面。