跳到主要内容

39 篇博文 含有标签「AI Compute」

AI compute supply, demand and industry trends

查看所有标签

2026 年四季度企业 GPU 采购实操手册:缺货周期、锁价策略与预算重构

· 阅读需 6 分钟
Industry Research Team

如果你在 2026 年四季度做 GPU 采购决策,最大的认知误区是继续盯着「GPU 有没有货」。TrendForce 在 10 月 5 日发布的供应链追踪里明确指出:在其跟踪的七大服务器零部件类别中,GPU 是唯一处于均衡水平的一类,而 CPU、DRAM、企业级 SSD 相关 NAND、HDD、ABF 载板、MLCC 全部处于紧张或极度紧张。瓶颈已经从「拿不到加速卡」,迁移到了「拿到卡之后,凑不齐一台能上电的整机」。


一、四季度的真实价格水位:现货在涨,也在分化​

先看海外云端。多家价格追踪站在 2026 年 10 月上旬给出的按需单卡小时价(美元)大致落在这个区间:

型号低价位平台中位区间高价位平台
H100 SXM 80GBRunPod 约 2.69中位数约 5.00Azure 美东约 12.29
H200 SXM 141GBRunPod 约 3.59中位数约 5.40Google Cloud 约 10.60
B200 180GB约 5.98中位数约 8.60约 14.24
B300 288GBRunPod 约 7.89中位区间 9 至 12AWS p6e 约 11.70(候补名单)

同一款 H100,最高价与最低价之间能出现 4.6 倍价差。这是四季度最重要的一条实操结论:你不是在买一种商品,你是在买一个供应商关系。

国内现货市场的走向更复杂。2026 年 9 月中旬的一线渠道数据显示,RTX 5090 涡轮卡与风扇卡报价分别为约 4.8 万元与 4.6 万元一张,相比前期高点已有回落;H100 老款整机维持在 325 至 330 万元区间;H200 两路整机约 560 至 565 万元一台;GB200 整机柜约 6800 万元一套,GB300 约 12500 万元一套。与硬件价格相比,租赁端的费率并未同步上涨——5090 服务器的月租费率仍稳定在 1.35 至 1.6 万元区间。这意味着现在买硬件的人,正在独自承担硬件端的溢价。

值得注意的是一个反向信号: Nebius 在 10 月 1 日上调了 GPU 小时价,媒体测算涨幅可达 21%,涉及 H200 报价升至约 5.40 美元。而 CoreWeave 在 9 月 17 日披露,其第三季度签署的 3 至 6 个月短约,按「年化收入除以服务集群所需电力」口径计约为每兆瓦 4000 万美元。这两组数据共同说明:四季度仍在涨的是新签的、算力紧张的合约,而非全部存量。

二、承诺折扣才是真正的采购价​

如果只比按需价,你会高估成本三到五成。2026 年 10 月初的公开报价显示,主流云的 H100 承诺折扣幅度如下:

平台按需1 年承诺3 年承诺竞价实例
Azure(美东)12.29约 7.87(约 -36%)约 5.40(约 -56%)约 2.27(约 -82%)
Google Cloud约 11.06约 7.67(约 -31%)约 4.86(约 -56%)约 6.62

这里有两个反直觉的点。第一,Azure 的 H100 竞价实例折算到单卡约 2.27 美元,低于我们核实的所有新型 GPU 云按需价——前提是你的任务能承受被抢占。第二,Google Cloud 上同一台机器的竞价实例(6.62)比其排队启动的柔性实例(约 4.79)贵出约 38%,而绝大多数团队从来没把这两者放在同一张表里比较过。

实操结论:先算承诺,再谈按需。 如果你的负载有 70% 以上的稳定基线,四季度就应该把 1 年承诺的报价拉进谈判桌,而不是按单小时询价。

三、整机交付才是真正的排期表​

TrendForce 10 月 5 日的交期数据,是四季度采购排期的核心依据:

零部件当前交期均衡基准倍数
GPU30 至 40 周30 至 40 周已均衡
DRAM20 周8 周2.5 倍
HDD50 周16 周约 3.1 倍
ABF 载板48 至 56 周12 周4 至 4.7 倍
MLCC35 周12 周约 2.9 倍
企业级 SSD 相关 NAND16 周8 周2 倍

价格侧,TrendForce 于 9 月 30 日预计 2026 年第四季度常规 DRAM 合约价环比再涨 10% 至 15%;ABF 载板从 3Q26 到 4Q27 逐季上涨 10% 至 15%。美光 CEO 更是在 10 月初公开表示,存储短缺可能延续到 2028 年甚至更久,客户最终支付的价格将「显著高于今年」。

实操结论:把 CPU、内存、存储、光模块的采购与 GPU 订单绑定谈。 如果你只锁了 GPU 的货,等卡的 30 周过去后还要再等 DRAM 的 20 周。横向看一眼,同一份调研还显示中压开关柜交期约 22 个月、大容量变压器约 18 个月——自建机房的项目,采购启动点要再往前推。

四、六步实操流程​

步骤动作交付物
1拆 BOM:区分「卡已锁定、组件未锁定」与「全部现货」两类资产资产分类表
2拉齐双报价:云端 1 年/3 年承诺价 + 渠道整机含税价双轨比价表
3算三口径成本:租金、电力、折旧(含残值)单位 token 成本
4设采购分层:刚需锁货锁交付,非刚需不囤采购分层清单
5谈条款:把交期违约、显存规格变更、价格调整写进合同条款清单
6留后手:保留一条可抢占实例做弹性缓冲弹性池预算

五、给采购负责人的四条清单​

  • 先锁组件,再锁整机。 你的排期风险 90% 在 DRAM 和 ABF 载板上,不在 GPU 上。
  • 把承诺价当谈判筹码。 Azure、Google 的 3 年承诺都在按需价的 44% 左右,1 年承诺约 64%,不询价就等于接受 100%。
  • 警惕居间加价。 算力租赁渠道中居间人占比据称约三成,「总租-分租」模式会显著放大终端隐性成本;四季度更应走直签。
  • 现货与租值的背离要计入模型。 硬件在涨、月租在稳,意味着现在囤货的持有成本正在被市场惩罚——除非你能证明未来 6 个月算力会继续短缺,而数据支持这个假设。

一句话总结:四季度 GPU 采购的正确姿势,不是「抢到卡」,而是「在组件最紧的时候把整机合同锁死,同时用承诺折扣把云端备选方案的账算清」。

HBM4E/HBM5 供应路线图与 2027 产能格局

· 阅读需 6 分钟
Industry Research Team

每一次关于 AI 芯片供给紧张的讨论,最后都会落到 HBM 身上。但「HBM 紧张」这个说法在 2026 年已经不够精确了——真实的约束不在 HBM 晶圆的产能,而在先进封装环节,以及一个正在发生的架构转变:基底裸片要换代了。

2027 年的供需账本​

行业预测 2027 年 HBM 需求增长率为 56%,高于 50% 的供应增速——缺口不大,但方向明确。据公开报道,市场普遍认为 2027 年 HBM4 价格将较 2026 年上涨约 65%。更有参考意义的是晶圆效率数据:HBM3E 良率约 35%,每片晶圆有效晶粒约 580 颗,远低于一般 D1B DRAM 的约 1750 颗;HBM4 良率进一步降至约 25%,每片有效晶粒约 500 颗,而 D1C DRAM 约为 2100 颗。也就是说,同样一片晶圆,HBM 产出的数据量只有普通 DRAM 的四分之一不到,这是产能转化率上最难跨越的一道坎。

产能节点按厂商拆开看:

厂商2026 关键进展2027 关键节点2028 及以后
三星HBM4 大规模供货,良率从低于 60% 提升至约 80%平泽 P5 Fab 1 投产,HBM4E 量产,晶圆月进料量从 18 万片增至 25 万片P5 Fab 2 与龙仁新基地提前至 2029 年
SK 海力士HBM4 二季度批量出货,下半年全面爬坡龙仁 Y1 厂投产,HBM4E 正式量产Y2 厂提前至 2028 年下半年
美光HBM4 占总产出比例从 20% 至 30% 拉高至 50%,累计出货收入突破 10 亿美元新加坡先进封装厂贡献供应日本广岛工厂 2028 年夏季开始出货

SK 海力士 CEO 郭诺定在印第安纳动工仪式上的表述是:存储芯片短缺至少持续到 2030 年底。

资本开支的斜率能说明决心。三星半导体资本支出预计从 2025 年约 48 万亿韩元增至 2028 年逾 100 万亿韩元,SK 海力士同期从 28 万亿韩元提升至接近 80 万亿韩元。三家已公开的 HBM 专项投资加总超过 900 亿美元,这个数字还不包括跨品类工厂里 HBM 的占比——各家都没有单独拆分。

份额:一年之内差距缩小一半​

据 Counterpoint Research 数据,三星 HBM 收入份额从 2026 年第一季度的 21% 攀升至第二季度的 33%;同期 SK 海力士从 58% 降至 50%。两家之间的差距在一个季度内从 37 个百分点缩小到 17 个百分点。SK 海力士的守势动作是清州 M15X 工厂晶圆月产量从约 1 万片提升到 8 万片,同时加速龙仁集群首座晶圆厂建设。三星则依靠存储、代工、先进封装的垂直整合结构,用自家 4 纳米基底裸片工艺争取差异化。

美光是差距最大但追赶最快的一家:2025 年月产约 4 到 5 万片,一年内翻倍到 10 万片目标,新加坡 70 亿美元封装厂、日本广岛 1.5 万亿日元(约 93 亿美元)工厂、以及 18 亿美元收购力晶铜锣 P5 晶圆厂构成全球撒网的投资版图。

定制基底裸片:HBM 以来最重要的转变​

从 HBM4E 开始,DRAM 堆叠下方的基底裸片变成客户专属。内存控制器和协议逻辑从 GPU 或 ASIC 搬到 HBM 基底裸片本身,加速器裸片上由此腾出更多计算面积。代价是基底裸片需要在先进逻辑制程上制造——HBM4 基底裸片预计采用 12 纳米,HBM4E 则要向先进逻辑演进。

各家路线因此分化:

厂商基底裸片策略制程合作方
SK 海力士与台积电合作定制 HBM4E 与 HBM5 基底裸片,计划导入台积电 3 纳米台积电
三星使用自家代工工艺,作为垂直整合打法自有代工
美光没有自有代工,目标 2027 年推出定制 HBM4E,押注更高利润率未公开

这是自堆叠技术以来 HBM 行业最重要的结构性变化,它把壁垒从「谁会堆叠」挪到了「谁能把内存专业和领先制程代工绑在一起」。SK 海力士在这条线上的位置明显更稳。

真正的瓶颈不是 HBM​

一个需要反复强调的判断:当前绑定约束是台积电的 CoWoS-L 产能,不是 HBM 晶圆供给。据公开报道,CoWoS-L 产能目前在 13 万到 15 万片每月量级,NVIDIA 在 2026 年内持有台积电 CoWoS 约 60% 的分配份额。

未来的容量账本也在提前准备:有预测认为到 2029 到 2031 年,20 层堆叠成为主流,14 倍光罩尺寸的 CoWoS 中介层需要承载 24 组 HBM5E 堆叠,并配合浸没式冷却。这些数字现在还是路线图而非订单,但它们说明瓶颈的性质会从「谁能造 HBM」变成「谁能装 HBM」。

更早期的信号值得留意:HBF(高带宽闪存)已在铠侠、闪迪、美光处进入采样阶段。它的定位不是在带宽上击败 HBM,而是在每美元容量上补上 HBM 的短板——对于 KV Cache 容量需求正在膨胀的推理场景,这可能是一条不同于 HBM 的成本路径。

展望​

投资判断上有一个被反复验证的经验:新产能正式开出通常是存储上升周期接近尾声的先行指标。按已公布的节点,SK 海力士 2027 年 2 月、美光 2027 年 5 月、三星 2027 年 7 月这三个时间点,是观察本轮周期位置最值得标记的坐标。机构预测本轮景气高点可能落在 2028 年下半年,AI 超大型数据中心资本支出则可能在 2029 年进入平台期。

对下游的采购与架构团队,2027 年的实际含义是:HBM4E 会成为主力供应SKU,定制基底裸片带来的裸片面积与功耗收益会逐步传导到 XPU 指标上,而 CoWoS 排期仍然是比内存价格更值得提前锁定的资源。任何把 HBM 当成唯一瓶颈来做产能规划的做法,在 2027 年都会算错。

四大云厂 2026 年资本开支与算力采购指引汇总:Q4 该盯什么

· 阅读需 4 分钟
Industry Research Team

截至 2026 年 10 月,四大云服务商的 2026 年资本开支指引合计已升至约 7200 亿至 7450 亿美元。这个数字还在上修路径上,而 10 月末即将开启的三季度财报季,是这一趋势能否延续的第一个真实检验点。

指引全景:全部上修,无一下调​

据 7 月下旬财报电话会披露的信息,四家云厂在最新一轮财报中全部上调或维持了资本开支预期。其中亚马逊将 2026 年现金资本开支指引从此前的约 2000 亿美元上调至约 2200 亿美元,并明确将涨价归因于内存成本上升;Alphabet 将全年指引从 1800 亿至 1900 亿美元上调至 1950 亿至 2050 亿美元;Meta 把区间下限从 1250 亿美元抬升至 1300 亿至 1450 亿美元;微软则因租赁会计口径调整,账面数字反而下调至约 1750 亿美元,并不代表实际投入减少。

公司最新季度资本开支上半年实际2026 全年指引主要驱动说明
亚马逊约 531 亿美元约 963 亿美元约 2200 亿美元上调,明确提及内存成本
Alphabet约 449 亿美元约 806 亿美元1950 亿至 2050 亿美元技术基础设施,服务器与网络
Meta约 311 亿美元约 509 亿美元1300 亿至 1450 亿美元下限上调,AI 集群建设
微软约 410 亿美元(FY26 Q4)约 729 亿美元约 1750 亿美元(租赁口径)口径变更,非投入下降

若把甲骨文 FY2027 指引计入,合计规模将进一步抬升至约 8350 亿美元。从上半年与全年指引的差额看,四家公司对下半年的支出预期都明显加速——亚马逊隐含下半年约 1240 亿美元,Alphabet 约 1140 亿至 1240 亿美元,Meta 约 790 亿至 940 亿美元。

支出去向:不只是加速卡​

一个容易被忽略的细节是,微软在 FY26 第四财季电话会上明确说明,当季约 410 亿美元资本开支中约三分之二属于「短寿命资产,主要是 CPU 和 GPU」。这类资产折旧周期短、单价高,对零部件价格变动极为敏感。亚马逊高管也在电话会上把指引上调直接归因于内存成本。

另一边的压力来自供电与场地。据公开统计,行业跟踪的 104 个数据中心项目中已有 54 个在建,29 个已宣布,16 个部分运行,5 个完全投运;披露规模的项目合计规划容量约 104.5 吉瓦。配套的 52 笔电力交易中,47 笔披露容量的合计约 70.3 吉瓦,其中 14 笔落在 2026 年第三季度,是该数据集任何一个季度中最多的一次。

资本结构的压力同样在积累。据报道,Alphabet 已完成上市以来首次股票发行并发行大额债券,Meta 在 2026 年二季度自由现金流仅约 7.84 亿美元的情况下依赖私人信贷借款补充流动性。评级机构与投行普遍提示表外租赁与服务器采购承诺正在形成大额隐性负债。

研判:四季度看三件事​

第一是三季度财报。10 月末的财报季将给出第一个可以证伪的季度数据。如果有任何一家下调全年指引,「上修周期」才算真正见顶;在此之前,所有的「AI 泡沫」争论都还停留在估值层面而非支出层面。

第二是内存成本的传导路径。亚马逊把涨价写进指引,说明成本压力已经到了无法吸收的阶段。HBM 与 DDR5 同厂不同线,产能分配存在此消彼长关系,一旦消费级 DRAM 供给被压缩,云厂需要在不同内存品类之间重新分配预算。

第三是会计口径的可比性。微软把未来数据中心租赁从融资租赁调整为经营租赁,导致同一笔投入在资本开支科目上的呈现发生变化。任何跨公司加总的「AI 支出」数字,都必须先问一句口径是否一致。

对芯片产业而言,四季度的实际含义很直接:只要这四家不松手,HBM、先进封装、高速互联的订单可见度就维持在两年以上;但采购结构正从「单颗加速卡」转向「整机架系统 + 供电 + 液冷」,供应商名单会随之变长。

每百万 token 成本实测框架:2026 年 Q4 价格环境下的自建与 API 选型

· 阅读需 6 分钟
Industry Research Team

「每百万 token 多少钱」这个问题,在 2026 年已经失去了单独讨论的意义。2026 年 10 月 8 日的价格快照显示,最便宜的模型输入价已跌到每百万 token 0.05 美元(GPT-5 Nano)到 0.14 美元(DeepSeek V4 Flash)区间,而旗舰模型仍在 4 至 5 美元输入、20 至 25 美元输出。头部与尾部之间相差约 100 倍,真正决定账单的不是单价,而是你的计量口径。


一、2026 年 10 月的价格环境基线​

以下是我们核实的公开价格(单位:美元 / 每百万 token),可用于建立四季度预算模型:

模型输入输出上下文备注
GPT-5 Nano0.050.40—当前最低输入价
Qwen3.8 Flash0.090.28—聊天场景最省
Gemini 2.5 Flash-Lite0.100.40—精确 token 计数
DeepSeek V4 Flash0.140.28128K输入侧另有峰谷价
GLM-5.3 Flash0.150.50128K—
Qwen3.6-Plus0.503.001M超 256K 输入翻至 2.00 / 6.00
Gemini 3.7 Flash0.753.751M促销价,2026-12-31 后翻倍
Claude Opus 55.0025.001M8 月定价至今未变

四个必须注意的口径陷阱:

  1. 促销有到期日。 Gemini 3.7 Flash 的 0.75 / 3.75 是促销价,官方标注 2026 年 12 月 31 日后恢复至 1.50 / 7.50。Qwen3.6-Plus 的国际版价格在输入超过 256K 后跳到 2.00 / 6.00。用促销价做全年预算,等于给自己埋一个 2 倍的账。
  2. 峰谷定价真实存在。 DeepSeek V4 Flash 的官方价为离峰 0.22 / 0.66、峰段 0.44 / 1.32,峰段为 UTC 工作日的两个时段。如果你把离线批处理挪到离峰时段,同一批任务能省一半。
  3. 缓存命中价差三个数量级。 DeepSeek V4 Flash 缓存命中输入低至每百万 0.007 美元。RAG 或多轮对话场景里,缓存命中率每提升 10 个百分点,输入成本下降约一个量级。
  4. 输出单价通常是输入的 3 至 5 倍。 输入重的负载(翻译、文档重读)与输出重的负载(代码生成、长摘要)必须分开建模。

二、1 亿 token 月预算的真实账单​

取一个典型负载:1 亿输入 token + 1000 万输出 token。按上表单价估算:

模型月账单估算说明
DeepSeek V4 Flash约 28.60 美元(离峰)峰段则约 57.20 美元
Qwen3.6-Plus约 80 美元前提是多数请求输入不超 256K,否则约 260 美元
Gemini 3.7 Flash约 112.50 美元促销期内,12 月底后约 225 美元
GPT-5.6 Sol约 600 美元短上下文标准档
Claude Opus 5约 750 美元1M 上下文 + 默认开启思考

同一份工作,账单差 26 倍。 但这里有个陷阱比价差本身更重要:一个 0.14 美元的模型如果需要三次重试才给出正确结果,实际成本是 0.42 美元——比一次成功的 0.50 美元模型更贵。重试率必须计入单 token 成本。

三、什么规模开始值得自建​

自建的门槛取决于你的月 token 量。公开分析给出的经验阈值是:70B 级模型在每月 5 亿至 8 亿 token 以上时,自建的推理开支相比前沿 API 标价可降低 65% 至 80%。

而自建的另一条参考线来自芯片视角。联想 2026 年的生成式 AI TCO 研究给出:自托管 Llama 70B 的每百万 token 成本约 0.11 美元,而同类托管 API 约 2.00 美元,相差约一个数量级;对一台 Blackwell 级系统连续运行对标按需云价,五年节省超过 500 万美元,降幅 83.8%。

但这些数字有一个共同前提:硬件不闲着。该研究测算的盈亏平衡点,在对标按需云价时不到四个月,在对标深度折扣的多年期预留合约时则拉长到九到十个月。

四、实测框架:四步算出你的真实单位成本​

步骤做什么关键变量
1统计真实输入输出比通常在 5:1 到 20:1 之间,别用 1:1
2测算缓存命中率决定输入侧实际单价
3折算重试与失败成本重试率乘以单次成本
4与自建摊销对照自建月均 token 除以单卡月处理量

第 4 步的实操做法:拿一台具体卡型(比如 8 卡 H200 整机,月租 5 万至 6.6 万元;或 B200 云端按需约 5.98 至 8.60 美元/卡时),用你实测的吞吐(token/s)换算出月产出 token 总数,再除以月成本,得到自建的每百万 token 成本。这个数字必须用你自己的实测吞吐,不能用厂商标称峰值。

五、Q4 选型清单​

  • 默认档:把 DeepSeek V4 Flash 或 Qwen3.8 Flash 作为新功能的第一落点,前者综合性价比最优,后者输入最省。
  • 离线档:批处理、评测、数据清洗全部挪到离峰窗口,并接缓存,DeepSeek V4 Flash 缓存命中输入低至 0.007 美元/百万。
  • 旗舰档:只在具体任务被证明需要时升级。GPT-5.6 Luna 被称为「旗舰 90% 质量、2% 价格」的位置,Claude Opus 5 与 GPT-5.6 Sol 的差价买的是能力上限而非平均表现。
  • 自建评估档:月 token 量稳定在 5 亿以上、且负载 7×24 有基线,才启动自建建模。
  • 预算纪律:所有促销价按到期后的价格做全年预算,把峰值定价按峰段价做压测。

一句话总结:2026 年 Q4 的 token 成本优化,重点已经从「找便宜的模型」转向「选对计量口径」——缓存、峰谷、重试率、促销到期日,这四项加起来的量级远超模型之间的价差。

英伟达最新财报拆解:数据中心占比超九成,客户集中度正在悄悄变化

· 阅读需 4 分钟
Industry Research Team

截至 2026 年 10 月,英伟达最近一期财报(2027 财年第二季度,截至 2026 年 7 月 26 日)把单季营收推高到 962.21 亿美元。总量已不是新闻——真正值得拆开看的是客户结构的分叉,以及中国市场贡献的持续收缩。

总量与结构​

单季营收 962.21 亿美元,同比增长 106%,环比增长 18%,连续刷新纪录,大幅超出华尔街一致预期的约 922 亿美元。GAAP 净利润 596.88 亿美元,同比增长 126%,GAAP 毛利率 75.0%。GAAP 摊薄每股收益 2.46 美元,调整后每股收益 2.22 美元,高于市场预期的约 2.10 美元。财报公布后盘后一度上涨近 5%。

板块本季收入同比环比占总营收
数据中心合计约 890 亿美元约 117%约 18%约 92%
其中:超大规模云服务商约 487 亿美元约 102%约 13%—
其中:AI 云、工业与企业客户约 403 亿美元约 138%约 25%—
边缘计算(PC/游戏/汽车)约 72 亿美元约 27%约 13%—

管理层把数据中心增长归因于 Blackwell Ultra 平台的快速部署,并对下一季度给出约 1080 亿美元的营收指引。更罕见的是,公司首次提前一年给出远期指引,首席财务官预计 2028 财年营收增长约 70%。

客户集中度:从「依赖巨头」到「双引擎」​

这是本期财报最容易被忽略、也最有信息量的一组数字。超大规模云服务商贡献约 487 亿美元,同比增长约 102%;而 AI 云、工业与企业客户(ACIE)合计约 403 亿美元,同比增长约 138%,环比增速 25% 同样高于超大规模客户的 13%。英伟达对 ACIE 的解释是,增长来自 AI 原生公司、企业客户、主权 AI 客户,以及使用 AI 云服务的超大规模运营商。

换句话说,第二增长曲线的增速已经快于第一曲线。黄仁勋在电话会上表示,公司约一半业务目前正以每年约 100% 的速度增长,而且这部分增长来自云计算之外。这种结构变化对英伟达的意义在于:它降低了单一客户群资本开支波动带来的收入风险,也意味着定价权的基础正在从「少数几家可以签下十吉瓦的客户」扩展到成千上万家企业买家。

两个收缩项​

中国市场的贡献已经降到可以忽略的量级。本季运往中国的数据中心 Hopper 产品收入占数据中心总收入的比例低于 1%,且下一季度指引未计入任何来自中国的数据中心计算收入。这基本封死了 H20 系列在中国市场的残余想象空间。

另一项值得留意的收缩来自消费端。边缘计算板块营收约 72 亿美元,虽同比增长 27%,但公司明确表示增长主要来自 Blackwell 工作站强劲销售,部分被消费级 PC 销售放缓抵消——原因正是内存和系统价格上涨。这是本季度财报中唯一被管理层主动点名的需求抑制因素,也是 AI 内存涨价向终端传导的直接证据。

研判​

英伟达这份财报给出的信号可以概括为:总量天花板还很远,但增量来源正在换轨。ACIE 增速反超超大规模客户,意味着行业需求正从「少数巨头的基础设施投资」扩散到「成千上万家企业与主权 AI 的日常采购」。

不过有三处风险需要持续跟踪。其一,指引中不含中国收入,意味着这块若出现政策松动的边际改善,才会成为超预期的上行变量。其二,ACIE 客户群体更分散、订单颗粒度更小,对渠道与交付能力的要求高于对单一产能的依赖,这会改变公司的收入确认节奏。其三,库存与负债指标:财报披露当季存货拨备及超额存货采购义务约 9.85 亿美元,上半年合计约 21 亿美元,同时公司首次将「负债」单独列为风险因素,一到五年内到期债务为 150 亿美元,上一季度这一数字仅 27.5 亿美元。

真正决定下一个季度的变量,已经不在英伟达自己手里,而在台积电的先进封装产线和 HBM4 的爬坡速度上——这两者是 Blackwell Ultra 与 Rubin 平台能否按计划交付的物理前提。

AI 芯片周报(2026年第42周):Gorgon Halo、千亿投资 OpenAI 与算力金融化

· 阅读需 5 分钟
Industry Research Team

2026年第42周(10月6日—10月10日),AI 芯片行业的关键词是"下沉"与"金融化":AMD 把 192GB 内存塞进 AI PC,NVIDIA 承诺最高 1000 亿美元投资 OpenAI,三星单季利润预计暴增 8 倍,高盛统计年内 AI 财团融资约 5000 亿美元。本篇按国际、国产、存储与系统、资本与市场四节汇总。

国际动态​

AMD 发布 Ryzen AI Max 400 "Gorgon Halo":最高 192GB 统一内存,覆盖 Pro 495/490/485 三个型号,单机可离线运行 1000 亿参数级大模型(官方口径支持 300B 级量化部署),在 NVIDIA RTX Spark 新品活动前两天发布,正面竞争意图明显。

NVIDIA 承诺最高 1000 亿美元投资 OpenAI:双方协议锚定 10GW 部署规模,首个 1GW 基于 Rubin 平台,计划 2026 H2 上线。芯片厂商向客户注资、客户用投资采购芯片的"循环"结构,成为本周算力金融化的标志性样本。

微软双线出击:Surface Laptop Ultra 发布($2,599,10 月 16 日发货),同期 DGX Station for Windows 开启预览——GB300 平台、748GB 统一内存、20 PFLOPS FP4。RTX Spark 笔记本预订同步开启,联想 YOGA Pro 15 RTX Spark 定档 10 月 16 日开售。

Daytona 基准新纪录:基于 Vera 平台的系统以 8×EPYC 9755 配置实现 10.8 秒创建千级沙盒,Agent 基础设施的启动时延被压缩到秒级。

事件厂商要点
Gorgon Halo 发布AMD192GB、Pro 495/490/485
千亿投资 OpenAINVIDIA10GW、首 GW Rubin 2026 H2
Surface Laptop Ultra微软$2,599、10-16 发货
Daytona 千沙盒 10.8 秒Vera 平台8×EPYC 9755

国产动态​

徐直军 HC2026 访谈给出三个关键口径:昇腾 950DT 年底实现规模供货;按华为口径昇腾在中国市场份额已超英伟达;当前第一约束是产能而非需求。结合站内 950 规格卡的市场报价数据(950DT 指示性报价超 25 万元、两月涨幅最高 50%),供给紧张可见一斑。

壁仞科技拟配售 1.3 亿股 H 股:配售价 31.08 港元,较市价折让 9.76%,国产 GPU 上市公司密集利用窗口期补充研发弹药。

奕行智能完成近 20 亿元融资:估值接近 150 亿元,边缘与推理芯片赛道持续吸金。

存储与系统​

三星 Q3 业绩预告炸裂:利润预计超 100 万亿韩元、同比增约 8 倍;12 层 HBM4E 已通过 NVIDIA 验证;同步公布 zHBM 与 400 层 V10 NAND 路线图。HBM 验证通过意味着 Rubin 后续代的存储供应格局进一步固化。

DRAM 价格创 15 年新高:本季度最高涨幅达 89%,内存占整机 TCO 比重持续攀升——站内 Rubin Ultra 卡记录的"内存已占 TCO 约 40%"正在被进一步刷新。

GlobalFoundries 与 TSMC 签订 20 亿美元 interposer 协议:先进封装产能成为继 HBM 之后又一个被提前锁定的环节。

Oracle 燃气卡车运电:据 Bloomberg 确认,Oracle 用卡车运送天然气维持多座数据中心运转,电力短缺已从预测变为运营现实。

资本与市场​

高盛统计:年内 AI 财团融资约 5000 亿美元。算力投资已形成"芯片商注资-客户采购-算力转售"的金融化闭环。

GMI Cloud 融资 6.68 亿美元,其中含 NVIDIA 2.23 亿美元股权投资——NVIDIA 的注资版图从中大型云厂商延伸到新兴算力运营商。

Super Micro 出口管制案同谋认罪,供应链合规风险开始向整机厂传导。

TSMC Q3 营收创纪录:9 月营收同比 +54.6%,全年 CAPEX 顶格至 560 亿美元,先进制程与先进封装双线扩产。

NVIDIA 计划投资 d-Matrix,推理 ASIC 新贵获得巨头背书;Upscale AI 发布 Token Fabric 网络方案;Gemini 4 "Argon" 即将发布,模型侧的新一代旗舰同样在倒计时。

下周关注​

  1. RTX Spark 笔记本 10 月 16 日首发:Surface Laptop Ultra 与联想 YOGA Pro 15 同日开售,首发实测数据与终端定价即将揭晓;
  2. 昇腾 950DT 规模供货节奏:徐直军"年底规模供货"承诺进入兑现观察期;
  3. Q3 财报季开启:TSMC 已开 SCE 头炮,存储三巨头与 GPU 供应链财报将密集落地;
  4. Rubin NVL72 出货爬坡:首个 1GW Rubin 部署能否如期在 2026 H2 上线。

小结​

第 42 周的主线是"算力金融化":NVIDIA 千亿美元投资 OpenAI、高盛统计的 5000 亿财团融资、三星 8 倍利润,共同指向一个事实——AI 算力已经从技术生意变成资本生意。与此同时,Gorgon Halo 与 Surface Laptop Ultra 的发布说明竞争正在向端侧下沉,而 DRAM 创 15 年新高、Oracle 运气运电则提醒所有人:上游的存储与电力约束,比任何发布会都更真实地决定着 2027 年的算力供给。

桌面 AI 实验室:DGX Spark 与 DGX Station 的使用场景拆解

· 阅读需 4 分钟
Industry Research Team

英伟达把 Grace Blackwell 塞进了两个机盒:一个小如 Mac mini,一个像立式工作站。DGX Spark 与 DGX Station 的共同卖点是"在桌面上完成原型,再无缝迁往数据中心",但两者价格差一个数量级,适用人群并不重叠。

两台机器,两套定位​

DGX Spark 由 GB10 超级芯片驱动:一颗桌面优化的 Grace CPU(20 核 Arm)通过 NVLink-C2C 连接带第五代 Tensor Core 的 Blackwell GPU,128GB CPU 与 GPU 一致性共享的统一内存(LPDDR5X),FP4 算力最高 1 PFLOPS。DGX Station 则搭载 GB300 Desktop 超级芯片:72 核 Grace Neoverse V2 加 Blackwell Ultra GPU,FP4 算力 20 PFLOPS,784GB 一致性内存(288GB HBM3e 加 496GB LPDDR5X),并配 ConnectX-8 800G 网卡支持多机互联。

规格DGX SparkDGX Station
芯片GB10(Grace + Blackwell)GB300 Desktop(Grace + Blackwell Ultra)
CPU20 核 Arm Grace72 核 Grace Neoverse V2
统一内存128GB LPDDR5X784GB(288GB HBM3e + 496GB LPDDR5X)
FP4 算力1 PFLOPS20 PFLOPS
互联ConnectX(双机串联)ConnectX-8,800Gb/s
存储1TB 至 4TB NVMe高容量 NVMe
参考价格据公开报道 2,999 至 3,999 美元未公布(定位高出数倍)

统一内存是两台机器共同的灵魂:CPU 与 GPU 共享同一块内存池,数据免拷贝。Spark 的 128GB 让 200B 参数模型(4-bit 量化)可以在桌面推理,微调上限约 70B;Station 的 784GB 意味着训练或推理过去需要一整个机架集群才能容纳的模型。另一侧是明确的短板:Spark 内存带宽约 273GB/s(据公开报道),远低于任何数据中心 GPU,decode 速度是它最常被诟病的地方。

谁该买 Spark,谁该买 Station​

DGX Spark 适合:个人研究者与学生——在本地跑通从微调到 Agent 部署的全流程;Agent 开发者——7x24 小时常驻的本地 Agent 运行环境,数据不出门;边缘与机器人开发者——Isaac、Metropolis、Holoscan 框架的原生开发平台;企业 POC 团队——用两台串联跑 405B 量化模型做概念验证,再迁往云端。它的正确预期是"开发与原型",不是"生产服务"。

DGX Station 适合:需要桌面级保密的实验室——医疗、金融、国防场景下模型与数据全程本地;研究组——784GB 内存可在单机完成 70B 级全参数微调或更大模型的推理;Agent 集群测试——多台 Station 通过 800G ConnectX-8 组成小集群,模拟数据中心分布式行为。它填补的是"一台工作站装不下的模型,又不值得为此租机柜"的缝隙。

场景SparkStation
学习 AI 开发、跑开源模型适合过剩
200B 量化推理适合(速度受限)从容
70B 微调上限所在轻松
本地常驻 Agent适合适合
多机分布式实验双机串联上限800G 组网

软件与迁移路径​

两台机器预装 DGX OS 与完整的 NVIDIA AI 软件栈,包括 NIM 微服务与预训练模型。工作流的正确姿势是:本地原型、验证并行策略与量化方案,然后近乎原样迁移到 DGX Cloud 或数据中心集群——因为从 GB10 到 GB300 共享同一套 Grace Blackwell 软件栈,CUDA 代码与容器不需要重写。这套"从桌面到 AI 工厂"的连续性,才是英伟达做桌面产品的真正意图:培养下一代的开发者,让他们从第一行代码起就活在 NVIDIA 的生态里。

小结​

DGX Spark 是一台"会写代码的 Mac mini":3,999 美元买到 1 PFLOP 原型机,适合个人与 POC;DGX Station 是"桌面上的小型 AI 工厂":20 PFLOPS 与 784GB 内存服务保密场景与研究组。共同的前提是想清楚带宽与互联的物理极限——桌面设备的使命是缩短从想法到验证的距离,而不是替代数据中心。

EPYC Venice 256核登陆 2nm:AMD 服务器 CPU 的 AI 时代打法

· 阅读需 6 分钟
Industry Research Team

在 AI GPU 抢走所有头条的年代,服务器 CPU 的战争并未结束,而是换了一种打法。AMD 把 Zen 6 架构的 EPYC Venice 推上 2nm,堆到 256 核,并让它成为 Helios 机架的主机侧大脑——这是一份关于"AI 时代 CPU 该干什么"的答案。

全球首款 2nm 数据中心 CPU​

EPYC Venice 于 2026 年 1 月 6 日在 CES 发布,是第六代 EPYC 数据中心处理器,也是全球首款采用 2nm 工艺的高性能处理器。苹果会在消费级处理器上首发台积电 2nm,但数据中心 2nm 的头衔属于 AMD——在 x86 阵营中,这是自 Zen 架构崛起以来 AMD 第一次在制程节点上同时领先所有对手。

其核心规格如下:

规格参数
CPU 架构Zen 6 / Zen 6C
制程工艺台积电 2nm(N2)
核心数量最高 256 核(Zen 6C 版)
线程数量最高 512 线程
L3 缓存1024MB(1GB)
CCD 配置8 个 Zen 6C CCD(每 CCD 32 核)
内存通道16 通道,单路带宽 1.6TB/s
PCIe6.0
封装接口全新 SP7
发布时间2026 年 1 月 6 日(CES 2026)
量产时间2026 年 5 月(已投入量产)

Venice 系列包含两个版本:高密度 Zen 6C 版本最高 256 核(8 个 CCD、每 CCD 32 核、1GB L3),面向高密度数据中心;标准 Zen 6 版本最高 192 核(16 个 CCD、每 CCD 12 核、768MB L3),面向通用数据中心。单核性能提升达 70%。

256 核的密度哲学:AI 节点中 CPU 的角色重定义​

Zen 6C 的设计哲学浓缩在一个数字里:每 CCD 32 核,比上代 Zen 5C 的 16 核直接翻倍。这让 AMD 只用 8 颗 CCD 就实现了 256 核——更少的芯粒数量意味着更低的封装成本、更简化的互联拓扑与更好的良率控制。这是典型的 chiplet 时代密度打法:不追求单核极限,而是追求单位封装面积与单位成本下的核心密度。

为什么 AI 数据中心需要 256 核?答案藏在 CPU 角色的转变里。在传统数据中心,CPU 是绝对主角;而在 Helios 这样的 AI 机架中,每托盘 4 颗 MI455X GPU 配 1 颗 Venice,CPU 的职责变成了数据搬运、内存管理、系统控制编排——它不再是算力的提供者,而是算力的"交通调度员"。

这个角色对 CPU 的要求恰好与 256 核匹配:数据预处理、Tokenization、KV Cache 管理、网络协议栈、存储 I/O,这些工作高度并行且不依赖单核性能,核心数量就是吞吐量。16 通道内存提供的 1.6TB/s 带宽(Turin 的 2 倍)与升级的 PCIe 6.0、CPU-GPU 互联带宽翻倍,都是为了同一个目标:让 GPU 永远不缺数据。在 AI 工厂里,一颗喂不饱 GPU 的 CPU,就是最贵的瓶颈。

2nm 双厂布局:台湾与亚利桑那的地缘对冲​

Venice 的另一个关键进展是产能布局:它已在台积电 2nm 产线启动量产,并将延伸至台积电美国亚利桑那工厂。这使 AMD 成为首个实现美国本土 2nm 量产的 x86 服务器 CPU 厂商。

这步棋的价值在地缘层面。美国政府对本土先进制程产能的战略诉求日益强烈,超大规模云厂商的采购决策中"美国制造"的权重持续上升;亚利桑那产线让 AMD 在满足主权 AI 与政府订单时拥有对手难以复制的选项。与此同时,台湾产线保障了主力产能与成本效率——双厂并行既是对冲地缘风险,也是对冲单一产线的产能与意外风险。对于一款要装进 OpenAI、Meta、微软数 GW 级 AI 工厂的 CPU,供应链韧性本身就是产品力。

竞争格局:Intel 的份额流失与 Vera 的正面压力​

服务器 CPU 市场的竞争压力来自两个方向。

一个方向是传统对手 Intel。分析师普遍认为 Intel 在服务器 CPU 市场持续丢失份额,甚至出现"卖出 Intel"的分析口径。在 AI 数据中心的建设热潮中,每新建一个机架,主机侧 CPU 的采购决策就发生一次——而 Helios 这类 AMD 自家机架方案,天然把 Venice 带进了原本属于 Xeon 的领地。

另一个方向来自 NVIDIA。AI 工厂正在重新定义 CPU 的形态:NVIDIA 为 Rubin 平台配套了自研的 Vera ARM CPU(88 核),试图用"GPU 加自家 CPU"的整合方案替代独立服务器 CPU。竞争压力已经有数字化的呈现——根据 Daytona 的 Vera CPU 智能体基准测试,Vera 在千个沙盒场景中耗时 10.8 秒,而 EPYC 9755 需要 88.4 秒。这一测试虽不能代表所有负载,但它揭示了一个真实趋势:NVIDIA 正在用专为 AI Agent 工作负载设计的 CPU 架构,向"AI 工厂该用什么 CPU"的话语权发起冲击。

AMD 的应对是把 Venice 做成开放生态的一部分:它不只服务 Helios,也通过 Dell、HPE、Supermicro、Lenovo 的 OEM 渠道进入各种第三方 AI 服务器。与 Vera 的封闭整合路线不同,Venice 的卖点是 x86 软件兼容性与部署灵活性——存量数据中心不需要重写一行代码。

小结​

EPYC Venice 的故事不是"更多核心、更先进制程"的常规升级,而是一次角色转型的样板:CPU 从数据中心的主角变成 AI 工厂的调度中枢,256 核与 1.6TB/s 内存带宽是为"数据搬运工"这个新岗位定制的装备。2nm 双厂布局提供了地缘对冲,x86 兼容性守住了开放生态的基本盘。它面对的挑战同样明确——向上要顶住 Vera 这类 AI 原生 CPU 架构的挤压,向下要继续收割 Intel 丢失的份额。AI 时代的 CPU 战争,才刚刚进入下半场。

GB300 Grace Blackwell Ultra 全解:从 20 PFLOPS 桌面超算到数据中心旗舰

· 阅读需 6 分钟
Industry Research Team

同一颗 GB300 Grace Blackwell Ultra 芯片,既能撑起 350 万美元级的数据中心机柜,也能塞进一台放在办公桌上的 DGX Station。2026 年 10 月微软活动上预览的 DGX Station for Windows,让这个"双面故事"变得更加完整。本文依据站内芯片数据库,梳理 GB300 在 Blackwell 家族中的定位、桌面与数据中心的产品分层,以及 WSL 桥接对 Windows 企业市场的意义。

GB300 在 Blackwell 家族中的定位​

GB300 是 NVIDIA 第三代 Grace Blackwell 超级芯片,2025 H2 发布。其代际演进脉络清晰:

指标GH200 (2023-Q3)GB200 (2024-Q4)GB300 (2025 H2)
GPUH100B200B300 Ultra
CPUGrace 72 核Grace 72 核Grace 72 核
GPU 内存96GB HBM3192GB HBM3e288GB HBM3e
GPU 带宽3.35 TB/s8 TB/s10 TB/s
NVLink 域内60 TB/s130 TB/s130 TB/s
网络ConnectX-7 400GConnectX-8 800GConnectX-9 1.6T
FP4 sparse(单 GPU)N/A(FP8 2 PF)10 PF15 PF
TDP(GPU)1000W1000W1400W

GB300 超级芯片 = 2 颗 B300 Ultra GPU + 1 颗 Arm Grace CPU(72 核 Neoverse V2),通过 900 GB/s 的 NV-HBI 高速接口配对。据站内芯片数据库,单 Superchip FP4 sparse 算力 30 PFLOPS、FP8 dense 7.5 PFLOPS、GPU 侧总显存 576GB HBM3e,Superchip 模块单价约 7-8 万美元。

B300 Ultra:288GB HBM3e 的推理特化​

B300 Ultra(Blackwell Ultra)是 Blackwell 的中期升级版本,2026 年 1 月正式出货。据站内芯片数据库:

  • 显存:288GB HBM3e(12-Hi 堆叠),相比 B200 的 192GB 提升 50%,可单卡加载 FP16 的 70B 模型并保留 100GB+ 给 KV Cache;
  • 算力:FP4 稀疏 30 PFLOPS、FP8 密集 7 PFLOPS,相比 B200 均提升约 56%;
  • 实测:DeepSeek-R1 Prefill 吞吐 22,476 TGS,相比 H200 提升 8 倍;短输出场景提升 20 倍。

需要说明的是,站内 b300-ultra 卡按单卡口径记录 FP4 稀疏 30 PFLOPS,而 gb300 卡的代际对比表按单 GPU 口径记 15 PFLOPS(Superchip 两颗合计 30 PFLOPS),两个数据源口径存在差异,读者引用时需注意区分。B300 的制程仍为台积电 4NP,升级重心放在显存容量与 FP4 精度上——这正是"中期升级"的典型特征:架构不动,围绕推理经济性做增量。

NVL72 机柜:数据中心旗舰形态​

36 颗 GB300 组成 NVL72 机柜(72 颗 B300 Ultra + 36 颗 Grace),据站内芯片数据库:

项目配置
HBM 总量20.7 TB HBM3e
LPDDR5X 总量34.6 TB
NVLink 5 域内130 TB/s 全互联
ConnectX-9 出口72× 1.6T = 115 Tb/s
FP4 sparse 总算力1.08 EFLOPS
机柜 TDP约 120kW(含冷却)
价格约 330 万美元/机柜

ConnectX-9 是这代机柜的隐性升级:单端口 1.6 Tb/s 相比 ConnectX-8 翻倍,延迟低于 0.5 微秒,支持 NVLink over IB 跨机柜互联。8 个机柜可组成 NVL576 域——576 颗 B300 Ultra 共享 130 TB/s 互联,是业界最大单一 NVLink 域,对万亿参数 LLM 训练至关重要。云端租用方面,行业口径(Nebius)B300 的租用价格约为 9.50 美元/GPU 小时,站内芯片数据库另记录 AWS 8 卡 B300 实例(p6-b200.48xlarge)单 GPU 小时价 11.70 美元,不同供应商价差明显。

在 token 成本维度,站内数据给出了关键洞察:B300 单价虽高,但以 Llama 70B 推理测算,FP4 量化下单 token 成本相比 H100 低约 61%——单价高不等于用得贵。

DGX Station:20 PFLOPS 的桌面超算​

2026 年 10 月的微软活动上,NVIDIA 预览了 DGX Station for Windows,核心配置:

  • 芯片:GB300 Grace Blackwell Ultra Desktop Superchip;
  • 一致性内存:748GB(252GB HBM3e + 496GB LPDDR5X);
  • 算力:最高 20 PFLOPS FP4;
  • 模型能力:可在本地运行约 1 万亿参数模型;
  • 软件:Linux 工具链经 WSL(Windows Subsystem for Linux)访问;
  • 上市:2026 Q4,ASUS、Dell、HP、Lenovo 推出整机。

产品分层:1 PFLOPS 与 20 PFLOPS 之间​

DGX Station 的出现补全了 NVIDIA 桌面产品线的断层。站内芯片数据库记录的 RTX Spark(RTX DGX Spark)定位约 1 PFLOPS 级 FP4 算力的紧凑桌面开发机,而基于 GB300 Desktop Superchip 的 DGX Station 直接把桌面算力抬到 20 PFLOPS——20 倍的分层差距,对应着完全不同的用户画像:

维度RTX SparkDGX Station (GB300)
算力约 1 PFLOPS FP4最高 20 PFLOPS FP4
内存统一紧凑内存748GB 一致性内存
目标场景个人开发、微调小型模型本地万亿参数推理、企业级开发
价格量级消费级/准专业级高端工作站

WSL 桥接:Windows 企业市场的钥匙​

DGX Station for Windows 最值得玩味的细节是"Linux 工具链经 WSL 访问"。CUDA 生态的主场在 Linux,此前企业若要在 Windows 环境做本地 AI 开发,往往需要双机或虚拟化方案。WSL 桥接意味着:

  1. 企业 IT 无需改变管理习惯:Windows 域、组策略、合规审计体系原样保留;
  2. 开发者无需迁移工作流:PyTorch、TensorRT-LLM 等工具链在 WSL 内原生运行;
  3. 数据不出本地:金融、医疗、政务等对数据合规敏感的行业,获得了一条"本地跑万亿参数模型"的合规路径。

这与 GB300 数据中心侧的统一内存设计一脉相承:Grace 上 480GB LPDDR5X 与 B300 上 288GB HBM3e 统一寻址,CPU 与 GPU 共享一致性内存池。桌面版把同样的架构哲学浓缩进一台工作站——数据搬运越少,推理经济性越好。

小结​

GB300 家族展示了 NVIDIA 的典型打法:一颗芯片,从数据中心机柜到桌面工作站全栈铺开。数据中心侧,B300 Ultra 用 288GB HBM3e 和 FP4 精度把推理 token 成本压到 H100 的四成以下;桌面侧,DGX Station 用 20 PFLOPS FP4 和 748GB 一致性内存把"本地大模型"从口号变成 Q4 可买的产品。而 Rubin R200 已在 H2 2026 接棒数据中心旗舰,GB300 的价值窗口正在收窄——但它建立的"统一内存 + 桌面到机柜分层"产品范式,将由 Vera Rubin 平台延续下去。

三代同堂:H100、H200、B200 采购对比与代际提升

· 阅读需 4 分钟
Industry Research Team

2026 年的数据中心里,Hopper 一代与 Blackwell 一代正在同柜共存。买 H100 还是 H200,上不上 B200,不再只是"买新不买旧"的问题,而是一道涉及电价、液冷改造和 token 成本的核算题。

三张规格表:看清代际差异在哪​

从 H100 到 H200,提升几乎全部来自内存子系统;从 H200 到 B200,则是一次架构层面的全面换代:新 Tensor Core、双 Die 封装、FP4 精度、NVLink 带宽翻倍。三款芯片的关键规格如下(Tensor 数据均为稀疏口径,稠密值减半):

规格H100 SXMH200 SXMB200
架构HopperHopperBlackwell(双 Die)
显存80GB HBM3141GB HBM3e192GB HBM3e(软件可见约 180GB)
显存带宽3.35TB/s4.8TB/s8TB/s
BF16 Tensor1,979 TFLOPS1,979 TFLOPS约 2,250 TFLOPS
FP8 Tensor3,958 TFLOPS3,958 TFLOPS约 4,500 TFLOPS
FP4 Tensor不支持不支持约 20,000 TFLOPS
最大 TDP700W700W1,000W
NVLink900GB/s(第 4 代)900GB/s(第 4 代)1.8TB/s(第 5 代)

三点值得展开。第一,H100 与 H200 算力相同,H200 的收益完全由显存兑现:MLPerf 上 Llama 2 70B 推理吞吐接近 2 倍,训练实测提速通常在 1.1 至 1.4 倍之间,且越依赖大 batch、大上下文收益越明显。第二,B200 的 FP4 峰值是 Hopper 的约 5 倍,这是为推理时代设计的精度档位;跑传统 FP16/FP8 训练时,代际差距收窄到约 1.3 至 2.3 倍。第三,B200 的 1.8TB/s NVLink 与 1,000W 功耗,让它事实上被锁定在 HGX/DGX 的 SXM 体系里,几乎没有 PCIe 版本。

整机采购:价格与基础设施门槛​

据公开报道与市场行情,8 卡整机的大致采购区间如下:

整机(8 卡)参考价格区间供电与散热适配场景
HGX H10020 万至 30 万美元风冷为主训练微调通吃,生态最成熟
HGX H200约 26 万美元起风冷为主70B 级推理与训练,长上下文
HGX B20025 万至 40 万美元部分机型需要液冷或混合散热FP4 推理、大规模微调

基础设施是隐性成本。B200 整机功耗接近 10kW 级,对机柜供电密度提出要求;而更上层的 GB200 NVL72 则强制液冷,风冷机房改造动辄每兆瓦数百万美元。反过来,H100/H200 的风冷兼容性成为存量机房升级路径上最平滑的一步。云租赁价格也在同步下沉:H200 实例价格已明显低于发布初期,B200 实例则在各大云上快速铺开。

分场景采购建议​

大规模训练:优先 B200。NVLink 带宽翻倍直接影响张量并行与专家并行的通信效率,FP8 与 FP4 的混合精度路径也更完整。预算受限或机型紧张时,H200 训练 70B 级模型依然够用。

生产推理:这是 H200 的主场。单卡 141GB 装下 70B 模型免并行,每百万 token 成本往往低于 B200;除非你的业务跑在 FP4 量化模型或超长上下文上,B200 的算力溢价才会真正兑现。

微调与中小模型:H100 的性价比此时最高。模型装得进 80GB 时,H200 的多余显存帮不上忙,为带宽多付的钱买不到对应收益。

小结​

三代芯片的关系不是替换,而是分层:H100 是性价比与生态底座,H200 是推理性价比的甜点,B200 是 FP4 时代的算力上限。2026 年采购的正确姿势是先问三个问题——模型多大、机房能供多少电、预算按 token 还是按整机核算——答案自然会把你引向其中一张规格表。