跳到主要内容

88 篇博文 含有标签「AI Infrastructure」

Data center, power and networking infrastructure for AI

查看所有标签

Meta 的算力组合拳:自研 MTIA + 6GW AMD + 租用 TPU 的三线对冲

· 阅读需 3 分钟
Industry Research Team

2026 年的 Meta 给出了大型 AI 公司算力策略的标准答案:自研、采购、租赁三线并行,任何一条线都不足以单独支撑前沿模型的训练与推理。

一、三条线的最新进展​

线路内容状态
自研MTIA 公布四款芯片路线图;MTIA v3 已于 9 月量产;MTIA 300/450/500 覆盖 2026-2028发展中,主力仍是辅助推理
采购与 AMD 签署最高 6GW 合作,MI450/Helios 机架承接 Llama 训练与推理初始系统已运行
租赁被曝与谷歌签署数十亿美元合同,租用 TPU 集群已有报道,规模未披露

二、MTIA 自研线的位置​

Meta 的自研节奏相对克制:MTIA v1/v2 定位推理辅助,v3 于 2026 年 9 月量产,但尚未承担主力训练负载。这与谷歌 TPU(已承接 Gemini 全系)和 AWS Trainium(Anthropic 主力算力)的成熟度差距明显——自研芯片的成熟度取决于自用需求的规模与耐心,Meta 的广告推荐负载提供了推理侧的练兵场,但训练侧仍高度依赖采购。

有意思的是 Meta 同时成为 TorchTPU 的联合开发方——Meta PyTorch 工程团队深度参与让 PyTorch 原生跑上 TPU。给竞争对手的芯片生态添砖加瓦,恰恰说明算力多元化优先于阵营站队。

三、为什么「组合」而不是「押注」​

  1. 议价权:英伟达、AMD、谷歌三个供应商同时在场,任何一家都无法拿产能卡脖子
  2. 风险对冲:微软 Maia、Meta MTIA 的自研进度都落后于预期——自研失败的风险用采购和租赁对冲
  3. 负载匹配:推荐系统推理(自研 ASIC 最优)、前沿模型训练(英伟达/AMD 最优)、弹性推理峰值(租赁最优)各有最经济的供给方式
  4. 人才与生态:参与多个硬件生态(PyTorch/ROCm/TorchTPU)保持工程团队的硬件中立能力

四、对中型公司的启示​

Meta 的组合拳是资本规模堆出来的,但方法论可缩放:

  • 至少两条供给线:即使买不起 6GW,「主供应商 + 一家备胎」也应该成为默认配置
  • 按负载分供应商:把推荐/搜索类固定推理迁到便宜算力(自研或国产芯片),前沿训练留给头部 GPU
  • 软件栈保持中立:PyTorch + vLLM/SGLang 这类框架中立栈,是更换硬件时唯一的可迁移资产

延伸阅读:MTIA 300 卡片 · GPU/ASIC/CPU 三分天下 · 交互式对比

OpenAI × Broadcom 10GW 自研芯片进入部署期:推理专用 ASIC 的临界点

· 阅读需 3 分钟
Industry Research Team

2025 年 10 月 13 日,OpenAI 与 Broadcom 宣布共同开发并部署 10 吉瓦(GW)自研 AI 加速器,消息当日 Broadcom 股价涨超 10%。一年后的现在,这份协议进入真正的考验期:2026 下半年开始实际部署机架,2029 年底前完成全部 10GW。

一、协议要点回顾​

要素内容
规模10GW(约等于 800 万美国家庭用电,或 5 座胡佛大坝)
分工OpenAI 主导芯片与系统设计,Broadcom 负责共同开发与部署
组网Broadcom 以太网方案承担 Scale-up 与 Scale-out(非 InfiniBand)
时间线2026 H2 开始部署 → 2029 年底完成
芯片定位以推理为主的第一代专用加速器

二、推理专用:为什么第一颗芯片不做训练​

多家供应链报道指向同一个设计取向:OpenAI 第一代 ASIC 砍掉 FP64 流水线与通用图形逻辑,把晶圆面积全部留给推理负载——低秩注意力加速单元(面向 MLA 与低精度 KV Cache 解压)、放大片上 SRAM 以减少 HBM 往返、面向自回归解码的 INT4/FP8/FP4 量化矩阵单元。解码阶段的瓶颈在访存带宽而非算力密度,这一取舍与推理接棒训练的行业趋势互为印证。

工程团队由前谷歌 TPU 架构师 Richard Ho、Thomas Norrie 领衔,据报道已扩张至 40 余名 ASIC 设计人员;代工锁定台积电 N3P(后续 N2),并预留了 CoWoS-L 封装产能——先进封装而非前道制程,才是当前 AI 芯片产能的真瓶颈。

三、OpenAI 的三线算力版图​

自研芯片只是 OpenAI 算力组合的一根支柱:

  • NVIDIA:计划投资至多 1000 亿美元,供应至少 10GW 数据中心系统
  • AMD:6GW 芯片供应协议,含 OpenAI 认购 AMD 股权的期权
  • Broadcom:10GW 自研加速器(本文主角)

三份多吉瓦级协议在数周内接连落地,OpenAI 同时成为英伟达最大客户、AMD 大客户和芯片设计方——这是对「单一供应商锁定」的对冲,也是对自身推理成本结构的长期下注。

四、对行业的三个信号​

  1. 以太网 Scale-up 挑战专有互联:如果 OpenAI 机架全以太网组网并达到性能预期,将强化开放标准路线的议价能力
  2. ASIC 从「降本工具」变「战略资产」:谷歌 TPU 已向 Anthropic 供应百万颗量级,OpenAI 再入场,自研芯片正式成为头部 AI 公司的标配
  3. 资金问题仍未回答:OpenAI 未披露财务条款,多数分析师认为自研芯片短期内不改变英伟达的市场主导地位,但 2027-2028 年推理侧的份额争夺会真正开始

延伸阅读:谷歌 TPU 外部客户版图 · 微软 Maia 300 发布 · 自研芯片对比

机柜即产品:AI 芯片竞争单位从「单卡」变「整柜」

· 阅读需 3 分钟
Industry Research Team

看 AI 芯片市场的老习惯是看「出货量多少颗 GPU」。2026 年,这个指标正在失效——头部玩家的竞争单位已经变成整座机柜,单卡参数表不再是决策的充分依据。

一、各家机柜产品一览​

厂商机柜/超节点关键口径
NVIDIAVera Rubin NVL722026 H2 规模交付,Q4 放量确认
AMDHelios(MI450)OpenAI/Meta/微软/Oracle 站点初始系统已运行
华为Atlas 950/960 超节点Atlas 950 已发布;960 超节点 9 月官宣
天数智芯天垓 IXL144单柜 144 GPU、10.1TB 汇聚内存,工博会首展
MetaMTIA 机架与 MI455X 机架、TPU Pod 并行的组合

二、为什么竞争单位必须放大​

大模型训练的本质是「把几千颗芯片变成一台计算机」。单卡再强,卡间互联带宽与拓扑直径上不去,集群有效算力就会坍缩:

  • Scale-up 域决定能跑多大的模型:NVL72 把 72 颗芯片连成一个统一内存域;超节点路线(华为 CloudMatrix、天数 IXL144)则用更多卡数换互联规模
  • 每瓦有效算力取代每卡峰值算力成为核心指标:1,800W 的 Rubin R200 与 950W 的 Maia 300,比的是整个机架的 Token 吞吐与功耗比
  • 液冷与供电成为交付约束:吉瓦级数据中心的建设周期里,风冷机柜与液冷机柜的部署密度差一个量级

三、瓶颈扩散链​

机柜化把瓶颈从芯片扩散到整条供应链:

芯片 → HBM/封装(CoWoS-L) → 互联(铜缆/光) → 交换机 → 供电(PSU/母排) → 散热(液冷) → 机房(电力/空间)

这正是 2026 年存储涨价、封装紧缺、光模块缺货同时发生的底层原因——任何单一环节的产能都是整柜交付的瓶颈。

四、选型方法论的变化​

  1. 以机柜为报价单位:单卡价格已无意义,问「每机柜交付价 + 每机柜功耗 + 有效 Token 吞吐」
  2. 互联架构先于芯片选型:Scale-up 域大小决定模型规模上限,先定组网再看卡
  3. 供应链要逐环节核:交期不是芯片厂说了算,封装、HBM、光模块、液冷任何一环都可能拖半年
  4. 用 TCO 口径横向比:把机柜价、功耗、PUE、折现统一进模型——这正是本站 TCO 计算器的设计初衷

延伸阅读:超节点时代的选型框架 · 工博会超节点观察 · 完整对比表

Agent 智能体负载下的推理调度:2026 的新挑战

· 阅读需 8 分钟
Industry Research Team

聊天负载的调度问题,本质是「怎么把请求填满批」。到了 2026 年,智能体负载把这个问题的性质改变了:同一会话的连续请求共享长前缀,缓存复用率从聊天场景的 54% 到 62% 直接跃升到超过 80%。调度器如果还按过去那套逻辑做决策,会系统性地做错事。

智能体负载的三个反常之处​

先看生产轨迹给出的硬数字。据 Bailian 生产环境轨迹的分析,智能体服务的 KV 复用率超过 80%;另一份 PackServe 的生产轨迹显示,缓存 token 约占输入 token 的 80%,同时 decode 阶段占了请求总耗时的 78.4%。这两个数字组合起来意味着:绝大多数的注意力计算被跳过,而绝大多数的时间消耗在自回归解码上——优化目标已经不是 prefill 效率。

第二个反常是请求的触发方式。CacheWise 对真实编码助手轨迹的分析显示,工具完成触发的请求比用户输入触发的多出一个数量级以上。会话时长中位数约 36 分钟,长尾超过 2.6 小时。请求间隔由外部工具延迟决定,波动极大。

第三个反常是并发密度很低。PackServe 轨迹中,五分钟采样窗口内每实例运行并发在 0.39 到 1.69 之间,而平均 TPOT 仅小幅上升、远低于 SLO 目标。这意味着存在明显的延迟余量可用于请求打包,可以在满足 SLO 的前提下用更少的活跃 GPU 承载同样的需求。

缓存感知路由的过度优化​

问题的核心在于:现有调度器的问题不是「没有复用 KV」,而是「过度追求复用」。

SMetric 论文的表述是,缓存感知的调度器把每个请求路由到持有其缓存 KV 的实例,用负载均衡换复用率。后果是:第一,同一智能体框架的不同会话首轮请求共享相似的系统提示,都被路由到少数几个缓存了这些提示的实例;第二,由于后续请求基本都命中本会话早先轮次的 KV,会话就被钉在首轮落地的那个实例上。结果是少数实例吸收了整份会话并过载,其余集群闲置,而闲置实例的算力直接封顶了整体吞吐。

更关键的是,这种牺牲是不必要的。SMetric 提出了一个看起来违反直觉的方案:首轮请求纯按负载均衡调度,把会话摊到全集群;后续请求才走传统的缓存感知路由,优先本地级复用。

它能成立,靠的是两级 KV 存储这个前提——每实例 GPU 显存上的本地层,加上集群级 CPU 内存上的全局层。即使被调度到的实例本地没有这份 KV,它仍然能从全局层取回。只要全局层能及时供给,TPS 不受影响,代价只是 TTFT 小幅上升,而智能体负载恰恰对 TTFT 的容忍度更高。

这种分层架构本身也带来了新问题。Unison 论文(复旦大学,2026 年 9 月)指出一个被所有缓存策略忽视的盲区:智能体调用工具期间,GPU 完全空闲,但会话没有结束,工具返回后要从完整 KV 前缀恢复。按 DeepSeek V3 MLA 的结构估算,每 token 每层 576 个潜元素、共 61 层、bf16 存储,约 68.6 KiB 每 token;一个 10 万上下文的会话约 7.03 GB,一百个停在工具等待中的智能体就是约 703 GB 的纯 KV 驻留——约等于九张 80GB 级 GPU,而这些会话不产生任何输出、不消耗任何注意力计算。

LRU 和 TTL 在这个状态上都会失效,而且是结构性失效。LRU 按最后访问排序,工具等待的智能体看起来比两秒前还在对话的用户更旧。TTL 同样会把慢工具的会话在返回前淘汰掉。Unison 的判断是:区分「等待工具、即将返回」和「会话已结束」所需的信息存在于作业结构里,而不在访问日志里,因此没有任何 recency 或 idle 阈值能解决问题。

工程上的四个可操作结论​

调度手段解决的问题代价适用规模
缓存感知副本路由避免重复 prefill,跳过热副本需要一致性分词与模板4 至 16 卡起
分片调度(prefill 与 decode 分离)让两个阶段各自跑满各自资源双池运维 + KV 传输链路数十卡以上
两级 KV 存储允许牺牲 TTFT 换取复用率全局层的容量与带宽是有限资源集群级
工具元数据驱动的预测式驱逐按下次重用时间排序而非 LRU需要依赖调用侧元数据编码类智能体为主
准入控制与提前拒绝避免接纳注定违反 SLO 的请求需要预测输出长度分布全规模

准入控制是一切的前提。一台推理服务器不应该因为收到 HTTP 请求就接受它。被接受的工作消耗 KV、增加排队延迟、可能触发抢占、可能伤害其他租户。准入需要看的量是:未缓存的 prompt token 数、当前 KV 压力、空闲块水位、租户 token 预算与 KV 预算、排队截止期、期望输出长度区间、缓存命中概率。输出长度本身未知,控制器需要为运行中序列的增长留出余量——留多了浪费算力,留少了产生抢占抖动。频繁抢占本身就是策略已经病了的信号。

路由。看热的那个副本不一定是对的。最热的副本有最好的前缀命中,但队列可能已经很高、流式延迟接近上限;缓存命中省下的 prefill,可能被排队时间吃掉。实用的做法是联合打分:前缀重叠度、队列延迟、空闲 KV 块数、活跃 KV token 数、租户压力、副本健康度。

驱逐。CacheWise 的做法值得注意:不按 recency,而是用工具元数据(工具类型、参数)训练一个轻量预测器,估算每个会话的下一次重用时间,工具耗时最长的会话最先被驱逐。它在 vLLM 上实现,把 KV 驱逐降低 2 到 2.6 倍,会话总完成时间改善约 3.5 倍,token goodput 翻倍。

公平性。请求速率层面的公平在这里不管用——一个租户用少量超大请求就能压垮引擎,另一个租户发海量小请求却占用很少容量。公平应当基于加权的 token 服务量与 KV 占用,而不是请求数。智能体流量还需要扇出控制,因为一次用户操作可以产生大量模型调用。

架构层的两个选项​

解决智能体负载有两条路。一是分片调度:把 prefill 和 decode 拆到独立的 GPU 池,通过 KV 传输层搬移缓存。NVIDIA Dynamo 1.0 在 2026 年 3 月发布,其 Planner 在运行时决定聚合还是分离,KV Block Manager 提供 HBM 到 DRAM 到 SSD 到对象存储的四级层次;LLM-d 于 2026 年 3 月进入 CNCF 沙盒,贡献了把缓存感知路由变成 Kubernetes 一等公民的 Gateway API Inference Extension。二是简单得多的方案:KV 感知的副本路由,不拆池、不传 KV、不改拓扑。

需要诚实标注的是:Dynamo 公布的 30 倍吞吐是 DeepSeek-R1 671B 在 GB200 NVL72 机架上的复合结果,包含 NVLink 域内宽专家并行等多项因素;更接近纯分离收益的口径是 Llama 70B 在 3K/50 序列长度、普通 Hopper 上的约 2 倍。官方文档也明确指出,输入输出长度比在 2:1 到 10:1 之间时,聚合服务往往更好。

对大多数 4 到 16 卡规模的团队,先做缓存感知的数据并行副本通常比直接上分离池更划算。

展望​

2026 年的调度问题已经从「怎么批」变成「KV 放在哪里、谁能拿到它、什么时候该放弃它」。这带来的直接后果是硬件需求的重心变化:decode 阶段主导耗时、缓存驻留成为主要资源占用,意味着大 HBM 容量与高带宽的价值在推理集群中的权重继续上升,而推理专用芯片的竞争维度也从峰值 FLOPS 转向了 KV 密度与缓存层级的支持能力。

真正值得关注的方向是把「意图」显式传给调度层。Dynamo 1.0 已经开始接受每请求的优先级、期望输出长度和投机 prefill 提示。这个方向一旦成熟,调度器就不再需要从访问历史里猜测意图——而这正是今天所有缓存策略失效的根本原因。

四季度 AI 芯片供应与 HBM 涨价传导:真正的瓶颈已经不是晶圆

· 阅读需 5 分钟
Industry Research Team

截至 2026 年 10 月,市场对 AI 算力短缺的讨论重点已经发生位移:不再是晶圆产能,而是先进封装与高带宽内存。两条约束线在四季度同时收紧,且价格信号已经明确。

内存端:HBM4 进入「代际定价」​

国庆假期期间一则产业消息震动硬件市场:三星电子已将下一代 HBM4 的供应报价定在每 Gb 4 至 5 美元,约为当前 HBM3E 价格的三倍,并已启动与主要客户的年度合同谈判。按此推算,单颗 HBM4 价格预计达 100 至 180 美元,而 HBM3E 单颗仅约 50 美元。这个报价与今年中 DigiTimes 关于「HBM4 价格可能从 2026 下半年约 2 美元每 Gb 飙升至 4 至 5 美元甚至更高」的预测路径完全吻合。

环节当前状态四季度方向
HBM4 单价约 4 至 5 美元每 Gb,约为 HBM3E 三倍年度合同谈判启动,锁量锁价
全球 HBM 市场规模2026 年预计增长约 58% 至 546 亿美元占 DRAM 市场近四成
传统 DRAM 合约价持续上行四季度预计环比上涨 10% 至 15%
NAND 合约价持续上行四季度预计环比上涨 15% 至 20%

涨价背后有两个物理原因无法绕过:HBM4 工艺制造难度极高,生产周期长达 4 至 6 个月,初期良率偏低;生产 HBM4 所需晶圆面积约为普通 DDR5 内存的三倍,现有产线可释放的产能空间被大幅压缩。TrendForce 预计 2027 年 HBM 混合平均售价同比上涨 121%。

产能虹吸效应同步发生。三星方面表示,HBM 在 DRAM 晶圆产能中的占比每提升一个百分点,消费级 DRAM 供给即被压缩约三个百分点;当该比例从 2026 年的约 20% 升至 2027 年的近 30% 时,消费级 DRAM 供给收缩幅度将接近 30%。这条传导链已经在终端落地——手机存储套件采购价翻倍,DRAM 已超过主控芯片成为手机中最昂贵的单一元器件。

封装端:CoWoS 缺口收窄但未消失​

供给约束的另一半在先进封装。台积电 CoWoS 月产能从 2022 年的约 1.5 万片,提升到 2025 年的近 7 万片,2026 年底预计达 12 万至 14 万片。加上封测合作伙伴新增的 5 万至 6 万片产能,整个行业月产能接近 20 万片。但供应链预计,CoWoS 供需缺口将从目前的约两成收窄至 2026 年底约一成——缺口在收窄,并未消失。

需求端的集中度更值得关注。据产业数据统计,2025 年英伟达约占 CoWoS 产能需求的 63%,是最大需求来源,博通约 13%,AMD 与迈威尔各约 8%。仅英伟达 B200、B300 系列全年就可能消耗超过 70 万片 CoWoS 晶圆,而这还不包含新一代 Rubin 系列。

台积电资深副总侯永清披露,2026 年将首度同时有五座 2 纳米厂同步放量,涵盖新竹两座、高雄三座,2026 至 2028 年 2 纳米产能年复合增长率预计达 70%,作为参照 3 纳米产能 2022 至 2027 年的年复合增长率约为 25%。即便如此,先进封装仍是短板——硅中介层制造需要洁净室标准,扩产要与逻辑制程争夺重叠的资本设备,而这些设备交期极长,无法绕开排队。

产能虹吸之外的两条缓冲路径​

一是 CoPoS 等面板级封装技术。相较目前以 300 毫米圆形晶圆为基础的制程,CoPoS 改用更大面积方形面板,600 毫米乘 600 毫米面板单次处理的封装数量约可达 12 吋晶圆的两倍以上。CoPoS 不是替代 CoWoS,而是在既有产能持续扩充却仍可能追不上需求时,增加另一条提高封装产出的供给路径。

二是内存供应的长约锁定。据公开报道,三星、SK 海力士、美光正通过与一级 AI 客户签订三至五年的长期协议锁定全球内存供应。DigiTimes 预计,到 2027 年全球 DRAM 总产能中约有一半将完全无法提供给小型买家。

研判​

四季度对 AI 算力采购方来说,最实际的判断是:卡不是缺在设计,而是缺在封装产能和内存配额,而这两者都无法用加钱在短期内解决。这意味着接下来的价格谈判中,内存与封装环节的议价权会持续强于芯片设计方。

有三点值得盯住。第一,HBM4 年度合同的最终定价将锚定整个服务器 BOM 成本,任何云厂的四季度报价都会随之重估。第二,消费级 DRAM 收缩近三成会传导到 PC、手机、显卡等终端市场,非 AI 需求可能成为挤压 AI 供给的出气筒。第三,摩根士丹利等机构提示的中长期风险值得关注——多家厂商同步扩产 HBM,2028 年后高端存储产能集中释放,届时供需关系可能反转,扩产决策现在签的单子可能变成明年的产能包袱。

AI 算力总拥有成本 2026 版:电力、折旧、运维的全口径拆解

· 阅读需 6 分钟
Industry Research Team

大多数 AI 算力的成本模型只算了显卡。但 2026 年公开测算显示:一台 8 卡 H100 服务器的三年全口径 TCO 约 71.2 万至 94.8 万美元,其中服务器与 GPU 约占六成,电力约 7% 至 15%,而人员成本往往是最大的单一运营项。真正拉开自建与云差距的,不是买卡那一刻花了多少。


一、五大口径的真实占比​

以一台 8 卡 H100 节点(约 10 至 10.5 kW 满载)为基准,2026 年的公开成本拆解如下:

成本项类型2026 年量级
GPU 服务器(8 卡 H100)资本25 万至 40 万美元以上
高速网络(InfiniBand / RoCE)资本5 万至 10 万美元以上
电力(约 10 kW 节点)运营每年约 1.05 万美元
制冷附加运营电力的 25% 至 40%
托管 / 机房运营每年 1.2 万至 2.4 万美元
人员(至少 0.5 个 FTE)运营每年 7.5 万至 10 万美元
三年全口径合计—约 71.2 万至 94.8 万美元

逐条看要点:

  • 人员被严重低估。 7.5 万至 10 万美元 / 年的人力,通常高于电力加制冷之和。集群打补丁、监控、保持可用性,没有低于 0.5 FTE 的现实方案。
  • 电力不是大头,但地区差异是数量级的。 美国加权平均工业电价 0.0834 美元 / kWh、PUE 1.14、利用率 71% 时,每兆瓦每年电费约 62.6 万美元;廉价电力市场(0.047 美元 / kWh)降至约 35.3 万;昂贵沿海市场(0.15 美元 / kWh)则超过 110 万。
  • 故障率是隐性成本。 企业级 GPU 年故障率约 5% 至 10%,备件与更换必须单列。
  • 摩尔定律的反向作用。 新一代发布即意味着在手硬件开始贬值,折旧年限的选取比电价更能左右结果。

二、东西部的成本落差有多大​

国内公开测算给出了更贴近本地采购的口径。取 2 万 P 规模 H100 集群,按行业平均 80% 利用率测算:

场景PUE电价日电费
西部浸没液冷标杆1.10.30 元/度约 32.95 万元
西部标准绿色算力(冷板液冷)1.20.30 元/度约 35.94 万元
东部传统风冷1.30.65 元/度约 84.36 万元

东部风冷方案的日电费是西部液冷方案的 2.5 倍以上。 但如果换成低功耗国产集群(同样 2 万 P,按 1P 约 1.5 kW 测算,PUE 1.2、0.30 元/度、80% 利用率),日电费约 20.74 万元,比 H100 集群省约 42%。电力账的杠杆在芯片功耗和 PUE,不在电价谈判。

机位托管的口径同样值得记:西部东数西算枢纽 40 kW 液冷机柜的机位租金约 1.5 万元 / 月,电费约 8640 元 / 月(24000 kWh × 0.36 元),带宽约 1500 元 / 月,月度合计约 2.51 万元;东部新建低 PUE 液冷机柜租金则在 2.2 万至 3.2 万元 / 月,电价 0.55 元 / kWh 以上。

三、液冷为什么是必需品而不是选项​

液冷与风冷的成本差在 2026 年已经被量化。行业测算显示,每兆瓦液冷设施成本约 450 万至 520 万美元,而常规风冷约 180 万美元 / 兆瓦——液冷溢价为每兆瓦约 305 万美元。原因是风冷机房在常规成本下只能支撑每机架 25 kW,而 AI 负载需要 40 至 80 kW 甚至更高。

另一个容易被忽略的信号:机械系统在液冷 AI 机房总成本中的占比,已从风冷时代的 22% 上升到 33%。液冷不是一次性投入,它改变了整座机房的成本结构。

四、折旧:TCO 里最容易吵架的一项​

折旧年限的选择直接决定结论。Epoch AI 在 2026 年 5 月的模型中,对 1 吉瓦美国 AI 数据中心采用的口径是:IT 设备 5 年寿命,机房设施 14 年寿命,由此得出每兆瓦年化 TCO 约 850 万美元,其中一次性资本支出 3.8 万美元 / 兆瓦(合计 380 亿美元),年运营支出 90 万美元 / 兆瓦(合计 9 亿美元)。服务器与 GPU 占年化 TCO 的约 60%,能源约占 7%。

如果你把 IT 折旧从 5 年改成 3 年,同样的现金流会被重新切成完全不同的两个故事。 这不是会计技巧,而是采购谈判中的实质变量——它决定了你愿意为多少年服务期付多少溢价。

五、五口径自查清单​

口径问自己的问题四季度答案
电力我的 kW 负载 × PUE × 8,760 小时 × 电价,是多少?东部风冷方案通常是西部液冷的 2.5 倍以上
折旧我按几年摊?残值怎么算?行业常用 IT 5 年 / 设施 14 年
液冷每兆瓦是否已计入 300 万美元级溢价?每机架超过 25 kW 就是必选项
人力是否真有人排 0.5 个 FTE 进预算?通常是最大单项运营成本
故障备件比例是否按年 5% 至 10% 预留?企业级 GPU 的现实年故障率

一句话总结:2026 年的算力 TCO 里,电力只占约 7% 至 15%,液冷溢价和人员成本才是被低估的两块。把折旧年限、人力 FTE 和液冷溢价这三项填准,你的 TCO 才有讨论资格。

2026 年四季度企业 GPU 采购实操手册:缺货周期、锁价策略与预算重构

· 阅读需 6 分钟
Industry Research Team

如果你在 2026 年四季度做 GPU 采购决策,最大的认知误区是继续盯着「GPU 有没有货」。TrendForce 在 10 月 5 日发布的供应链追踪里明确指出:在其跟踪的七大服务器零部件类别中,GPU 是唯一处于均衡水平的一类,而 CPU、DRAM、企业级 SSD 相关 NAND、HDD、ABF 载板、MLCC 全部处于紧张或极度紧张。瓶颈已经从「拿不到加速卡」,迁移到了「拿到卡之后,凑不齐一台能上电的整机」。


一、四季度的真实价格水位:现货在涨,也在分化​

先看海外云端。多家价格追踪站在 2026 年 10 月上旬给出的按需单卡小时价(美元)大致落在这个区间:

型号低价位平台中位区间高价位平台
H100 SXM 80GBRunPod 约 2.69中位数约 5.00Azure 美东约 12.29
H200 SXM 141GBRunPod 约 3.59中位数约 5.40Google Cloud 约 10.60
B200 180GB约 5.98中位数约 8.60约 14.24
B300 288GBRunPod 约 7.89中位区间 9 至 12AWS p6e 约 11.70(候补名单)

同一款 H100,最高价与最低价之间能出现 4.6 倍价差。这是四季度最重要的一条实操结论:你不是在买一种商品,你是在买一个供应商关系。

国内现货市场的走向更复杂。2026 年 9 月中旬的一线渠道数据显示,RTX 5090 涡轮卡与风扇卡报价分别为约 4.8 万元与 4.6 万元一张,相比前期高点已有回落;H100 老款整机维持在 325 至 330 万元区间;H200 两路整机约 560 至 565 万元一台;GB200 整机柜约 6800 万元一套,GB300 约 12500 万元一套。与硬件价格相比,租赁端的费率并未同步上涨——5090 服务器的月租费率仍稳定在 1.35 至 1.6 万元区间。这意味着现在买硬件的人,正在独自承担硬件端的溢价。

值得注意的是一个反向信号: Nebius 在 10 月 1 日上调了 GPU 小时价,媒体测算涨幅可达 21%,涉及 H200 报价升至约 5.40 美元。而 CoreWeave 在 9 月 17 日披露,其第三季度签署的 3 至 6 个月短约,按「年化收入除以服务集群所需电力」口径计约为每兆瓦 4000 万美元。这两组数据共同说明:四季度仍在涨的是新签的、算力紧张的合约,而非全部存量。

二、承诺折扣才是真正的采购价​

如果只比按需价,你会高估成本三到五成。2026 年 10 月初的公开报价显示,主流云的 H100 承诺折扣幅度如下:

平台按需1 年承诺3 年承诺竞价实例
Azure(美东)12.29约 7.87(约 -36%)约 5.40(约 -56%)约 2.27(约 -82%)
Google Cloud约 11.06约 7.67(约 -31%)约 4.86(约 -56%)约 6.62

这里有两个反直觉的点。第一,Azure 的 H100 竞价实例折算到单卡约 2.27 美元,低于我们核实的所有新型 GPU 云按需价——前提是你的任务能承受被抢占。第二,Google Cloud 上同一台机器的竞价实例(6.62)比其排队启动的柔性实例(约 4.79)贵出约 38%,而绝大多数团队从来没把这两者放在同一张表里比较过。

实操结论:先算承诺,再谈按需。 如果你的负载有 70% 以上的稳定基线,四季度就应该把 1 年承诺的报价拉进谈判桌,而不是按单小时询价。

三、整机交付才是真正的排期表​

TrendForce 10 月 5 日的交期数据,是四季度采购排期的核心依据:

零部件当前交期均衡基准倍数
GPU30 至 40 周30 至 40 周已均衡
DRAM20 周8 周2.5 倍
HDD50 周16 周约 3.1 倍
ABF 载板48 至 56 周12 周4 至 4.7 倍
MLCC35 周12 周约 2.9 倍
企业级 SSD 相关 NAND16 周8 周2 倍

价格侧,TrendForce 于 9 月 30 日预计 2026 年第四季度常规 DRAM 合约价环比再涨 10% 至 15%;ABF 载板从 3Q26 到 4Q27 逐季上涨 10% 至 15%。美光 CEO 更是在 10 月初公开表示,存储短缺可能延续到 2028 年甚至更久,客户最终支付的价格将「显著高于今年」。

实操结论:把 CPU、内存、存储、光模块的采购与 GPU 订单绑定谈。 如果你只锁了 GPU 的货,等卡的 30 周过去后还要再等 DRAM 的 20 周。横向看一眼,同一份调研还显示中压开关柜交期约 22 个月、大容量变压器约 18 个月——自建机房的项目,采购启动点要再往前推。

四、六步实操流程​

步骤动作交付物
1拆 BOM:区分「卡已锁定、组件未锁定」与「全部现货」两类资产资产分类表
2拉齐双报价:云端 1 年/3 年承诺价 + 渠道整机含税价双轨比价表
3算三口径成本:租金、电力、折旧(含残值)单位 token 成本
4设采购分层:刚需锁货锁交付,非刚需不囤采购分层清单
5谈条款:把交期违约、显存规格变更、价格调整写进合同条款清单
6留后手:保留一条可抢占实例做弹性缓冲弹性池预算

五、给采购负责人的四条清单​

  • 先锁组件,再锁整机。 你的排期风险 90% 在 DRAM 和 ABF 载板上,不在 GPU 上。
  • 把承诺价当谈判筹码。 Azure、Google 的 3 年承诺都在按需价的 44% 左右,1 年承诺约 64%,不询价就等于接受 100%。
  • 警惕居间加价。 算力租赁渠道中居间人占比据称约三成,「总租-分租」模式会显著放大终端隐性成本;四季度更应走直签。
  • 现货与租值的背离要计入模型。 硬件在涨、月租在稳,意味着现在囤货的持有成本正在被市场惩罚——除非你能证明未来 6 个月算力会继续短缺,而数据支持这个假设。

一句话总结:四季度 GPU 采购的正确姿势,不是「抢到卡」,而是「在组件最紧的时候把整机合同锁死,同时用承诺折扣把云端备选方案的账算清」。

四大云厂 2026 年资本开支与算力采购指引汇总:Q4 该盯什么

· 阅读需 4 分钟
Industry Research Team

截至 2026 年 10 月,四大云服务商的 2026 年资本开支指引合计已升至约 7200 亿至 7450 亿美元。这个数字还在上修路径上,而 10 月末即将开启的三季度财报季,是这一趋势能否延续的第一个真实检验点。

指引全景:全部上修,无一下调​

据 7 月下旬财报电话会披露的信息,四家云厂在最新一轮财报中全部上调或维持了资本开支预期。其中亚马逊将 2026 年现金资本开支指引从此前的约 2000 亿美元上调至约 2200 亿美元,并明确将涨价归因于内存成本上升;Alphabet 将全年指引从 1800 亿至 1900 亿美元上调至 1950 亿至 2050 亿美元;Meta 把区间下限从 1250 亿美元抬升至 1300 亿至 1450 亿美元;微软则因租赁会计口径调整,账面数字反而下调至约 1750 亿美元,并不代表实际投入减少。

公司最新季度资本开支上半年实际2026 全年指引主要驱动说明
亚马逊约 531 亿美元约 963 亿美元约 2200 亿美元上调,明确提及内存成本
Alphabet约 449 亿美元约 806 亿美元1950 亿至 2050 亿美元技术基础设施,服务器与网络
Meta约 311 亿美元约 509 亿美元1300 亿至 1450 亿美元下限上调,AI 集群建设
微软约 410 亿美元(FY26 Q4)约 729 亿美元约 1750 亿美元(租赁口径)口径变更,非投入下降

若把甲骨文 FY2027 指引计入,合计规模将进一步抬升至约 8350 亿美元。从上半年与全年指引的差额看,四家公司对下半年的支出预期都明显加速——亚马逊隐含下半年约 1240 亿美元,Alphabet 约 1140 亿至 1240 亿美元,Meta 约 790 亿至 940 亿美元。

支出去向:不只是加速卡​

一个容易被忽略的细节是,微软在 FY26 第四财季电话会上明确说明,当季约 410 亿美元资本开支中约三分之二属于「短寿命资产,主要是 CPU 和 GPU」。这类资产折旧周期短、单价高,对零部件价格变动极为敏感。亚马逊高管也在电话会上把指引上调直接归因于内存成本。

另一边的压力来自供电与场地。据公开统计,行业跟踪的 104 个数据中心项目中已有 54 个在建,29 个已宣布,16 个部分运行,5 个完全投运;披露规模的项目合计规划容量约 104.5 吉瓦。配套的 52 笔电力交易中,47 笔披露容量的合计约 70.3 吉瓦,其中 14 笔落在 2026 年第三季度,是该数据集任何一个季度中最多的一次。

资本结构的压力同样在积累。据报道,Alphabet 已完成上市以来首次股票发行并发行大额债券,Meta 在 2026 年二季度自由现金流仅约 7.84 亿美元的情况下依赖私人信贷借款补充流动性。评级机构与投行普遍提示表外租赁与服务器采购承诺正在形成大额隐性负债。

研判:四季度看三件事​

第一是三季度财报。10 月末的财报季将给出第一个可以证伪的季度数据。如果有任何一家下调全年指引,「上修周期」才算真正见顶;在此之前,所有的「AI 泡沫」争论都还停留在估值层面而非支出层面。

第二是内存成本的传导路径。亚马逊把涨价写进指引,说明成本压力已经到了无法吸收的阶段。HBM 与 DDR5 同厂不同线,产能分配存在此消彼长关系,一旦消费级 DRAM 供给被压缩,云厂需要在不同内存品类之间重新分配预算。

第三是会计口径的可比性。微软把未来数据中心租赁从融资租赁调整为经营租赁,导致同一笔投入在资本开支科目上的呈现发生变化。任何跨公司加总的「AI 支出」数字,都必须先问一句口径是否一致。

对芯片产业而言,四季度的实际含义很直接:只要这四家不松手,HBM、先进封装、高速互联的订单可见度就维持在两年以上;但采购结构正从「单颗加速卡」转向「整机架系统 + 供电 + 液冷」,供应商名单会随之变长。

英伟达最新财报拆解:数据中心占比超九成,客户集中度正在悄悄变化

· 阅读需 4 分钟
Industry Research Team

截至 2026 年 10 月,英伟达最近一期财报(2027 财年第二季度,截至 2026 年 7 月 26 日)把单季营收推高到 962.21 亿美元。总量已不是新闻——真正值得拆开看的是客户结构的分叉,以及中国市场贡献的持续收缩。

总量与结构​

单季营收 962.21 亿美元,同比增长 106%,环比增长 18%,连续刷新纪录,大幅超出华尔街一致预期的约 922 亿美元。GAAP 净利润 596.88 亿美元,同比增长 126%,GAAP 毛利率 75.0%。GAAP 摊薄每股收益 2.46 美元,调整后每股收益 2.22 美元,高于市场预期的约 2.10 美元。财报公布后盘后一度上涨近 5%。

板块本季收入同比环比占总营收
数据中心合计约 890 亿美元约 117%约 18%约 92%
其中:超大规模云服务商约 487 亿美元约 102%约 13%—
其中:AI 云、工业与企业客户约 403 亿美元约 138%约 25%—
边缘计算(PC/游戏/汽车)约 72 亿美元约 27%约 13%—

管理层把数据中心增长归因于 Blackwell Ultra 平台的快速部署,并对下一季度给出约 1080 亿美元的营收指引。更罕见的是,公司首次提前一年给出远期指引,首席财务官预计 2028 财年营收增长约 70%。

客户集中度:从「依赖巨头」到「双引擎」​

这是本期财报最容易被忽略、也最有信息量的一组数字。超大规模云服务商贡献约 487 亿美元,同比增长约 102%;而 AI 云、工业与企业客户(ACIE)合计约 403 亿美元,同比增长约 138%,环比增速 25% 同样高于超大规模客户的 13%。英伟达对 ACIE 的解释是,增长来自 AI 原生公司、企业客户、主权 AI 客户,以及使用 AI 云服务的超大规模运营商。

换句话说,第二增长曲线的增速已经快于第一曲线。黄仁勋在电话会上表示,公司约一半业务目前正以每年约 100% 的速度增长,而且这部分增长来自云计算之外。这种结构变化对英伟达的意义在于:它降低了单一客户群资本开支波动带来的收入风险,也意味着定价权的基础正在从「少数几家可以签下十吉瓦的客户」扩展到成千上万家企业买家。

两个收缩项​

中国市场的贡献已经降到可以忽略的量级。本季运往中国的数据中心 Hopper 产品收入占数据中心总收入的比例低于 1%,且下一季度指引未计入任何来自中国的数据中心计算收入。这基本封死了 H20 系列在中国市场的残余想象空间。

另一项值得留意的收缩来自消费端。边缘计算板块营收约 72 亿美元,虽同比增长 27%,但公司明确表示增长主要来自 Blackwell 工作站强劲销售,部分被消费级 PC 销售放缓抵消——原因正是内存和系统价格上涨。这是本季度财报中唯一被管理层主动点名的需求抑制因素,也是 AI 内存涨价向终端传导的直接证据。

研判​

英伟达这份财报给出的信号可以概括为:总量天花板还很远,但增量来源正在换轨。ACIE 增速反超超大规模客户,意味着行业需求正从「少数巨头的基础设施投资」扩散到「成千上万家企业与主权 AI 的日常采购」。

不过有三处风险需要持续跟踪。其一,指引中不含中国收入,意味着这块若出现政策松动的边际改善,才会成为超预期的上行变量。其二,ACIE 客户群体更分散、订单颗粒度更小,对渠道与交付能力的要求高于对单一产能的依赖,这会改变公司的收入确认节奏。其三,库存与负债指标:财报披露当季存货拨备及超额存货采购义务约 9.85 亿美元,上半年合计约 21 亿美元,同时公司首次将「负债」单独列为风险因素,一到五年内到期债务为 150 亿美元,上一季度这一数字仅 27.5 亿美元。

真正决定下一个季度的变量,已经不在英伟达自己手里,而在台积电的先进封装产线和 HBM4 的爬坡速度上——这两者是 Blackwell Ultra 与 Rubin 平台能否按计划交付的物理前提。

NVLink Fusion 生态 2026 进展:开放标准能否撼动 NVLink

· 阅读需 6 分钟
Industry Research Team

2025 年 5 月 Computex 上发布 NVLink Fusion 时,外界普遍把它当作 NVIDIA 应对定制 ASIC 的一张防守牌。一年半后再看,这张牌打出的规模超过了多数人的预期——包括那些本该是它对手的公司。

生态名单是怎么长起来的​

2025 年 5 月 18 日首发时,合作方包括联发科、迈威尔、Aldec 旗下的 Alchip、Astera Labs、新思科技、楷登电子、富士通和高通。2025 年 9 月 18 日,Intel 同意为 NVIDIA 制造定制 x86 CPU 通过 NVLink 连入 NVIDIA 基础设施,NVIDIA 同时以每股 23.28 美元投资 Intel 普通股 50 亿美元。10 月 13 日在 OCP 全球峰会上,Intel 与三星代工宣布加入;11 月 Arm 加入,其被授权方可构建原生带 NVLink 端口的 CPU。

到了 2026 年,节奏明显加快:

时间事件附带条件
2025-12-02AWS 在 re:Invent 表示 Trainium4 将对接 NVLink 6 与 MGX 机架同时保留自研 Graviton、EFA、Nitro
2026-01SiFive 加入,RISC-V 进入生态—
2026-03-31迈威尔战略合作,提供定制 XPU 与兼容 NVLink 的 scale-up 网络NVIDIA 投资 20 亿美元
2026-08-26NVLink Fusion 扩展至 NVHBM,Annapurna Labs 成为首家内存协作方AWS 子公司
2026-08-31联发科将 NVLink Fusion 作为客户 XPU 设计基础NVIDIA 投资 35 亿美元可转债
2026-09-10d-Matrix 将 Raptor XPU 接入 MGX 机架2026 年底前流片,2027 年四季度供货

AWS 这一条最关键。Trainium4 与 NVIDIA GPU 共用同一机架占位、同一冷却系统、同一配电系统,用 NVLink 6 交换机和 400G 定制 SerDes 互连,Neuron SDK 层面的 API 表面保持一致。这不是一份采购意向,是一条多代合作的起点。

NVHBM 为什么是真正的技术变量​

与生态扩张同步推进的还有内存方案。NVHBM 是 NVIDIA 与主要内存厂商合作的定制 HBM 基底裸片技术,把内存控制器和协议逻辑从加速器裸片搬进 HBM 基底裸片——这是一个结构性决策:加速器裸片上不再需要为内存控制逻辑付出面积。其公开口径是每堆栈带宽提升约 30%、基线 PHY 面积减少约 67%、每堆栈功耗降低约 15%,从而为计算逻辑多腾出约 30% 的裸片面积,端到端 XPU 性能提升约 30%。功耗下降那 15% 在数据中心尺度上的含义被 NVIDIA 换算成:每吉瓦级设施可多部署约 15000 颗 XPU。

另一侧的阵营属于开放标准。UALink 1.0 规范支持最多 1024 颗 GPU、200 GT/s 带宽,AMD、Intel、Broadcom 是主要推动者。据公开报道,UALink 至今尚未有量产硬件出货,而 NVLink 已经在 Blackwell NVL72 机架上规模部署。

以太网阵营同样在推进 scale-up。OCP 的 ESUN(Ethernet for Scale-Up Networking)工作组于 2025 年 10 月由 AMD、Arista、Arm、Broadcom、Cisco、HPE、迈威尔、Meta、微软、NVIDIA、OpenAI、Oracle 十二家公司发起——NVIDIA 一边卖 NVLink,一边在以太网标准组织里保留席位,是个教科书式的对冲。ESUN 1.0 于 2026 年 2 月定稿、3 月发布,参与公司已超过 175 家,其核心是一个 4 字节的 ESUN Header,替代通常 28 到 48 字节的 IP/UDP 头栈。Broadcom 贡献的 SUE 框架按层拆分后,传输层成为 SUE-T,负责 XPU 端点的可靠投递。

必须诚实标注的一点:SUE 文档中 64 颗 XPU、任意两点间最高 9.6 Tb/s、亚 2 微秒往返时延这些数字,是设计目标而非实测结果,不应被当作任何 SU-144 系统的实测属性来引用。

这套打法到底解决了什么​

NVLink Fusion 在技术上并不是新互连——它从第一天起就是 NVLink。变化的是商业模式:NVIDIA 从卖完整芯片和完整系统,叠加了一层授权模式。黄仁勋在 d-Matrix 合作时的表述是「NVLink Fusion 让伙伴能把定制硅片与 NVIDIA 在 NVLink、先进封装、机架级系统和网络技术上的深厚生态集成起来」。

对超大规模云厂商来说,这提供了一条中间路径:可以部署定制件,同时买入 NVIDIA 的机架架构、网络和软件栈。机架成为共享平台这件事有实际意义——数据中心的时间线与硅片迭代的时间线完全不同,取电、设计冷却、建造设施动辄数年,而加速器代际跑得飞快。

现实的分界线也很清楚。最支持开放解读的一个数据点是 Broadcom 至今不在 NVLink Fusion 名单里,而它是定制 ASIC 双雄之一,同时是 Google TPU 十余年来跨越六代的设计伙伴,也与 Meta 和 OpenAI 有合作。如果这些客户的自研芯片最终承受不住必须部署在 NVLink 兼容机架的压力,当前的阵营分界可能松动。但至少截至 2026 年 10 月,这件事还没有发生。

展望​

NVLink Fusion 面对的真正问题不是技术能否工作——AWS 的部署已经回答了这个问题——而是客户会不会在五年后重新评估这个选择。NVIDIA 用资本的介入换取了生态名单的扩张,迈威尔的 20 亿美元、联发科的 35 亿美元、Intel 的 50 亿美元,这些投资的结构化方式让它们很难轻易转向别处。

对采购和架构团队而言,现在值得做的判断只有两个:一是异构机架内的 scale-up 域正在成为规划假设而非未来情景;二是在有明确理由把 NVIDIA 排除在栈之外时,UALink 仍是可信路径。开放标准能否撼动 NVLink,目前还无法断言,但竞争已经从路线之争进入了生态投入之争——而后者比拼的是钱和耐心,不是规格表。