Skip to main content

15 posts tagged with "Power & Cooling"

Power efficiency, thermal design and liquid cooling for AI systems

View all tags

机柜即产品:AI 芯片竞争单位从「单卡」变「整柜」

· 3 min read
Industry Research Team

看 AI 芯片市场的老习惯是看「出货量多少颗 GPU」。2026 年,这个指标正在失效——头部玩家的竞争单位已经变成整座机柜,单卡参数表不再是决策的充分依据。

一、各家机柜产品一览​

厂商机柜/超节点关键口径
NVIDIAVera Rubin NVL722026 H2 规模交付,Q4 放量确认
AMDHelios(MI450)OpenAI/Meta/微软/Oracle 站点初始系统已运行
华为Atlas 950/960 超节点Atlas 950 已发布;960 超节点 9 月官宣
天数智芯天垓 IXL144单柜 144 GPU、10.1TB 汇聚内存,工博会首展
MetaMTIA 机架与 MI455X 机架、TPU Pod 并行的组合

二、为什么竞争单位必须放大​

大模型训练的本质是「把几千颗芯片变成一台计算机」。单卡再强,卡间互联带宽与拓扑直径上不去,集群有效算力就会坍缩:

  • Scale-up 域决定能跑多大的模型:NVL72 把 72 颗芯片连成一个统一内存域;超节点路线(华为 CloudMatrix、天数 IXL144)则用更多卡数换互联规模
  • 每瓦有效算力取代每卡峰值算力成为核心指标:1,800W 的 Rubin R200 与 950W 的 Maia 300,比的是整个机架的 Token 吞吐与功耗比
  • 液冷与供电成为交付约束:吉瓦级数据中心的建设周期里,风冷机柜与液冷机柜的部署密度差一个量级

三、瓶颈扩散链​

机柜化把瓶颈从芯片扩散到整条供应链:

芯片 → HBM/封装(CoWoS-L) → 互联(铜缆/光) → 交换机 → 供电(PSU/母排) → 散热(液冷) → 机房(电力/空间)

这正是 2026 年存储涨价、封装紧缺、光模块缺货同时发生的底层原因——任何单一环节的产能都是整柜交付的瓶颈。

四、选型方法论的变化​

  1. 以机柜为报价单位:单卡价格已无意义,问「每机柜交付价 + 每机柜功耗 + 有效 Token 吞吐」
  2. 互联架构先于芯片选型:Scale-up 域大小决定模型规模上限,先定组网再看卡
  3. 供应链要逐环节核:交期不是芯片厂说了算,封装、HBM、光模块、液冷任何一环都可能拖半年
  4. 用 TCO 口径横向比:把机柜价、功耗、PUE、折现统一进模型——这正是本站 TCO 计算器的设计初衷

延伸阅读:超节点时代的选型框架 · 工博会超节点观察 · 完整对比表

四季度 AI 芯片供应与 HBM 涨价传导:真正的瓶颈已经不是晶圆

· 5 min read
Industry Research Team

截至 2026 年 10 月,市场对 AI 算力短缺的讨论重点已经发生位移:不再是晶圆产能,而是先进封装与高带宽内存。两条约束线在四季度同时收紧,且价格信号已经明确。

内存端:HBM4 进入「代际定价」​

国庆假期期间一则产业消息震动硬件市场:三星电子已将下一代 HBM4 的供应报价定在每 Gb 4 至 5 美元,约为当前 HBM3E 价格的三倍,并已启动与主要客户的年度合同谈判。按此推算,单颗 HBM4 价格预计达 100 至 180 美元,而 HBM3E 单颗仅约 50 美元。这个报价与今年中 DigiTimes 关于「HBM4 价格可能从 2026 下半年约 2 美元每 Gb 飙升至 4 至 5 美元甚至更高」的预测路径完全吻合。

环节当前状态四季度方向
HBM4 单价约 4 至 5 美元每 Gb,约为 HBM3E 三倍年度合同谈判启动,锁量锁价
全球 HBM 市场规模2026 年预计增长约 58% 至 546 亿美元占 DRAM 市场近四成
传统 DRAM 合约价持续上行四季度预计环比上涨 10% 至 15%
NAND 合约价持续上行四季度预计环比上涨 15% 至 20%

涨价背后有两个物理原因无法绕过:HBM4 工艺制造难度极高,生产周期长达 4 至 6 个月,初期良率偏低;生产 HBM4 所需晶圆面积约为普通 DDR5 内存的三倍,现有产线可释放的产能空间被大幅压缩。TrendForce 预计 2027 年 HBM 混合平均售价同比上涨 121%。

产能虹吸效应同步发生。三星方面表示,HBM 在 DRAM 晶圆产能中的占比每提升一个百分点,消费级 DRAM 供给即被压缩约三个百分点;当该比例从 2026 年的约 20% 升至 2027 年的近 30% 时,消费级 DRAM 供给收缩幅度将接近 30%。这条传导链已经在终端落地——手机存储套件采购价翻倍,DRAM 已超过主控芯片成为手机中最昂贵的单一元器件。

封装端:CoWoS 缺口收窄但未消失​

供给约束的另一半在先进封装。台积电 CoWoS 月产能从 2022 年的约 1.5 万片,提升到 2025 年的近 7 万片,2026 年底预计达 12 万至 14 万片。加上封测合作伙伴新增的 5 万至 6 万片产能,整个行业月产能接近 20 万片。但供应链预计,CoWoS 供需缺口将从目前的约两成收窄至 2026 年底约一成——缺口在收窄,并未消失。

需求端的集中度更值得关注。据产业数据统计,2025 年英伟达约占 CoWoS 产能需求的 63%,是最大需求来源,博通约 13%,AMD 与迈威尔各约 8%。仅英伟达 B200、B300 系列全年就可能消耗超过 70 万片 CoWoS 晶圆,而这还不包含新一代 Rubin 系列。

台积电资深副总侯永清披露,2026 年将首度同时有五座 2 纳米厂同步放量,涵盖新竹两座、高雄三座,2026 至 2028 年 2 纳米产能年复合增长率预计达 70%,作为参照 3 纳米产能 2022 至 2027 年的年复合增长率约为 25%。即便如此,先进封装仍是短板——硅中介层制造需要洁净室标准,扩产要与逻辑制程争夺重叠的资本设备,而这些设备交期极长,无法绕开排队。

产能虹吸之外的两条缓冲路径​

一是 CoPoS 等面板级封装技术。相较目前以 300 毫米圆形晶圆为基础的制程,CoPoS 改用更大面积方形面板,600 毫米乘 600 毫米面板单次处理的封装数量约可达 12 吋晶圆的两倍以上。CoPoS 不是替代 CoWoS,而是在既有产能持续扩充却仍可能追不上需求时,增加另一条提高封装产出的供给路径。

二是内存供应的长约锁定。据公开报道,三星、SK 海力士、美光正通过与一级 AI 客户签订三至五年的长期协议锁定全球内存供应。DigiTimes 预计,到 2027 年全球 DRAM 总产能中约有一半将完全无法提供给小型买家。

研判​

四季度对 AI 算力采购方来说,最实际的判断是:卡不是缺在设计,而是缺在封装产能和内存配额,而这两者都无法用加钱在短期内解决。这意味着接下来的价格谈判中,内存与封装环节的议价权会持续强于芯片设计方。

有三点值得盯住。第一,HBM4 年度合同的最终定价将锚定整个服务器 BOM 成本,任何云厂的四季度报价都会随之重估。第二,消费级 DRAM 收缩近三成会传导到 PC、手机、显卡等终端市场,非 AI 需求可能成为挤压 AI 供给的出气筒。第三,摩根士丹利等机构提示的中长期风险值得关注——多家厂商同步扩产 HBM,2028 年后高端存储产能集中释放,届时供需关系可能反转,扩产决策现在签的单子可能变成明年的产能包袱。

AI 算力总拥有成本 2026 版:电力、折旧、运维的全口径拆解

· 6 min read
Industry Research Team

大多数 AI 算力的成本模型只算了显卡。但 2026 年公开测算显示:一台 8 卡 H100 服务器的三年全口径 TCO 约 71.2 万至 94.8 万美元,其中服务器与 GPU 约占六成,电力约 7% 至 15%,而人员成本往往是最大的单一运营项。真正拉开自建与云差距的,不是买卡那一刻花了多少。


一、五大口径的真实占比​

以一台 8 卡 H100 节点(约 10 至 10.5 kW 满载)为基准,2026 年的公开成本拆解如下:

成本项类型2026 年量级
GPU 服务器(8 卡 H100)资本25 万至 40 万美元以上
高速网络(InfiniBand / RoCE)资本5 万至 10 万美元以上
电力(约 10 kW 节点)运营每年约 1.05 万美元
制冷附加运营电力的 25% 至 40%
托管 / 机房运营每年 1.2 万至 2.4 万美元
人员(至少 0.5 个 FTE)运营每年 7.5 万至 10 万美元
三年全口径合计—约 71.2 万至 94.8 万美元

逐条看要点:

  • 人员被严重低估。 7.5 万至 10 万美元 / 年的人力,通常高于电力加制冷之和。集群打补丁、监控、保持可用性,没有低于 0.5 FTE 的现实方案。
  • 电力不是大头,但地区差异是数量级的。 美国加权平均工业电价 0.0834 美元 / kWh、PUE 1.14、利用率 71% 时,每兆瓦每年电费约 62.6 万美元;廉价电力市场(0.047 美元 / kWh)降至约 35.3 万;昂贵沿海市场(0.15 美元 / kWh)则超过 110 万。
  • 故障率是隐性成本。 企业级 GPU 年故障率约 5% 至 10%,备件与更换必须单列。
  • 摩尔定律的反向作用。 新一代发布即意味着在手硬件开始贬值,折旧年限的选取比电价更能左右结果。

二、东西部的成本落差有多大​

国内公开测算给出了更贴近本地采购的口径。取 2 万 P 规模 H100 集群,按行业平均 80% 利用率测算:

场景PUE电价日电费
西部浸没液冷标杆1.10.30 元/度约 32.95 万元
西部标准绿色算力(冷板液冷)1.20.30 元/度约 35.94 万元
东部传统风冷1.30.65 元/度约 84.36 万元

东部风冷方案的日电费是西部液冷方案的 2.5 倍以上。 但如果换成低功耗国产集群(同样 2 万 P,按 1P 约 1.5 kW 测算,PUE 1.2、0.30 元/度、80% 利用率),日电费约 20.74 万元,比 H100 集群省约 42%。电力账的杠杆在芯片功耗和 PUE,不在电价谈判。

机位托管的口径同样值得记:西部东数西算枢纽 40 kW 液冷机柜的机位租金约 1.5 万元 / 月,电费约 8640 元 / 月(24000 kWh × 0.36 元),带宽约 1500 元 / 月,月度合计约 2.51 万元;东部新建低 PUE 液冷机柜租金则在 2.2 万至 3.2 万元 / 月,电价 0.55 元 / kWh 以上。

三、液冷为什么是必需品而不是选项​

液冷与风冷的成本差在 2026 年已经被量化。行业测算显示,每兆瓦液冷设施成本约 450 万至 520 万美元,而常规风冷约 180 万美元 / 兆瓦——液冷溢价为每兆瓦约 305 万美元。原因是风冷机房在常规成本下只能支撑每机架 25 kW,而 AI 负载需要 40 至 80 kW 甚至更高。

另一个容易被忽略的信号:机械系统在液冷 AI 机房总成本中的占比,已从风冷时代的 22% 上升到 33%。液冷不是一次性投入,它改变了整座机房的成本结构。

四、折旧:TCO 里最容易吵架的一项​

折旧年限的选择直接决定结论。Epoch AI 在 2026 年 5 月的模型中,对 1 吉瓦美国 AI 数据中心采用的口径是:IT 设备 5 年寿命,机房设施 14 年寿命,由此得出每兆瓦年化 TCO 约 850 万美元,其中一次性资本支出 3.8 万美元 / 兆瓦(合计 380 亿美元),年运营支出 90 万美元 / 兆瓦(合计 9 亿美元)。服务器与 GPU 占年化 TCO 的约 60%,能源约占 7%。

如果你把 IT 折旧从 5 年改成 3 年,同样的现金流会被重新切成完全不同的两个故事。 这不是会计技巧,而是采购谈判中的实质变量——它决定了你愿意为多少年服务期付多少溢价。

五、五口径自查清单​

口径问自己的问题四季度答案
电力我的 kW 负载 × PUE × 8,760 小时 × 电价,是多少?东部风冷方案通常是西部液冷的 2.5 倍以上
折旧我按几年摊?残值怎么算?行业常用 IT 5 年 / 设施 14 年
液冷每兆瓦是否已计入 300 万美元级溢价?每机架超过 25 kW 就是必选项
人力是否真有人排 0.5 个 FTE 进预算?通常是最大单项运营成本
故障备件比例是否按年 5% 至 10% 预留?企业级 GPU 的现实年故障率

一句话总结:2026 年的算力 TCO 里,电力只占约 7% 至 15%,液冷溢价和人员成本才是被低估的两块。把折旧年限、人力 FTE 和液冷溢价这三项填准,你的 TCO 才有讨论资格。

800V 高压直流:AI 数据中心的电力架构革命

· 4 min read
Industry Research Team

当机柜功率冲向 1 兆瓦,沿用二十年的 54V 直流配电体系彻底失灵。NVIDIA 把 800V 高压直流定为 Kyber 机柜的参考架构,超过 80 家供应链厂商已宣布跟进。这不是一次简单的升压,而是数据中心电力链路的整体重构。

为什么必须是 800V​

传统数据中心遵循"市电交流—变压器—UPS—配电柜—机架电源—54V 母线"的多级转换链路,每一级都带来损耗、发热与空间占用。在 10kW 机柜时代这套架构绰绰有余,但当 AI 机柜逼近 1 兆瓦,低电压配电意味着巨大电流:据 NAND Research 援引的工程测算,1 兆瓦机柜在 54V 直流体系下仅铜排就可能重达约 200 公斤,还要挤占宝贵的机柜空间。

升到 800V 直流后,同等功率下电流大幅下降。据英伟达公布的数据,相同截面积铜导体可传输的功率提升八成以上,铜用量减少约 45%,端到端效率提升最多 5 个百分点,全生命周期维护成本下降最多 70%,总拥有成本降低约 30%。功率半导体侧的验证也在推进:德州仪器已展示 800V 转 6V 的参考设计,峰值效率达 97.6%,证明供应链可以支撑兆瓦级机柜的供电需求。

生态与时间表​

据公开信息,NVIDIA 联合谷歌、微软通过开放计算项目(OCP)发布了 800V 架构规范,生态覆盖三个层次:

层级代表厂商进展
功率半导体英飞凌、意法半导体、德州仪器、纳微半导体等已完成 MGX 生态器件与参考设计验证
电源系统台达、Vertiv、施耐德电气、伊顿商用产品 2026 年下半年上市
数据中心基础设施ABB、日立能源、西门子、GE Vernova 等面向兆瓦级机柜的配电方案推进中

时间线上,2026 年下半年是关键节点:Vertiv、台达等厂商的首批 800V 产品与 NVIDIA MGX 兼容的 800V 电源机架同步交付,CoreWeave、Lambda、Oracle 云、Together AI 等算力运营商已在按 800V 标准设计新设施,富士康高雄一号 40MW 数据中心更已在 800V 直流架构下投入运行。2027 年,支撑每排 2 兆瓦的集中式行级电力中心将与 Kyber 机柜(约 600kW、最多 576 颗 Rubin Ultra 加速器)全面量产形成配套。

固态变压器与链路简化​

800V 架构的另一层革命在链路源头:中压交流通过固态变压器(SST)或整流单元直接转换为 800V 直流,省去中间多级变换环节,机房内实现液冷母排直供。机架电源被从计算机柜中移除后,可释放约 64U 的机柜空间用于计算负载——供电与算力的物理距离被压缩到极致,省下的每一瓦传输损耗都直接转化为可售算力。

这也意味着电力设备的价值量在数据中心资本开支中的占比显著上升。传统数据中心里电源是配角,而 AI 工厂里,从固态变压器到直流母排的整条电力链路,正在成为与 GPU 同等重要的投资标的。

结语:电力架构决定算力上限​

对规划 2027 年后新建数据中心的运营者而言,800V 不再是可选项,而是与 Rubin Ultra 绑定的"入场券":今天按 415V 交流设计的机房,可能在下一代硬件到来时面临结构性返工。电力架构正在取代芯片参数,成为决定 AI 工厂算力上限的第一约束。谁先把 800V 写进设计规范,谁就掌握了下一轮扩容周期的主动权。

冷板 vs 浸没式液冷:一张改造成本对照表

· 4 min read
Industry Research Team

GB200 NVL72 这类整机柜方案只提供液冷版本,液冷已从"技术选型题"变成"工程落地题"。但冷板与浸没式不是简单的技术优劣之分,而是两个完全不同的投资模型与运维模型。本文聚焦改造成本,帮你把预算花在正确的地方。

两条路线的本质区别​

冷板式(Direct-to-Chip)通过金属冷板贴合 GPU、CPU 等发热芯片,冷却液在板内微通道流动带走热量,大约能拦截整柜热量的七到九成,剩余部分仍需风冷兜底。浸没式则把整台服务器浸泡在介电液体中,热量几乎全部由液体带走,单相浸没制冷能力超过每柜 100kW,两相方案可达 200kW 以上;而冷板单相方案的典型上限在每柜 60 至 100kW。

风冷的安全上限业界普遍认为在每柜 25 至 40kW。这意味着:如果改造目标只是把 8kW 老机房升级到 20kW 跑 H100,冷板甚至后门热交换器可能都非必需;但只要目标机柜是 GB200 级别,冷板就是入场券,浸没式则属于"为下一代密度提前买单"。

一张改造成本对照表​

对比项冷板式液冷浸没式液冷
单柜制冷能力约 60 至 100kW单相超过 100kW,两相可达 200kW 以上
典型 PUE1.1 至 1.2可低至 1.05 及以下
初期投资中等,约为浸没式的三至五成高,单柜约为冷板式的 2 至 3 倍
核心成本部件冷板占 40 至 45%,CDU 占 30 至 35%,快接头占 15 至 20%介电冷却液占 30% 以上,液冷槽与 CDU 次之
改造难度中等:加装 CDU、机柜管路与歧管高:需专用浸没槽、承重加固与地板重构
与现有服务器兼容性好,标准机型即可差,需浸没专用机型或去风扇改造
运维复杂点漏液检测、快接头插拔纪律、水质管理冷却液黏度与材料兼容性、维护取放流程
适用场景GB200 级新建与存量改造主流超高密度新建、比特币转型 IDC、极低 PUE 硬指标

几个来自公开测算的锚点数字:GB200 NVL72 一柜的液冷部件价值约 9.9 万美元,其中 CDU 约 3 万美元、冷却歧管与快接头各约 1.2 万美元,冷板与 CDU 合计占方案价值约四分之三;而一套 100kW 级单相浸没系统的价值测算区间约在 9 万至 18 万美元,且冷却液本身是持续消耗品。机房整体改造方面,业界经验值是每兆瓦 400 万至 800 万美元(不含 IT 硬件),周期可长达一年半。

运维视角:钱不只是花在建的时候​

冷板路线的最大隐性成本在漏液与插拔纪律。快接头每次插拔都是风险窗口,冷板属于精密 consumable,多次维护后需要更换;CDU 的水质与滤芯管理要纳入例行巡检。浸没式则把复杂度转移到了"拿进拿出":任何一次维护都要整板吊出、滴液、清洁,工时远高于冷板,但对管路漏液的天然免疫是它的独特优势。

另一个常被忽视的差异是资产流动性:冷板服务器仍是标准形态,可以转售、搬迁、回风冷机房;浸没式服务器与槽体、冷却液深度绑定,二手流通性差。做五年 TCO 测算时,这块残值差异不能忽略。

写在最后​

选型建议按三步走:第一,先定功率密度目标再定技术路线,每柜 30kW 以内优先考虑风冷加后门改造,60 至 100kW 选冷板,120kW 以上或对 PUE 有硬性红线再评估浸没式;第二,测算 TCO 时把快接头耗材、冷却液补充、维护工时和设备残值全部纳入,不要只比建设报价;第三,无论哪条路线,先建漏液告警与应急预案再上电。液冷没有回头路,第一步的工程决策值千金。

绿色算力:AI 数据中心的能耗指标与碳账本

· 4 min read
Industry Research Team

AI 让数据中心从"用电大户"变成"用电黑洞",也让能耗指标从后台运维参数变成项目生死线。PUE、水效、绿电比例——这本越来越厚的碳账本,正在改写全球算力的地理分布。

PUE 红线:全球趋严的硬约束​

能效指标 PUE(数据中心总能耗与 IT 设备能耗之比,越接近 1 越高效)已经从推荐值变成准入门槛:

政策核心要求时间
中国《数据中心绿色低碳发展专项行动计划》全国平均 PUE 降至 1.5 以内;新建大型与超大型降至 1.25;国家枢纽节点不高于 1.22025 年底
中国部分地区要求北京等地新建、扩建数据中心 PUE 上限低至 1.15 至 1.3,能耗规模越大要求越严2023 年起
德国《能源效率法》新投运数据中心 PUE 不高于 1.22026 年 7 月起
欧盟能效指令500kW 以上数据中心逐年报告 PUE、水效与可再生能源比例,能效评级体系已启动持续推进

欧盟正在从"报数据"走向"定门槛":2026 年 9 月,欧委会启动数据中心能效评级,未来最低性能标准预计将为行业留出数年达标期,避免在建项目迅速过时。中国则是少数把能耗作为项目审批前置条件并写入强制性国标的国家——2021 年实施的《数据中心能效限定值及能效等级》将 PUE 1.5 设为能效限定值,2026 年"算电协同"更被写入政府工作报告,绿电直供与源网荷储一体化成为新基建的明确方向。

从 PUE 到全维度碳账本​

单一 PUE 已不足以刻画 AI 数据中心的资源足迹。ISO/IEC 30134 系列标准建立起了多维评价体系:

  • WUE(水利用效率):中国进一步按水源类型加权折算出评价值,最严的一级标准要求不高于 0.8 升每千瓦时;
  • REF(可再生能源系数)与 CUE(碳利用效率):把绿电消纳与碳排放纳入统一框架;
  • 绿电硬约束:据公开报道,中国八大"东数西算"枢纽节点新建与扩建数据中心的绿电消费比例须达到八成,以绿证核算并实行一票否决,未达标项目不予能耗审批。

技术上,液冷是压低 PUE 的主力:冷板式方案可将 PUE 降至约 1.15,浸没式可压到 1.05 以下,国内厂商的相变浸没方案据称最低可达 1.035。英伟达 GB 系列及之后的产品已全面采用液冷架构——当 PUE 的分子端(制冷开销)被压缩到一成以内,单靠设施侧优化能做的已经不多。

绿电与选址:碳账本决定算力地图​

设施侧逼近极限之后,碳账本的下一页翻向电力来源。国际市场上,谷歌、微软等巨头与核电、水电、燃料电池供应商签订大规模长期购电协议,把电力保障前置为战略资源。中国西部枢纽节点的绿电直供电价据报低至每度 0.28 至 0.36 元,叠加"东数西算"的土地与能耗指标优势,构成东部需求与西部绿电的双赢闭环,同时也消化了风电光伏的弃电难题。选址逻辑由此彻底改写:算力跟着便宜且干净的电走,而不是反过来。

结语:把碳算清楚,才能把算力建起来​

绿色算力的本质,是给每一枚 token 定价时不回避其能耗与排放成本。对从业者而言,三个趋势已经确定:PUE 优化将逼近 1.1 的工程极限,此后竞争转向电力来源与余热利用;能耗与水耗指标将深度嵌入项目审批与融资定价;跨国部署必须同时满足多套监管口径。算力建设的竞争,正在从"建得快"转向"建得绿、建得起、批得下"——碳账本上的每一行,都是下一座 AI 工厂的选址依据。

从风冷到液冷:AI 机柜功耗狂飙下的散热革命

· 7 min read
Industry Research Team

十年前一个标准机柜 5-10kW,风冷绰绰有余;今天 Vera Rubin NVL72 约 180kW,AMD Helios 机架 225-245kW,下一代 Rubin Ultra NVL576 更是直指 600kW。散热从"机房辅助工程"升格为"AI 算力的第一性约束",一场从风冷到液冷的革命已不可逆。

为什么风冷在 100kW+ 机柜面前失效​

风冷的物理极限很好理解:空气比热容小、密度低,带走同样热量需要的体积流量巨大。机柜功耗超过 100kW 后,风冷会同时撞上三堵墙:

  1. 风量墙:单机柜 100kW 需要的冷风量超出地板下送风与机柜前门的物理供给能力,冷热气流短路、局部热点不可避免;
  2. 噪音与能耗墙:暴力风扇转速拉满,风扇功耗可占整机 10% 以上,机房噪音远超职业健康标准;
  3. 芯片密度墙:单卡 TDP 已从 H100 的 700W 涨到 Rubin R200 的 1800-2300W——这个量级的芯片,散热器与芯片之间的空气层本身就是绝热层,风冷在物理上无法把 2000W 从 die 表面带走。

结论很直白:当单卡功耗突破千瓦级、机柜突破百千瓦级,液冷不再是选项,而是必需品。NVIDIA 对 Rubin R200 的官方口径就是四个字——必须液冷。

机柜功耗演进:五年 100 倍的狂飙​

平台机柜功耗散热方式
传统服务器机柜5-15 kW风冷
GB300 NVL72~140 kW液冷为主
Vera Rubin NVL72(VR200)~190-230 kW全液冷
Rubin Ultra NVL576~600 kW全液冷 + 新一代供电

这条曲线(Thunder Compute 汇总口径)解释了为什么整个产业链都在围绕散热重构:机柜每上一个台阶,供配电、冷却水路、机房承重全部要重新设计。值得一提的是,散热还有"另一种解法"——华为昇腾 960 超节点用 NPO 光互连替代 4.8 万颗 800G 光模块,直接省下 550kW:最好的散热,有时是不产生这份热量。

技术梯队:冷板、浸没式与侧门冷却​

液冷按冷却介质与发热元件的距离分为三档:

技术方案原理散热能力改造成本成熟度
冷板液冷冷水板贴住 GPU/CPU 等高热元件单柜 100-300kW中主流量产方案
侧门冷却(Rear Door HX)机柜后门内置水冷换热器冷却排风单柜 50-150kW低过渡方案
浸没式液冷整机浸入介电液体极高,且可回收余热高特定场景试点

当前产业主流是冷板液冷:GPU、CPU 等热源元件用冷板覆盖,其余内存、硬盘仍靠风冷辅助,形成"液冷为主、风冷兜底"的混合形态。它的优势是可以在现有服务器形态上渐进改造,且不改变元器件可维护性。浸没式散热能力天花板最高、PUE 可逼近 1.05,但介电液体成本、服务器浸入后的可维护性与承重要求,使其仍局限于特定高密度场景。侧门冷却则是风冷机房"续命"的过渡选项。

50V 直流母线与液冷快速接头:工程细节里的魔鬼​

散热革命从来不只是"换水冷板",它牵动整机柜的供电与水路重构。AMD Helios 机架的工程细节最具代表性:

  • 44OU ORW 双宽机架:采用 Open Rack Wide v3 标准,机架宽度加倍,为 72 颗 MI455X + 18 颗 EPYC Venice 留出空间;
  • 18 个计算托盘 + 6 个交换托盘:计算与网络托盘分层布置,托盘化设计让故障节点可整体抽出更换,水路随托盘断开;
  • 液冷快速接头:每个托盘使用免工具快速接头,拔插自动密封不漏液——这是液冷能否规模化运维的关键:机房不可能为换一张卡而整体排水;
  • 50V 直流母线:整机柜采用 50V 直流配电架构,替代传统多级 AC-DC 转换,减少变换级数、提升供电效率,与 NVIDIA 侧的 800V HVDC 演进方向殊途同归;
  • 重量超 7000 磅(约 3.2 吨):装满冷却液与 72 颗 GPU 的机架对机房楼层承重提出全新要求,液冷机柜的"体重"本身就是部署约束。

Helios 机柜 TDP 225-245kW,与 Vera Rubin NVL72 的约 180kW 处在同一量级——头部厂商已默契地收敛到"百千瓦级液冷机柜 + 直流母线供电"的新范式。

功耗-散热-电力:三级约束链​

机柜功耗狂飙的尽头是电网。当前 AI 数据中心面临一条层层传导的约束链:

芯片功耗 → 机柜散热能力 → 机房电力容量 → 区域电网供给。

  • 电力缺口:部分新建数据中心等不及电网扩容——Oracle 用燃气卡车"运电"应急;戴尔与日本 Jera 合作投资 150 亿美元在东京建设 400MW 离网 AI 数据中心,自含燃气电厂,计划 2028 年运营。算力需求已快到"自己发电"的地步;
  • 联盟与标准:AEMA(电网响应联盟)推动数据中心参与电网调峰响应;NVIDIA 则以 DSX 平台展示能效路线——同功率下 token 吞吐提升 24%、每瓦性能提升 23%,证明"省电"的最前沿其实在芯片与系统层;
  • 散热的边界:每一瓦耗电最终都要变成一瓦热,被冷却系统搬运到室外。PUE(总耗电/IT 耗电)每降 0.1,就意味着数千千瓦的冷量系统节省——这也是为什么液冷的 ROI 不能只算电费。

三级约束环环相扣:电网约束机房选址,机房电力约束可部署机柜数,散热能力约束单机柜能塞进多少卡——最终都折算成你能买到的算力总量。

给部署方的建议​

  1. 按液冷标准规划新机房:新建设施直接按 150kW+/机柜的液冷密度设计承重、水路与管井,避免两年后推倒重来;
  2. 冷板优先,浸没观望:冷板液冷生态与运维成熟度最高;浸没式适合高密度推理等特定负载,不建议作为通用方案首批落地;
  3. 关注直流供电架构:评估机柜级 50V 直流母线或更高压 HVDC 方案,转换级数越少,长期电费与可靠性收益越大;
  4. 把 PUE 纳入采购决策:本站的 TCO 计算器支持设置 PUE 参数,输入机柜功耗与 PUE 后即可模拟五年电费差异——液冷机柜贵出来的那部分钱,往往两三年内就会被电费差价抹平;
  5. 别忽略"减热"路线:光互连(如 NPO 省电 550kW)、更高能效芯片(每瓦性能提升 23% 的系统级优化)同样是散热压力的解药,买算力时把系统能效纳入比价。

小结​

AI 机柜功耗从 100kW 冲向 600kW 的曲线,把散热从幕后推向台前。冷板液冷成为主流范式,50V 直流母线与快速接头定义了新一代机柜工程标准,而电网约束则把战场延伸到能源侧——燃气电厂进园区、调峰联盟成立、每瓦性能成为核心 KPI。未来的 AI 算力竞争,本质上是"每瓦 token"的竞争:谁能更高效地把电变成热、再把热搬走,谁就能部署更多算力。

电比卡贵:AI 数据中心的能源危机与自救

· 6 min read
Industry Research Team

当 Oracle 用卡车运送天然气维持数据中心运转,当戴尔要在东京附近自建燃气电厂,一个事实已经无法回避:在 AI 工厂的成本结构里,电力正在取代芯片成为第一约束。本文梳理这场能源危机的证据链,以及行业的两条自救路线。

电力成为第一约束的证据链​

证据链从芯片功耗表开始。站内 Rubin R200 规格卡显示:单卡 TDP 1800-2300W、必须液冷,Vera Rubin NVL72 机柜整体功耗约 180kW、定价 350-400 万美元。而这只是开始——

平台机架功耗(公开口径)阶段
GB300 NVL72~140kW2026 年现役主力
VR200 NVL72~180-230kW(按单卡 1800-2300W 口径)2026 H2 交付
Rubin Ultra NVL576~600kW2027 H2 目标

机架功耗三年翻四倍,电网侧的配套却以五年为周期规划建设。缺口由此产生,并且已经产生了荒诞但真实的运营现实:据 Bloomberg 确认,Oracle 用卡车运送天然气维持多座数据中心的运转——电网容量跟不上,只能用最原始的物流方式给服务器"送电"。行业分析师给出的方向性数字是 $10 万亿美元级别的数据中心建设需求,其中相当比例将花在电力基础设施上。

需求侧的另一个信号是报建数据:Anthropic 在德州 Cedar Creek 的数据中心项目报建金额为 3.66 亿美元——这还只是头部实验室扩张计划中的一个节点。

自救路线一:离网自建燃气电厂​

第一条路线是不再等电网,自己发电。标志性案例是戴尔与日本 Jera(JERA)、Rhaelm 合作,在东京附近投资 150 亿美元建设 400MW 离网 AI 数据中心,配套燃气电厂,计划 2028 年投入运营。400MW 约等于十几万台高性能 GPU 的供电规模,"芯片厂+能源商+集成商"的组合预示着未来 AI 工厂选址的新范式:哪里有气源,哪里就能建机房。

离网自建的优势是确定性与速度——不受电网排队与扩容审批的制约;代价是资本开支剧增与能源资产的沉没成本。对于有长期算力承诺的超大规模客户,这笔账算得过来;对于中小算力运营商,则更可能通过租用离网机房来间接获益。

自救路线二:电网响应式数据中心​

第二条路线是与电网合作,让数据中心成为电网的"可调负载"。2026 年 9 月 16 日,Emerald AI、Google、NVIDIA 共同成立 AEMA 联盟(先进能源与算力联盟),推动数据中心参与电网需求响应。一个直观的案例来自硅谷:当地电力公司已向 NVIDIA Eos AI 工厂发出 200 余次需求响应信号——每当电网紧张,AI 工厂可以短时降载,换取电价优惠或容量豁免。

这条路线的理论基础是 AI 负载的时间弹性:训练可以断点续跑,推理可以排队,某些批处理任务完全可以错峰。当数万座 AI 工厂都具备柔性用电能力,数据中心就从电网的"负担"变成了"调节资源"。

DSX 的"软件定义能耗管理"玩法​

两条路线之间,NVIDIA 还提供了第三种思路:用软件榨干每一瓦的性能。NVIDIA DSX(含 MaxLPS 等能耗管理组件)在 Lambda 的实测中实现了同功率下 token 吞吐 +24%、每瓦性能 +23%——不增加一度电,多产出近四分之一的智能。

路线代表案例核心逻辑
离网自建戴尔×Jera×Rhaelm 东京 400MW能源自主,绕开电网排队
电网响应AEMA 联盟、Eos 200+ 次需求响应柔性用电,换电价与容量
软件提效NVIDIA DSX:每瓦性能 +23%同功率多出 token

这三种打法并不互斥:现实的 AI 工厂往往是"自备电源打底 + 电网响应削峰 + 软件调度提效"的组合拳。

电力之外的第二个硬约束​

在讨论能源时,别忽略存储。美光给出预测:存储短缺将持续到 2028 年。HBM 与 DRAM 的紧张不仅推高整机成本(站内 Rubin Ultra 卡记录:内存已占整机 TCO 约 40%),还直接限制了单位电力所能部署的算力——当一张 1800-2300W 的 GPU 需要搭配 288GB HBM4 才能发挥性能,存储供给与电力供给实际上是同一个产能问题的两面。

对 AI 工厂选址与 TCO 的影响​

对计划自建或租用算力的团队,能源变量必须写进 TCO 模型:

  1. 电价参数是最大变量。在站内 TCO 计算器中调整电价参数即可发现:当机架功耗进入 200kW+ 区间,三年电费支出可与整机柜购置费同一量级,选址的每度电差价会直接改写回本周期。
  2. 离网溢价与确定性溢价。离网机房的每度电可能更贵,但换取的是不排队、不停电的确定性——对训练任务,停电机会的成本远高于电价差。
  3. 需求响应收益。具备降载能力的机房可从电力公司获得电价优惠,这部分收益在传统 TCO 模型中通常被遗漏,在 200+ 次需求响应信号的硅谷案例里已经真金白银。

小结​

"电比卡贵"不再是修辞:Oracle 的天然气卡车、戴尔的自建电厂、$10 万亿的建设需求,共同勾勒出 AI 算力竞争的下一战场在能源。行业的自救分成三条线——离网自建换取确定性、电网响应换取经济性、软件提效换取每瓦产出。对于在 2027 年计划部署 Rubin Ultra 级 600kW 机架的玩家,今天要谈的不是芯片合同,而是电力协议。算力的尽头是能源,这句话正在从口号变成资产负债表。

单卡功耗天花板:从 700W 到 1400W,散热路线到了十字路口

· 3 min read
Industry Research Team

六年时间,旗舰 AI 芯片的热设计功耗从 700W 翻倍到 1400W,机柜功率密度即将迈向 1 兆瓦。风冷、冷板、浸没式三条散热路线,正在功耗曲线的陡坡上迎来各自的十字路口。

功耗曲线:六年翻两番​

据公开资料整理,旗舰数据中心 GPU 的 TDP 走过了一条陡峭的上行线:

代际单卡 TDP参考机柜机柜功率
H100(Hopper)700WDGX H100约 10kW
B200(Blackwell)1000W 至 1200WGB200 NVL72约 120kW
B300(Blackwell Ultra)最高 1400WGB300 NVL72约 170kW
Rubin R2001800W 至 2300WNVL144约 300kW
Rubin Ultra约 3600W 每封装Kyber NVL576600kW 以上

值得注意的是 B300 的双档设计:风冷版本把功耗压在 1100W,要吃满 1400W 的性能上限,必须上液冷。换句话说,液冷已不是"省电选项",而是"解锁配置"——不做散热改造,等于花钱买了性能却用不出来。

散热技术的分水岭​

维谛技术等厂商的工程经验给出了大致分界:单机柜功率密度在 15kW 以内风冷可以满足,15 到 30kW 需要液冷辅助,超过 30kW 液冷成为刚需。GB200 及之后的机柜功率密度已远超这条红线,这也解释了为什么英伟达从 Blackwell Ultra 世代起全面转向液冷。

从能效看,据国信证券研报援引的英伟达与 Equinix 联合测试数据,冷板式液冷数据中心 PUE 可降至约 1.15,相比风冷的约 1.6,在相同负载下可节省约三成能耗;浸没式方案则能把 PUE 压到 1.05 以下。联想的温水水冷系统宣称全液冷覆盖后 PUE 低于 1.1,其相变浸没方案据称可低至 1.035。设备端,台达已推出 1.5MW 级集中式 CDU,单块 GPU 冷板冷却功率可达 6200W,用于支撑多个超 100kW 机柜连续运行。

十字路口的三重权衡​

对数据中心运营方而言,当前的散热决策实际上是三重权衡:

  • 资本开支:冷板式改造相对渐进、可分批实施;浸没式前期投入高,但对超密机柜的长期承载更从容;
  • 运维复杂度:冷板存在漏液风险与管路维护成本,浸没式则面临工作介质维护与器件兼容性验证;
  • 面向未来:Kyber 机柜 600kW 起步且没有风冷版本,现在锁定纯风冷架构的机房,可能面临下一代硬件的"兼容悬崖"——机房还没折旧,散热就先过时了。

这三重权衡没有标准答案,但有一个共同前提:新规划的 AI 机房必须把液冷容量写进设计规范,而不是留作二期改造。

结语:功耗墙不会自己停下​

Rubin Ultra 之后,Feynman 世代的功耗只会更高,散热路线的选择正在从技术问题升级为资产问题。可以预判:冷板式液冷将在 2026 到 2028 年成为 AI 数据中心的绝对主流,浸没式在高密度新建场景逐步渗透,风冷则退守推理小集群与边缘场景。规划新机房时,"能否承接 600kW 机柜"应当与电力容量、网络架构并列,成为设计评审的第三个先决问题。

每瓦 Token 数:AI 芯片能效的新标尺

· 4 min read
Industry Research Team

过去选芯片看 FLOPS,后来大家学会了看显存带宽,现在该学会看第三个数字了:每瓦 Token 数。当机柜功率从 10 千瓦涨到 120 千瓦,电力与散热成了绕不开的第一约束——算力不再稀缺,供电才稀缺。

为什么 FLOPS 不再够用​

FLOPS 衡量的是计算上限,但 AI 芯片的能耗大头往往不在计算:数据搬运——尤其是 HBM 访问——的能耗比同规模运算高出数量级,这是业界公认的"内存墙"另一面。同样标称 1000 TFLOPS 的两颗芯片,若访存效率与互连设计不同,实际每瓦产出的 token 可能差出数倍。此外,token 产出还依赖模型结构、精度档位、batch 大小与软件栈质量,"每瓦 token 数"因此不是一个硬件常数,而是一组条件下的实测结果。

这也解释了厂商能效宣传的口径问题。以公开资料为例:NVIDIA 宣称 GB200 NVL72 机柜在 FP4 推理口径下,相比 H100 空冷基础设施有 25 倍的能效提升——这是厂商在特定负载下的对比数据,选型时应视为上限参考而非承诺值。值得注意的是,这 25 倍里既有芯片架构进步(FP4、新一代矩阵引擎),也有系统级因素(72 卡 NVLink 大域、液冷让算力密度上台阶),拆开看才不至于被单一代际数字误导。

一张对照表:用代理指标先筛一遍​

token 级能效必须实测,但选型初筛可以用"显存带宽功耗比"做代理指标——解码阶段带宽即吞吐上限,功耗即成本下限:

芯片TDP显存带宽带宽功耗比(TB/s 每 kW,按公开规格推算)
H100 SXM700W3.35TB/s约 4.8
H200700W4.8TB/s约 6.9
AMD MI300X750W5.3TB/s约 7.1
NVIDIA B2001000W8TB/s约 8.0

推算显示代际间的真实进步:新平台的每瓦带宽确实在提升,且液冷平台(B200)在功耗上涨四成的同时把带宽功耗比再推高一截。但要强调,这只是一个维度的代理指标,训练场景、大 batch 服务、通信密集负载的能效排序可能完全不同。

把能效算进 TCO​

能效的最终归宿是钱。AI 工厂模式下,收入等于 token 产出乘以单价,而成本里电费与散热是随时间线性累积的部分。完整的算法是:先在相同模型、精度、batch 条件下实测各平台的 tokens 每焦耳;再乘以机房 PUE 与液冷改造成本——GB200 级液冷机柜功率达 120 至 130 千瓦(据公开报道),风冷机房无法直接承载,改造摊销要计入;最后换算成每百万 token 的能源成本。在电力配额受限的地区,"每瓦产出"直接决定同样一笔电力指标能支撑多少业务收入,这比芯片单价重要得多。

小结与实操建议​

能效选型三步走:第一,拒绝跨口径对比,要求供应商用你的模型与负载出实测数据;第二,用带宽功耗比等代理指标快速缩小候选名单,再压测验证;第三,把 PUE、液冷改造、电力供给一起纳入 TCO,而不是只看 GPU 采购价。一句话记住这把新标尺:FLOPS 决定你跑多快,每瓦 Token 数决定你能跑多久、赚多少。