39 篇博文 含有标签「AI Compute」

芯片买不到、产能提不上去的时候，最理性的选择是什么？智谱给出的答案是：让 AI 自己去优化承载它的基础设施。这件事在 9 月的披露中被大多数人当成了 RSI（递归自我改进）的谈资，但它更现实的意义被低估了。

事件与数据​

2026 年 9 月 17 日，智谱创始人唐杰披露：

• 智谱利用 GLM-5.3 驱动的 Infra Agent，参与建设和优化 GLM-5.3-Flash 的推理基础设施
• 这套系统运行在超过 10 万张国产 AI 加速卡组成的集群上
• Infra Agent 在不到两周时间里，将端到端吞吐提升到初始基线的约 3 倍

三个数字合起来是一个闭环：国产芯片跑智谱的模型，智谱的模型优化国产芯片的跑法。

为什么「两周 3 倍」在算力上等价于免费扩产​

把吞吐提升翻译成算力经济语言：

• 10 万卡集群吞吐 ×3，在服务同等流量的前提下等效于释放了约三分之二的集群容量——或者反过来说，同样的芯片能扛 3 倍的用户增长
• 在国产芯片供给受限（先进制程产能紧约束、主流厂商集体涨价）的背景下，软件侧的 3 倍比硬件侧多买 20 万张卡便宜几个数量级
• 提升来自调度、批处理、内核选择、通信路径等系统层优化——这些恰恰是 LLM 智能体擅长的「大量小决策」型工作

这就是「算力自举（compute bootstrap）」的含义：用模型智能提高单位硬件的产出，而提高的产出又训练更强的模型。

与同期趋势的呼应​

Infra Agent 不是孤例，而是行业方法论的转折点：

• DeepSeek：开源 DeepInfer 推理系统（Apache 2.0），SM100 与昇腾 950 双底座——软件榨硬件成为两家头部模型公司的共同选择（此前报道）
• SemiAnalysis 华为-DeepSeek 报告：TileLang 等社区工具链在部分形状上匹敌 CANN——内核层的门槛正在被模型公司自己打穿
• AMD/谷歌：megakernel、持久内核等优化方向与模型公司自研栈高度趋同
• OpenAI：用前沿模型红队自家训练隔离设施——「用 AI 检验 AI 的承载系统」是同一个方法论

共同点：头部模型公司不再把基础设施当外部采购品，而是当成模型能力的延伸来迭代。

边界与清醒剂​

• 「两周 3 倍」的基线是初始部署态——初期优化的低垂果实最多，从 3 倍再往上走的斜率会陡峭得多
• 官方未披露 Infra Agent 的人工介入程度（工程师审核/自动合入比例），「智能体自主优化」与「智能体辅助优化」的边界尚不清楚
• 吞吐提升以何种代价换来（延迟、精度、成本）未披露——端到端吞吐是复合指标

结论​

对国产算力生态，这个案例的价值在于给出了「软硬协同」的量化样板：当硬件规格追赶需要两三年，软件层的三倍就在两周里。对更广泛的行业，它标记了一个新角色的出现——Infra Agent 会成为模型公司与芯片厂商之间的新谈判方：谁的栈对智能体优化更友好，谁就更容易被选中。基础设施的可优化性，正在成为采购决策里的新维度。

数据来源与口径说明​

• Infra Agent、10 万张卡、两周 3 倍吞吐：唐杰 2026-09-17 公开披露，官方口径
• 「算力自举」与 RSI 讨论：公开评论综述（2026-09/10），判断部分为本文观点
• 国产芯片产能约束背景：彭博社及行业报道（2026-10）

「以前认为的四年生命周期，实际上可能是八年甚至更久。」——黄仁勋在 GTC 柏林 2026 上的这句话，动摇的是整个算力行业的折旧假设：财务报表上的、租赁定价里的、以及每一家买家 TCO 测算模型里的。

寿命延长的机制：软件是第二引擎​

黄仁勋给出的逻辑链并不复杂，但每环都有硬支撑：

• 软件可编程 + 持续更新：CUDA 生态在整个资产生命周期内持续改进，芯片出厂多年后仍能从新驱动、新框架优化中获得性能提升
• 用途高度可替代：GPU 不绑定单一应用——今天跑训练，明天转推理，后天做物理仿真。一任客户退租，下一任立刻接上
• 使用方充足：「无论客户是谁，使用这些计算资源的公司都很多」，资产流动性强，残值有市场托底

这与传统服务器的贬值路径截然不同：x86 服务器出厂即峰值，之后只有折旧；而一款 2020 年的 A100 至今仍在各家云上满负荷接单。

马斯克的「每瓦有用智能」与贝克的「GPU 小时涨价悖论」​

同一时间线上，两个互补的观点值得并列：

马斯克（SpaceX 2026 Q3 财报电话会）：AI 模型越强，同样一度电产出的「有用智能」越多，因此每瓦算力的价值随时间上升而非下降——直接证据是「连 H100 这样的老 GPU，现在的租金都比它新品时期更高」。

Gavin Baker（GTC 柏林）：词元价格在下跌、词元组合在转向更便宜的词元，但单位 GPU 小时的租赁成本却大幅上涨——因为给定 GPU 小时内产出的词元更多、价值更高了。

把两句话合起来读：算力的价值锚点正从「硬件参数」迁移到「单位硬件能产出的经济价值」。词元通缩没有压低算力价格，反而因为模型效率提升抬高了存量硬件的租金——这是传统 IT 资产从未有过的价值曲线。

对折旧与 TCO 的三重冲击​

一、财务折旧年限。多数云厂商与算力租赁商仍按 4–6 年对 GPU 计提折旧。如果实际寿命确如黄仁勋所言达到 8 年以上，折旧年限每延长一年，当期利润就被显著「释放」。已有部分 Neocloud 开始把折旧年限拉长到 6 年——这也是近期算力概念股财报争议的焦点之一：折旧政策本身成了利润调节工具。

二、残值假设。算力资产金融化的前提是残值可预测。8 年寿命 + 强流动性意味着残值曲线更平缓，抵押折扣率可以更低。黄仁勋在 GTC 期间对 CNBC 明确表示，英伟达正在推动把自家算力确立为「可融资资产（financeable asset）」——8 月已联合 Apollo、BlackRock、Blackstone、Brookfield、高盛与 KKR 启动 5000 亿美元级 AI 融资计划。

三、采购决策模型。按 4 年折旧算 TCO，H200/B200 这类上一代卡「回本即淘汰」；按 8 年寿命算，买高端卡的摊销成本几乎减半，二手市场与降级复用（训练卡转推理卡）的性价比完全改写。买家在评估「现在买还是等下一代」时，折旧年限假设的权重不亚于芯片本身的规格差。

需要泼的冷水​

寿命论也有边界：

• 寿命 ≠ 经济寿命。8 年是「还能跑」的物理寿命，但推理世代迭代快，5 年后的老卡即使能跑，单位电费的产出也可能落后新卡数倍——「每瓦有用智能上升」恰恰反衬老卡的相对贬值
• 说法出自卖方。黄仁勋的立场天然倾向于让买家相信 GPU 是耐久资产；监管文件里 2790 亿美元的采购承诺（见我们此前对六大供应链伙伴扩产的拆解）则说明英伟达自己也在为需求波动承担风险
• 折旧拉长有反噬先例。如果 AI 需求增速放缓，被拉长的折旧年限会反向放大利润下修幅度

结论​

GPU 从「快消型 IT 设备」变成「类基础设施资产」，是本轮 AI 周期最被低估的结构性变化。对采购方，我们建议在 TCO 测算中做双情景：保留 4–5 年的保守折旧情景作为下限，同时加入 8 年寿命 + 降级复用的乐观情景，观察结论是否翻转。你可以在本站的 TCO 计算器中自行调整折旧年限做敏感性分析。

数据来源与口径说明​

• 黄仁勋 GPU 寿命 8 年、可融资资产、Neocloud 需求表态：GTC 柏林 2026 现场及 CNBC 采访（2026-10-21/22），Wccftech、Yahoo Finance 转述
• 马斯克每瓦有用智能：SpaceX 2026 Q3 财报电话会，IT之家翻译
• Gavin Baker 观点：GTC 柏林 2026 大会发言，IT之家转述
• 5000 亿美元 AI 融资计划：英伟达 2026 年 8 月公告，Apollo/BlackRock/Blackstone/Brookfield/高盛/KKR 参与
• 折旧年限争议为行业通行观察，非任何单一公司披露口径

10 月的 AMD 新闻列表里，两条不起眼但信号很强的条目：收购 Taalas（面向快速增长 AI 推理市场的计算方案），以及与 Cerebras 联合发布业界领先的超低延迟、高吞吐 AI 推理方案。MI450 是 AMD 的正面战场，这两步棋则是侧翼。

一、Taalas：把整张网络「浇」进芯片​

Taalas 的技术路线是固定权重硅（fixed-weight silicon）：把训练好的神经网络直接物理固化到芯片里——每个模型一颗专用芯片，省掉指令调度与权重搬运的开销。代价是灵活性（模型一变就要重新流片），收益是极致的能效与延迟。

对 AMD 的意义：在「通用 GPU（MI 系列）+ 专用推理固化芯片」之间补上中间层——类似英伟达用 NVFP4 软件栈锁推理、谷歌用 TPU 分层的思路，但走的是更激进的硬件固化路线。收购金额未披露。

二、Cerebras：晶圆级的延迟优势​

AMD 与 Cerebras 的合作指向超低延迟推理——这正是 Cerebras WSE 架构的看家本领：把整个模型放在一片晶圆级芯片的超大 SRAM 里，权重零搬运。合作细节未全部公开，但方向明确：在对延迟极度敏感的推理场景（实时语音、Agent 工具调用、高频交易类负载）提供 GPU 阵营外的选项。

结合上周披露的 OpenAI 第一代推理专用 ASIC 与各大云厂自研线，「推理专用硅」正在成为独立赛道，与训练用通用 GPU 分道。

三、推理市场的分层竞争图​

层	玩家	武器
通用推理	NVIDIA、AMD MI、沐曦 C600	软件生态 + 显存容量
大规模固定负载	TPU、Trainium、Maia、MTIA	ASIC 单位成本
极致延迟	Cerebras、Groq、Taalas（AMD）	SRAM 容量/权重固化
极致能效	边缘 ASIC（Hailo 等）	功耗约束下的小芯片

四、对买家的启示​

1. 延迟敏感场景有了新选项：Agent 工具调用链路里，首 Token 与工具往返延迟直接决定体验，Cerebras 类方案值得进 POC
2. 「买芯片」之外多了一条「买方案」：AMD 的组合（MI450 通用 + Taalas 专用 + Cerebras 合作）意味着同一供应商可以覆盖多种推理负载形态
3. 专用化 = 锁定风险：权重固化芯片与特定模型绑定，采购前先想清楚模型迭代频率

延伸阅读：推理成本经济学 · AMD × Anthropic 2GW · 完整对比表

《华尔街日报》审阅的上市招股书草稿，第一次让外界看到 Anthropic 的完整财务底牌。数字很刺激，但结构比数字更重要。

一、核心数字​

指标	H1 2026	H1 2025
营收	163 亿美元	11 亿美元（~15 倍）
净亏损	807 亿美元	130 亿美元
其中：可转债/融资工具估值变动（非现金）	~720 亿美元	—
算力与基础设施成本	~90 亿美元	2025 全年 73 亿

另据后续投资人简报：Q3 2026 单季营收 168 亿美元——单季超过上半年总和，增速仍在陡峭爬坡。

二、别被 807 亿吓到​

净亏损的 89% 是可转换票据公允价值变动的非现金会计费用——公司估值涨得越猛，这笔「亏损」越大。真正的经营性 burn 要小得多，且 Q3 已宣称实现某种口径的「调整后利润」。这是高成长公司 IPO 前典型的报表形态，与 2019-2021 年美股 SaaS 上市潮的套路同构。

三、真正值得算力行业注意的三个数字​

1. 算力成本半年 90 亿美元：已超 2025 全年（73 亿）。按此节奏 2026 全年算力支出奔 200 亿去——这是单一客户对 AI 算力市场的真实拉动
2. 基础设施承诺超 6000 亿美元：云协议 + 芯片租约的总和，另有最多 1500 亿美元在谈。Anthropic 同时是 AWS Trainium（超 100 万颗跑 Claude）、谷歌 TPU（至多 100 万颗）与 AMD MI450（最高 2GW）的大客户——「不押注单一硬件」在财务报表上的具象化
3. 47% 的 2025 收入经云 Marketplace 流入：其中 2.16B/4.6B。这说明「云商店抽成 1.5-3%」的 Marketplace 分销模式已是 AI 模型收入的主通道之一

四、对行业的三点推论​

1. IPO 叙事需要算力效率故事：上市后 Anthropic 必须向公众投资者解释毛利率——ASIC（Trainium）占比越高，推理成本曲线越好看，这反过来加速非英伟达算力的采购
2. 算力即资产负债表：6000 亿级承诺进入报表后，芯片租赁、算力预付将成为 AI 公司财报分析的新学科
3. 两客户占 H1 营收五分之一：集中度风险会被 SEC 问询，模型厂商的「大客户依赖」与云厂商的「大租户依赖」是同一个硬币的两面

延伸阅读：TPU 外部客户版图 · AMD × Anthropic 2GW · 推理成本经济学

两个权威口径放在一起看：IDC 预计 2026 年中国智能算力规模 2576.5 EFLOPS（同比 +87.9%）；工信部数据截至 6 月底已达 2185 EFLOPS、全国算力设施上架率 71.4%。增速与闲置率同时存在，这就是中国算力市场的真实结构。

一、规模：87.9% 的增速意味着什么​

同比 87.9% 的增速背后是三重拉动：

1. 模型训练：头部厂商向 2.8 万亿级（Kimi K3）参数进军，单次训练的算力消耗按数量级增长
2. 推理放量：智能体应用把推理需求曲线拉陡——IDC 明确把「智能体」列为本轮增长的第一变量
3. 国产替代：政策与供应链双重驱动下，国产芯片采购占比持续提升

二、结构：71.4% 上架率的双面解读​

上架率 71.4% 说明全国已建算力设施还有约三成未被有效使用：

• 坏的一面：部分地区智算中心「重建设、轻运营」，同质化算力找不到负载
• 好的一面：对 2027 年的超节点部署而言，这是现成机房的余量——天数 IXL144 主打适配现有机房、华为 Atlas 860 主打风冷免改造，瞄准的正是这 28.6%

三、缺口：算力的「品类错配」​

总量增长掩盖不了结构性缺口：

品类	供需状态
高端训练算力	持续紧缺（受代工与 HBM 供给约束）
推理算力	快速放量，超节点形态渗透中
大显存/高带宽	紧缺（HBM 受制于人）
推理友好型国产芯片	产能爬坡，昆仑芯/摩尔线程供不应求

工博会口径的「供不应求」都指向同一个上游：先进制程代工与 HBM 产能——这是国内产能扩张无法独立解决、需要长鑫等存储突破配套的环节。

四、给行业参与者的三个判断​

1. 从「建算力」到「用算力」：上架率压力下，算力运营效率（有效 Token 吞吐、集群利用率）将成为新的竞争力指标
2. 超节点是利用率解药：中信建投研报确认超节点在算力利用率上的显著优势——存量机房改造是 2027 年的大市场
3. 国产芯片的窗口：87.9% 的需求增速 + 国产化政策，为国产芯片提供了史上最友好的放量窗口——昆仑芯「供不应求」会否复制到更多厂商，看 2027 年交付

延伸阅读：超节点放量元年 · 存储超级周期 · 完整对比表

中信建投 10 月 21 日研报给国产超节点下了一个明确判断：行业已由方案验证正式进入规模化交付阶段，2026 年是放量元年。这份研报的价值在于把「超节点为什么赢」讲清楚了——不是营销概念，是六个维度的工程优势。

一、超节点 vs 传统集群：六个维度​

维度	传统八卡服务器集群	超节点
算力利用率	跨节点通信损耗大，闲置率偏高	柜内完成高频通信，利用率显著提升
互联带宽	受网卡/交换机瓶颈	柜内高带宽 P2P，统一内存编址
吞吐与时延	All-to-All 跨节点、微秒级以上	单跳 ~100 纳秒级（如 IXL144）
MoE 适配	专家并行通信是灾难	专家权重/激活留在柜内
单卡有效吞吐	名义算力打折严重	接近名义值
扩展方式	加机器、重调优	柜内 Scale-up + 柜间 Scale-out

一句话总结：超节点用系统工程能力，把大模型训练推理中最贵的「跨节点通信」尽可能消灭在柜内。

二、演进路线对照​

• 英伟达：GB200/GB300 NVL72 → Vera Rubin NVL144 → NVL288 → NVL576，更大的 NVLink 域、正交背板、柜间光互联
• 华为：Atlas 950 / 960 SuperPoD，业界首个 NPO 光引擎超节点，单节点 4096 卡
• 国产梯队：阿里磐久 AL128/AL144、天数 IXL144、昆仑芯 32/64 卡（率先量产）、沐曦曦景 S600、燧原 ESL64-O

三、产业链受益顺序​

研报给出的受益传导链（按先后）：

1. 服务器整机、交换芯片、交换机、连接器——超节点渗透率提升的第一波
2. PCB、液冷、电源、CPU——随整机柜形态放量
3. 国产算力芯片——系统级需求带动芯片采购

这与「机柜即产品」的判断一致：竞争单位放大后，瓶颈与利润沿供应链逐环节扩散。

四、需求侧的两个数据锚点​

• IDC：2026 年中国智能算力规模预计 2576.5 EFLOPS，同比增长 87.9%（智能体拉陡需求曲线）
• 工信部：截至 2026 年 6 月底全国智能算力 2185 EFLOPS，算力设施整体上架率 71.4%

上架率 71.4% 意味着存量机房还有约三成余量——这正是天数 IXL144 主打「适配现有机房」、华为 Atlas 860 主打「风冷、无需液冷改造」的市场基础：超节点的下一个战场是部署友好度。

延伸阅读：阿里磐久 AL128 · 昆仑芯超节点量产 · 超节点选型框架

推理时代的核心 KPI 只有一个：每百万 Token 的总成本。2026 年 10 月，公开可查的最低纪录是 2.01 美分——TPU v7 配合 vLLM-TorchTPU 栈在 SemiAnalysis InferenceX 8K/1K 测试上交出的成绩，较 9 月的 3.6 美分下降 44%。

一、推理成本的三块构成​

推理成本不是算力一项，而是三块的和：

成本项	占比趋势	决定因素
算力（计算）	解码阶段占比低	FP8/FP4 量化效率、批处理调度
内存带宽	解码阶段主导	HBM 容量与带宽、KV Cache 管理
存储/网络	随上下文变长上升	企业级 SSD、向量库、机间互联

关键认知：自回归解码是访存受限而非算力受限的工作负载——Token 生成速度的上限是「把权重和 KV Cache 从内存搬进计算单元的速度」。这解释了为什么 18 TB/s 的 Maia 300、19.2 TB/s 的 Rubin R200 这样的带宽数字，比峰值算力更值得看。

二、降价的四个引擎​

1. 低精度量化：FP8 → FP4 每一步都直接砍 KV Cache 与权重搬运量；专用矩阵单元（Maia 300 的 FP4 13.8 PFLOPS）把量化开销压到最低
2. 软件栈效率：vLLM 的 continuous batching、SGLang 的 RadixAttention、MLA 类低秩注意力——同一块硬件，软件代差可以拉开 2 倍以上成本差
3. ASIC 专用化：砍掉 FP64 与图形逻辑的推理芯片，把晶圆面积全部留给访存与低精度矩阵——OpenAI 的第一颗自研芯片就是这么设计的
4. 规模与利用率：超节点与机柜化把集群有效利用率从 30-40% 提到 60%+，摊薄固定成本

三、基准数字的正确用法​

SemiAnalysis InferenceX/InferenceMAX 的价值在于提供了一个横向可比的口径，但使用时要注意三点：

• 数字是开发者自报的（谷歌引用），跨厂商对比时要确认相同模型、相同精度、相同上下文配置
• 2.01 美分是 8K/1K 特定配置，长上下文场景成本结构完全不同
• 单价 ≠ TCO：还要叠加机时利用率、预留容量、故障率

四、给选型者的清单​

1. 把「每百万 Token 成本」写进采购 RFP，要求厂商按 SemiAnalysis 同款配置报数
2. 分别测算 Prefill 与 Decode 的成本结构——昇腾 950 的 PR/DT 双版本正是把这两段拆开优化的产物
3. 关注软件栈路线图：同一硬件半年后降价 44% 的案例说明，软件是推理时代最大的免费算力
4. 用 TCO 计算器把芯片价、功耗、PUE、利用率折现到统一口径

延伸阅读：TorchTPU 开源 · 存储超级周期 · 完整对比表

大多数 AI 算力的成本模型只算了显卡。但 2026 年公开测算显示：一台 8 卡 H100 服务器的三年全口径 TCO 约 71.2 万至 94.8 万美元，其中服务器与 GPU 约占六成，电力约 7% 至 15%，而人员成本往往是最大的单一运营项。真正拉开自建与云差距的，不是买卡那一刻花了多少。

---

一、五大口径的真实占比​

以一台 8 卡 H100 节点（约 10 至 10.5 kW 满载）为基准，2026 年的公开成本拆解如下：

成本项	类型	2026 年量级
GPU 服务器（8 卡 H100）	资本	25 万至 40 万美元以上
高速网络（InfiniBand / RoCE）	资本	5 万至 10 万美元以上
电力（约 10 kW 节点）	运营	每年约 1.05 万美元
制冷附加	运营	电力的 25% 至 40%
托管 / 机房	运营	每年 1.2 万至 2.4 万美元
人员（至少 0.5 个 FTE）	运营	每年 7.5 万至 10 万美元
三年全口径合计	—	约 71.2 万至 94.8 万美元

逐条看要点：

• 人员被严重低估。 7.5 万至 10 万美元 / 年的人力，通常高于电力加制冷之和。集群打补丁、监控、保持可用性，没有低于 0.5 FTE 的现实方案。
• 电力不是大头，但地区差异是数量级的。 美国加权平均工业电价 0.0834 美元 / kWh、PUE 1.14、利用率 71% 时，每兆瓦每年电费约 62.6 万美元；廉价电力市场（0.047 美元 / kWh）降至约 35.3 万；昂贵沿海市场（0.15 美元 / kWh）则超过 110 万。
• 故障率是隐性成本。 企业级 GPU 年故障率约 5% 至 10%，备件与更换必须单列。
• 摩尔定律的反向作用。 新一代发布即意味着在手硬件开始贬值，折旧年限的选取比电价更能左右结果。

二、东西部的成本落差有多大​

国内公开测算给出了更贴近本地采购的口径。取 2 万 P 规模 H100 集群，按行业平均 80% 利用率测算：

场景	PUE	电价	日电费
西部浸没液冷标杆	1.1	0.30 元/度	约 32.95 万元
西部标准绿色算力（冷板液冷）	1.2	0.30 元/度	约 35.94 万元
东部传统风冷	1.3	0.65 元/度	约 84.36 万元

东部风冷方案的日电费是西部液冷方案的 2.5 倍以上。 但如果换成低功耗国产集群（同样 2 万 P，按 1P 约 1.5 kW 测算，PUE 1.2、0.30 元/度、80% 利用率），日电费约 20.74 万元，比 H100 集群省约 42%。电力账的杠杆在芯片功耗和 PUE，不在电价谈判。

机位托管的口径同样值得记：西部东数西算枢纽 40 kW 液冷机柜的机位租金约 1.5 万元 / 月，电费约 8640 元 / 月（24000 kWh × 0.36 元），带宽约 1500 元 / 月，月度合计约 2.51 万元；东部新建低 PUE 液冷机柜租金则在 2.2 万至 3.2 万元 / 月，电价 0.55 元 / kWh 以上。

三、液冷为什么是必需品而不是选项​

液冷与风冷的成本差在 2026 年已经被量化。行业测算显示，每兆瓦液冷设施成本约 450 万至 520 万美元，而常规风冷约 180 万美元 / 兆瓦——液冷溢价为每兆瓦约 305 万美元。原因是风冷机房在常规成本下只能支撑每机架 25 kW，而 AI 负载需要 40 至 80 kW 甚至更高。

另一个容易被忽略的信号：机械系统在液冷 AI 机房总成本中的占比，已从风冷时代的 22% 上升到 33%。液冷不是一次性投入，它改变了整座机房的成本结构。

四、折旧：TCO 里最容易吵架的一项​

折旧年限的选择直接决定结论。Epoch AI 在 2026 年 5 月的模型中，对 1 吉瓦美国 AI 数据中心采用的口径是：IT 设备 5 年寿命，机房设施 14 年寿命，由此得出每兆瓦年化 TCO 约 850 万美元，其中一次性资本支出 3.8 万美元 / 兆瓦（合计 380 亿美元），年运营支出 90 万美元 / 兆瓦（合计 9 亿美元）。服务器与 GPU 占年化 TCO 的约 60%，能源约占 7%。

如果你把 IT 折旧从 5 年改成 3 年，同样的现金流会被重新切成完全不同的两个故事。 这不是会计技巧，而是采购谈判中的实质变量——它决定了你愿意为多少年服务期付多少溢价。

五、五口径自查清单​

口径	问自己的问题	四季度答案
电力	我的 kW 负载 × PUE × 8,760 小时 × 电价，是多少？	东部风冷方案通常是西部液冷的 2.5 倍以上
折旧	我按几年摊？残值怎么算？	行业常用 IT 5 年 / 设施 14 年
液冷	每兆瓦是否已计入 300 万美元级溢价？	每机架超过 25 kW 就是必选项
人力	是否真有人排 0.5 个 FTE 进预算？	通常是最大单项运营成本
故障	备件比例是否按年 5% 至 10% 预留？	企业级 GPU 的现实年故障率

一句话总结：2026 年的算力 TCO 里，电力只占约 7% 至 15%，液冷溢价和人员成本才是被低估的两块。把折旧年限、人力 FTE 和液冷溢价这三项填准，你的 TCO 才有讨论资格。

对一家 2026 年的 AI 创业公司来说，算力决策不是技术问题，是一个利用率问题。多家独立分析在 2026 年给出的阈值惊人一致：持续利用率在约 40% 以下，租用几乎总是更便宜；超过约 55% 至 65%，自建或共置才开始在三到三十六个月的维度上赢。你需要做的是准确估计自己的利用率，而不是选择你更偏好的那个答案。

---

一、先把「利用率」算出来，而不是猜出来​

2026 年的盈亏平衡测算给了一个可复现的算例。取一台 H100 新机价格区间 2.5 万至 4 万美元的中值 3 万美元，专业托管费用约每 GPU 小时 0.35 美元（含电费），同等级设备租用约每小时 2.50 美元——交叉点大约在 1.4 万 GPU 小时：100% 利用率下约 19 个月，40% 利用率下约四年。 若把两年残值按 40% 至 50% 计入，有效盈亏平衡点缩短约三分之一。

二手市场的保值能力是被低估的变量：二手 A100 在推出数年后仍以 4000 至 9000 美元交易。

所以第一步不是选卡，是拉数据。 把过去 8 周的训练与推理任务全部导出来，算出「实际运行 GPU 小时 / 可用 GPU 小时」。这个数字低于 40%，你就该继续租。

二、五阶段演进路径​

阶段	月 token / 训练量	利用率	算力策略	预算量级
0 期：原型验证	百万级 token	低于 10%	纯租，按秒/按小时付费	每月数百至数千美元
1 期：MVP 有真实用户	千万级 token	10% 至 30%	纯租 + 本地小卡	每月数千至 2 万美元
2 期：PMF 已验证	亿级 token	30% 至 50%	长约租 + 混合策略	每月 2 万至 10 万美元
3 期：稳定增长	十亿级 token	50% 至 70%	买或共置整机	一次性 25 万至 40 万美元级
4 期：平台化	百亿级 token	70% 以上	自建集群 + 多云弹性	百万美元级资本支出

自建的另一个门槛是 token 量本身：公开分析给出的阈值是，70B 级模型在每月 5 亿至 8 亿 token 以上时，自建的推理开支相比前沿 API 标价可降低 65% 至 80%。低于这个量级，运维成本摊不薄。

三、买租交叉点的三种测算口径​

2026 年各家给出的交叉点略有不同，因为假设不同。三个口径值得分别记住：

口径	交叉利用率	对应假设
保守	约 40%	A100 对 H100 对比，含残值抵扣
中性	约 55% 至 60%	对标超大规模云商按需价，11 至 14 个月回本，36 个月内省 50% 至 65%
激进	约 70%	含人力分摊与机房折旧

实操建议：按中性口径（55% 至 60%）做决策，按保守口径（40%）做否决。 如果你的测算结果落在 40% 到 55% 这个灰区，答案通常是第三条路——共置。

四、第三条路：买硬件但不自建机房​

公开分析中反复出现的一个洞察是：买租二选一的框架默认了「买 = 自建机房」，而这个假设往往是错的。 运营方正走的折中路径是：买下硬件，把它放进同一座提供合同电力、液冷和运行时间的设施里。这条路在「拥有」那一栏加上了托管费（上述算例中约每 GPU 小时 0.35 美元），同时消除了自建的每一条运维异议——电力、制冷、网络、以及凌晨三点的故障。

对超过 40% 负载的稳定工作负载，这通常是可用的最低总成本路径。 托管价格的市场区间是每机柜每月 1200 至 2500 美元（海外标准），机位托管另按 40 kW 液冷机柜、机位租金约 1.5 万元 / 月加电费约 8640 元 / 月的国内口径测算。

五、四季度特有的两条变量​

1. 云端长约的折扣窗口在放大。 2026 年 10 月初的公开报价显示，H100 在 Azure 的 1 年承诺约比按需低 36%、3 年承诺低 56%；Google Cloud 对应为约 31% 与 56%。主流云的 1 至 3 年 GPU 预留合约通常可在按需价基础上打 30% 至 55% 的折扣。如果你的利用率在灰区，签长约比自建更安全。
2. 硬件价格仍在波动上行。 2026 年 9 月国内渠道数据显示，RTX 5090 风扇卡在华南涨至 47100 元，较 9 月初上涨 12%，而 5090 服务器月租费率仍稳定在 1.35 至 1.6 万元；L20 48GB 报价超过 32000 元。硬件买家正在吸收成本，租户没有——这个价差会收窄，但今天买硬件是在为明天的稀缺付溢价。

六、四条决策纪律​

• 利用率低于 40%，一律租。 不要用「资产归属」的叙事说服自己。
• 灰区（40% 至 60%）选共置。 买硬件、不自建机房，避开自建的每一条运维承诺。
• 数据不能出厂，选项就变了。 医疗、法律、金融数据或合同约束下的算力需求，是硬需求不是偏好——哪怕账面上租更便宜。
• 别在通胀的市场里押注单卡。 2026 年的一个合理策略组合是：中端本地卡（如约 1150 美元级别的 16GB 消费级卡）负责日常迭代、调试和小规模微调，云端负责显存不够或长跑的任务。本地卡承接 80% 的日常工作、云端承接那 20% 本来会逼你买旗舰卡的任务——这是当下风险最低的路径。

一句话总结：2026 年 AI 创业公司的算力策略只有一句话——先量利用率，再选路径。低于 40% 就租，灰区就共置，超过 60% 才自建。而四季度特殊的地方在于：云端长约能省三到五成，硬件却在涨，两边的价差正在逼你做出更早的决定。

2026 年四季度，国产卡与进口卡的对比已经不能只看「单卡算力差多少」。三条硬约束同时收紧：政策红线（7 月 15 日七部委行动方案要求新增财政与央企自建算力国产硬件采购占比不低于 75%，9 月 1 日生效无过渡期）、价格双向上涨（国产卡在涨，进口卡配额在涨）、生态差距量化（WAIC 2026 演示中国产昇腾与同配置英伟达差距约 15% 至 25%）。这是一篇给决策者用的决策树，不是参数对比表。

---

一、先看两个真实报价趋势​

国产侧在涨价。 路透社与彭博社在 2026 年 10 月报道，华为将昇腾 950DT 加速卡指示性报价上调至 25 万元以上，较约两个月前的报价高出 20% 至 50%；彭博称三个月内涨约 60% 至同一水平，有消息人士称该报价是对标英伟达 B200 的多卡交易。老款也不豁免：昇腾 950PR 从年初约 6 万元涨至 8 万元以上，昇腾 910C 从约 9 万元涨至 11 万元以上。寒武纪下一代（暂称 690）报价上调 20% 至 30%，沐曦与燧原也有类似动作。根因是 HBM 供应集中，国产厂商不得不更多依赖成本更高的灰色渠道。

进口侧配额放松但落地存疑。 据报道北京已原则批准 DeepSeek、字节、阿里、腾讯采购 H200，累计超 40 万颗，但条件严格到「实际一单都没下」——英伟达 CEO 黄仁勋已亲口确认没有正式订单。

这两条趋势合起来的判断：四季度是国产卡的窗口期，但不是捡漏窗口期。 国产卡在涨是因为需求真实，不是因为供给变宽裕。

二、决策树：四个问题，四个出口​

问题一：你的负载有合规红线吗？​

若有（政务、央企、金融、医疗数据）——国产卡是必选项，不是选项。 政策要求新增财政与央企自建算力国产硬件采购占比不低于 75%，且无过渡期。此时决策树直接终止在国产分支，后续三个问题只在国产卡内部做型号选择。

若没有——继续。

问题二：你的模型栈是纯国产开源，还是重度依赖海外闭源？​

若你的模型栈以 Qwen、DeepSeek、GLM 等国产开源模型为主，国产卡的适配红利非常明确。昇腾走「全栈共定义」路线，DeepSeek V4 的训练即在昇腾上完成；寒武纪走「生态白手套」路线，把 vLLM 适配做深且 Flash 与 Pro 双开源。这类栈在国产卡上的迁移成本最低。

若你的核心负载重度依赖海外闭源模型或特定算子实现——继续评估，不要勉强。 需要提醒的是，公开分析提到 V4 上国芯曾需要重写约 200 个算子、投入约 30 人年才把性能从 1/35 追回来。这不是小工程。

问题三：你的负载是 decode 受限还是 prefill 受限？​

这是国产卡四季度最有价值的一个判据。昇腾 950 系列的双 die 分工正是围绕这一点设计：950PR（128GB HBM、约 1.6 TB/s）主打推理与 prefill，950DT（144GB 自研 HBM、4 TB/s 带宽、2 TB/s 互连）主打训练与 decode。

如果你的负载是 49B 激活量级的大模型 decode 路径（内存带宽受限），950DT 的 4 TB/s 是国产阵营里最合适的物理答案。 反之，如果是 prefill 密集或小模型高并发，950PR 或寒武纪 MLU690（192GB HBM3E，国产卡中最大显存配置）更匹配。

问题四：你能接受多长的交期和多少的性能折损？​

公开口径的性能差距是：昇腾与同配置英伟达在主流中国模型上差距约 15% 至 25%（WAIC 2026 演示）；第三方评测的推理吞吐对比中，2 卡昇腾 910C 约为 2 卡 H100 的 82%；训练吞吐口径下昇腾 910C 约为 H100 的 79%。同时要注意功耗代价：SMIC 7nm 级工艺的能效劣势使 Atlas 950 SuperPoD 的整机功耗约为可比英伟达配置的两倍以上。

如果你的业务 SLA 允许这 15% 至 25% 的折损，且机房有足够功率余量——选国产。 如果 SLA 卡死在毫秒级，先算功耗余量再决定。

三、四季度选型对照表​

维度	国产卡	进口卡
采购价走势	普涨，950DT 意向价超 25 万元	H200 配额放开但落地未验证
现货可获得性	950DT 商用时间窗口为 2026 年 Q4，量产出货有不确定性	H100 整机稳定在 325 至 330 万元区间
合规适配	满足 75% 国产采购红线	不计入国产比例
生态成熟度	国产模型栈适配最稳，海外闭源有坑	CUDA 生态完整
性能折损	主流国产模型 15% 至 25%	基线
单位成本	主力训练档单卡 11 万元左右，950PR 约 8 万元	H100 单卡 19.5 万至 29 万元，H200 18.1 万至 32 万元
整机功耗	偏高，同配置约为英伟达两倍以上	更优

四、四条执行建议​

• 不要为「国产化」三个字单独付费。 如果你的合规压力真实存在（问题一为是），国产卡的溢价是可以接受的；如果不存在，压着 15% 至 25% 的性能折损选国产，是纯粹的成本损失。
• 押注生态路线而非单卡参数。 昇腾的全栈共定义与寒武纪的 vLLM 深适配，是两条不同的赌注。多卡集群的决策应该押在生态路线上，因为单卡差距会被系统级优化覆盖。
• Q4 是窗口但不是折扣。 国产卡的涨价幅度（950DT 三个月约 60%）说明需求侧在抢。如果确实要用 950DT，Q4 下单比 Q1 下单便宜。
• 保留一条 CUDA 回退路径。 至少让推理栈能编译回 CUDA，避免在 H200 实际落地那天才发现切换成本已经超过预算。

一句话总结：2026 年四季度的国产卡 vs 进口卡，本质上不是性能选择题，而是「合规压力 + 模型栈归属 + decode 还是 prefill」三问的组合题。前一问决定要不要买国产，后两问决定买哪一款国产。