AI Compute Cards Wiki Editorial

一份价值数百亿美元的合同，至多 100 万颗 TPU，超过 1 吉瓦的算力容量。Anthropic 与谷歌的这次扩约，把云厂商自研芯片从内部工具推向了 AI 时代的硬通货。

协议全貌：最大规模的 TPU 外部订单​

2025 年 10 月 23 日，Anthropic 与 Google Cloud 联合宣布扩大合作：Anthropic 将获得至多 100 万颗谷歌自研 TPU 以及额外云服务资源，用于训练和服务未来数代 Claude 模型；超过 1 吉瓦的算力容量自 2026 年起陆续上线。双方确认协议总价值达数百亿美元级别，是 Anthropic 迄今最大的一笔 TPU 承诺，也是谷歌 TPU 对外供应史上规模最大的单一订单。

行业测算显示，1 吉瓦数据中心的建造成本约 500 亿美元，其中芯片部分通常占约 350 亿美元。以此对照，这份协议的分量不言而喻。作为对照，OpenAI 此前签署的一系列协议涉及约 26 吉瓦以上的算力承诺，而 Anthropic 的打法显得更克制也更聚焦：不追求纸面吉瓦数，而是绑定性价比。

合作要素	具体内容
签约时间	2025 年 10 月 23 日
芯片规模	至多 100 万颗 TPU
算力容量	超过 1 吉瓦，2026 年起上线
协议价值	数百亿美元级别
核心芯片	第七代 TPU Ironwood 等
用途	Claude 系列模型训练与服务

为什么是 TPU：性价比与多云策略​

Anthropic 给出的选型理由十分务实：TPU 的性价比与能效表现突出，且团队自 2023 年起就有在 TPU 上训练与服务 Claude 的经验。谷歌云 CEO Thomas Kurian 强调，这次扩约印证了 TPU 多年积累的成熟度，并以第七代 Ironwood 作为产品组合的代表。

更深层的原因在于 Anthropic 的多云架构。据 CNBC 报道，Claude 的训练与服务横跨三大算力底座：亚马逊 Trainium（包括 Project Rainier 超算集群）、英伟达 GPU 与谷歌 TPU，不同平台按训练、推理、研究等负载分工。这种策略在 2025 年 10 月 AWS 大规模宕机事件中得到验证——得益于算力来源分散，Claude 服务未受波及。对 Anthropic 而言，不与任何单一云厂商绑定，既是供应安全，也是议价筹码。

需求侧的底气：收入与客户的爆发式增长​

支撑百万卡级采购的，是 Anthropic 自身的业务曲线。签约时点，其年化收入运行率已接近 70 亿美元，超过 30 万家企业客户使用 Claude，两年内增长约 300 倍；年贡献超过 10 万美元的大客户数量一年内增长近 7 倍。Claude Code 上线仅两个月即实现 5 亿美元年化收入，被公司称为史上增长最快的产品之一。

谷歌在合作中的角色也不仅限于芯片供应商。谷歌此前累计向 Anthropic 投入约 30 亿美元，据 2026 年披露的法庭文件持有该公司约 14% 的股权，同时 Claude 也通过 Vertex AI 面向企业客户分发。算力供应加股权绑定加渠道分发，构成了三重利益联盟。

小结​

这份协议的产业信号十分清晰：第一，自研加速器已经成为头部 AI 公司采购算力的主流选项，TPU 正从谷歌内部资产变成对外收入来源；第二，多云算力策略成为前沿 AI 公司的标准配置，单一供应商模式正在瓦解；第三，随着 2026 年这批 TPU 陆续上线，Anthropic 与 OpenAI 之间的算力竞赛将进入吉瓦级对标的新阶段。

谈起华为昇腾，话题总是围绕 910B、910C 乃至最新的 950 系列在云端大模型训练上的鏖战。但在数千公里之外的路口摄像头、工厂质检台和安防盒子中，真正大规模部署的其实是另一颗芯片——昇腾 310B。它不跑大模型训练，却是国产边缘 AI 交付量最大的推理底座之一。

从 310 到 310B：一次务实的迭代​

昇腾 310 是 2018 年随达芬奇架构一同亮相的首代边缘推理芯片，昇腾 310B 则是它的全面升级版，约在 2025 年前后以新命名体系广泛铺货。它延续了达芬奇架构的双 AI Core 设计，集成 4 个 TAISHAN V200M 处理器核，支持 FP16 与 INT8 混合精度计算。制程方面官方并未大张旗鼓宣传，公开资料多记为 12nm 级工艺。

核心规格如下：

参数	昇腾 310（初代）	昇腾 310B
架构	达芬奇	达芬奇（升级版）
INT8 算力	16 至 20 TOPS	8 或 20 TOPS（两档可选）
FP16 算力	8 TFLOPS	4 或 10 TFLOPS（对应两档）
内存	LPDDR4X	LPDDR4X 8GB 或 12GB
内存带宽	25.6 GB/s	最高 51.2 GB/s
芯片功耗	未公开	约 8W（整机典型 21 至 25W）
视频编码	H.264/H.265	满配 20 路 1080P 30FPS

8 瓦功耗里的工程哲学​

昇腾 310B 的价值不在于峰值算力，而在于能效与工程完备度。芯片级功耗约 8W，意味着它可以塞进无风扇的枪机摄像头和巴掌大的边缘盒子，靠被动散热常年 7 乘 24 小时运行。芯片同时集成视频编解码引擎，满配可解码 40 路 1080P 视频，做到"解码、推理、编码回流"一条龙，这对安防视频结构化场景是刚需。

软件层面，它共享昇腾的 CANN 工具链与 AscendCL 运行时，与云端 910 系列同一套开发体系。开发者在 310B 上写的推理代码，未来迁到 Atlas 300I Duo 或 910 服务器上改动极小，这种"端边云同构"正是华为全栈路线的护城河。

落地形态：开发板、智能小站与模块​

昇腾 310B 的典型载体有三类：其一是香橙派等厂商推出的 AI 开发板，20 TOPS 档的版本已成为高校和中小企业接触昇腾生态的最低门槛；其二是 Atlas 200 系列模组与 Atlas 500 智能小站，面向安防、工业质检的量产部署；其三是各板卡厂商的核心板与整机方案，支持 PCIe 3.0、多路 MIPI 摄像头接口，适配无人机、机器人等移动场景。

据公开报道，围绕 310B 的整机方案已覆盖智能安防、智慧交通、工业检测、无人零售等大量行业场景，配合模型压缩技术可在片上跑 YOLO 系列检测、OCR 与轻量级语音模型。

小结：边缘推理不性感，但很重要​

云端大模型是聚光灯下的战场，而边缘推理是颗粒度最细、出货量最大的市场。昇腾 310B 没有惊艳的参数，却以低功耗、完整工具链和端边云一致的软件生态，成为国产边缘 AI 难以绕开的基石。对于需要大规模视频分析、低成本私有化部署的团队，它值得放进选型清单的第一梯队；对于想学习昇腾生态的开发者，一块 310B 开发板也是最便宜的入场券。

当算力供给的矛盾从"有没有"转向"够不够"，芯片设计的刀法也开始向场景细分。华为昇腾950系列首次拆分为950PR与950DT双版本——前者专攻推理Prefill，后者押注Decode与训练超节点。这既是Prefill/Decode负载特性差异的工程回应，也是自研HBM产能约束下的现实选择。

一、为什么推理要拆成两颗芯片​

大模型推理的两条流水线，瓶颈完全不同：

• Prefill（首 Token 生成）：一次性吞下整段 Prompt 做并行计算，算力（FLOPS）是瓶颈，带宽需求适中；
• Decode（逐 Token 生成）：每生成一个 Token 都要把权重和 KV Cache 从显存搬一遍，带宽是瓶颈。

把两类负载塞进同一颗芯片，必然出现"一半硅片在空转"的错配。华为的解法是同一 Da Vinci v5 计算核心、两套内存子系统——950PR 用成本优先的 HiBL 1.0，950DT 用带宽优先的 HiZQ 2.0。这与 Google 的思路殊途同归：谷歌同样在 TPU 家族中把训练型 8t 与推理型 8i 拆分为两条产品线，让"算力密集"和"带宽密集"各自归位。

维度	昇腾 950PR	昇腾 950DT
目标场景	推理 Prefill（首 Token 生成）、视频推荐、实时交互	推理 Decode + 模型训练
HBM	自研 HiBL 1.0，128 GB	自研 HiZQ 2.0，144 GB
HBM 带宽	1.6 TB/s	4 TB/s
FP8 算力	1 PFLOPS（HiF8 格式）	1 PFLOPS（HiF8 格式）
FP4 算力	2 PFLOPS	2 PFLOPS
TDP	~400 W	~500 W
定价逻辑	成本优先	带宽优先、性能优先

按《昇腾 950 NPU 架构白皮书》的精确口径，FP8 算力随配置在 919–1034 TFLOPS 之间（宣传口径取整 1 PFLOPS），FP4 为 1561–2007 TFLOPS。两者共享同一计算核心，差异全部体现在内存子系统上——950DT 的 4 TB/s 带宽正是 Decode 与训练场景的命门。

二、Da Vinci v5：双编程模型与 HiF8 的精度革命​

昇腾950 是 Da Vinci 架构第五代，两项变化值得单独展开：

SIMD + SIMT 双编程模型。SIMD 延续 Da Vinci 在向量计算上的传统优势；新增的 SIMT 模型则面向 Decode 阶段大量不规则内存访问，让开发者可以用更接近 GPGPU 的方式写算子。配合内存访问粒度从 512 字节压缩到 128 字节，离散内存访问效率提升 4 倍——这对小 batch、多并发的推理业务是实打实的收益。华为同时提供 ASIC（昇腾 Core）与 GPGPU 双生子型号，兼容两种开发范式。

HiF8 自研 FP8 格式。低精度化的最大阻力是精度损失，HiF8 的设计目标是"精度接近 FP16、算力比 FP16 提升 2 倍"，配合 FP4 格式整体算力利用率提升 30% 以上。结合 2 TB/s 灵衢互联，384 颗 950 组成的 CloudMatrix 384 超节点总算力约 384 PFLOPS FP8，以系统级规模对冲单卡代差。

三、自研 HBM：供应链意义大于纸面参数​

950 系列首次搭载华为自研 HBM——950PR 用 HiBL 1.0（成本优先），950DT 用 HiZQ 2.0（带宽优先，4 TB/s 对标 NVIDIA HBM3e）。这组数字的意义不在跑分，而在供应链：过去国产 AI 芯片的产量天花板被 SK 海力士、三星的 HBM 配额捏在手里，自研 HBM 让昇腾第一次把"产能多少"的决定权拿回自己这边。

但产能爬坡需要时间。渠道数据显示，国产 HBM 产能目前仅能支撑约 25–30 万颗成品加速器，缺口约六成——这正是下文涨价潮的底层原因。

四、徐直军 HC2026 访谈：节奏、份额与产能​

2026 年 10 月 8 日，华为副董事长徐直军在 HC2026 期间接受访谈，披露了几个关键信息：

• 950PR 已于 2026 年第一季度发布上市，定位推理场景，"上市量不算大"；
• 950DT 超节点正在测试中，规模供货预计今年年底或明年初落地；
• 关于训练业务，徐直军表示："950DT 训练表现非常不错，明年开始大量模型训练会构筑在 950DT 超节点上；关键在供货能力，能产多少供多少。"
• 从华为统计口径看，昇腾在中国市场的份额已超过英伟达；
• 华为暂无全面海外拓展计划，重心仍在国内市场。

"能产多少供多少"这六个字，基本概括了当前国产 AI 芯片的真实处境：需求端远未见顶，第一约束已经从市场转移到了产能。

五、生态与价格：开源换时间，稀缺换定价​

生态侧，昇腾950 正在以"开源 + 头部共建"提速：DeepSeek 与华为联合开源面向昇腾950 的编程工具链（含计算与通信库），头部模型厂商直接参与共建是"去 NVIDIA 化"的标志性事件；CANN 已全面开源，外部开发者占比达 61%（首次超过内部团队），月活开发者突破 5200 人，PyTorch 官网将昇腾列为首个中国算力平台；昇腾950 智算集群云服务已于 9 月 30 日在国内商用。

价格侧则是另一番景象。受 HBM 成本攀升与供不应求驱动：

型号	年初报价	2026-10 市场报价	涨幅
昇腾 950PR	~¥6 万	突破 ¥8 万	+30%
昇腾 950DT	~¥12–15 万	指示性报价超 ¥25 万	两个月内最高 +50%

950DT 的渠道指示价已经对齐 NVIDIA B200 的量级——国产旗舰的定价逻辑，正从"替代品折价"转向"供给稀缺溢价"。

小结​

昇腾950 的双轨战略回答了两个问题：产品层面，Prefill/Decode 分芯片让每一份硅片和带宽都花在刀刃上，与 Google TPU 的产品线拆分形成跨洋呼应；供应链层面，自研 HBM 把产能主动权握回手中，但爬坡期的缺口也直接推高了价格。徐直军"能产多少供多少"的表述说明，2027 年国产算力的故事主线不再是需求，而是产能——950DT 超节点能否如期规模供货，将决定明年大量模型训练是否真正构筑在国产超节点之上。

2026 年 9 月 17 日，华为全联接大会（HC2026）上海站，华为轮值董事长汪涛官宣昇腾960 超节点——全球首个采用 NPO（近封装光学）技术的超节点。4096 卡、8 EFLOPS FP8、1PB HBM，加上提前三个季度就绪的 960DT，华为把"系统级算力"的赌注又加大了一档。

一、HC2026 发布：单节点 4096 卡意味着什么​

先看官方口径的核心数字：

指标	昇腾 950 超节点	昇腾 960 超节点
单节点卡数	1024 卡（WAIC 2026 展出）	4096 卡
FP8 算力	8 EFLOPS（8192 卡满配）	8 EFLOPS（单节点）
FP4 算力	16 EFLOPS（8192 卡满配）	16 EFLOPS（单节点）
HBM 总容量	1152 TB（8192 卡满配）	1 PB（4096 卡）
互联 RTT	3 μs	2 μs（全域 D2D）
光互联	灵衢 2.0 总线	NPO 光引擎 Hi-ONE

一个直观的对比：950 超节点需要 8192 卡满配才能达到的 8 EFLOPS FP8，960 超节点在单节点 4096 卡内即已实现——这背后是单卡规格翻倍与光互联密度提升的叠加。芯片侧，昇腾960DT 升级至 Da Vinci v6 架构：FP8 2 PFLOPS、FP4 4 PFLOPS、288GB 自研 HBM、9.6 TB/s 带宽，各项指标较 950 系列全部翻倍，华为称这一路径为"韬定律"。双版本节奏同样清晰：960DT 配风冷超节点 Atlas 860，960PR 配液冷超节点 Atlas 960，分别于 2027 年 Q2、Q3 上市。

二、NPO 光互连：一场功耗与密度的革命​

超节点规模越大，互联越是命门。传统可插拔光模块的功耗与密度，正是把超节点从"千卡"推向"万卡"的最大障碍。昇腾960 超节点的答案是 NPO（Near-Package Optics，近封装光学）：

• 5500 个 Hi-ONE 光引擎替代 48000 颗 800G 光模块，单引擎传输容量 7.2T，是业界首个量产、当前传输能力最大、唯一内置光源的 NPO 产品；
• 系统功耗降低超 550 kW——相当于省出一个中型数据机房的总功率；
• 无故障运行时间提升一倍，整体可用度达 99.8%。

华为选择 NPO 而非更激进的 CPO，理由是工程务实：NPO 在保留光引擎独立性的同时实现光电近距离握手，规避了 CPO 在可靠性、可制造性、可维护性上的难题，并延续现有光模块产业生态。

对照海外路线，这条路径的差异非常明显：NVIDIA 的 NVL72 系列在机柜内坚持铜互连（NVLink 铜背板），AMD 亦以铜互连为主、借助 UALink 开放生态扩展机柜间网络。铜互连在 72–144 卡尺度上功耗与成本占优，但要再往上走一个数量级，光进铜退几乎是必然。昇腾960 用 NPO 直接把光互联压进超节点内部，是在用互联架构换规模上限——这也是 4096 卡得以成立的前提。华为马尔科夫实验室的仿真给出了一组佐证：4K 超节点组成的 10 万卡集群，相比 8 卡服务器组网，MFU 提升达 2.75 倍——传统架构下，集群内通信要吃掉超过 40% 的训练时间。

三、4096 卡 vs NVL72：两种规模哲学​

把昇腾960 超节点与 NVIDIA NVL72 放在一起，看到的不是同一张设计图的两个版本，而是两种哲学：

维度	NVIDIA NVL72	昇腾960 超节点
单节点规模	72 卡	4096 卡
互联介质	铜背板（NVLink）	NPO 光引擎（Hi-ONE）
设计逻辑	小域高带宽、机柜间以太网扩展	大域统一内存、集群级扩展

NVL72 的思路是把最紧密的互联限制在 72 卡的小域内，用成熟的铜互连控制功耗，再靠网络横向扩展；昇腾960 则把"超节点"的边界直接推到 4096 卡，用统一内存编址和 2 μs 全域 RTT 让整个节点在逻辑上"像一台机器"。单卡绝对性能仍落后 NVIDIA 旗舰一代的背景下，华为选择用更大的 Scale-Up 域弥补代差——评估国产算力，不能只比单芯片 PFLOPS。

四、提前三个季度：执行信号与一年一代路线图​

比规格更值得注意的是节奏：昇腾960DT 较原计划提前三个季度就绪，960PR 提前一个季度。在先进制程受限的环境里，提前就绪意味着供应链、封装、整机调测的每一个环节都被压缩过——这是执行力的信号，也是对客户交付承诺的背书。

路线图同步浮出水面：2028 年昇腾970、2029 年昇腾980，"一年一代"的迭代节奏与算力规格持续翻倍的韬定律并列官宣。而 960 的部署底盘已经就位——昇腾910C 超节点已部署超 1000 套，950 超节点规模商用，CANN 外部开发者占比升至 61%、月活开发者突破 5200 人。

配套系统同步升级：鲲鹏 TaiShan 950 超节点支持全光组网下 4096 节点、256TB 统一内存池；OceanStor M900 上下文内存存储基于灵衢总线一跳直连 PB 级 KV Cache，把推理时代的上下文瓶颈纳入系统级解法。集群扩展路径上，多个 960 超节点经灵衢网络或 RoCE 互联可达 51.2 万卡，叠加多轨道拓扑后支持 100 万卡集群。

小结​

昇腾960 超节点的故事有三层：工程层面，NPO 光互连用 5500 个光引擎换下 4.8 万颗光模块、省电 550 kW，把光互联提前压进超节点内部，走出了与 NVIDIA 铜互连不同的路线；架构层面，4096 卡对 72 卡，是以更大的 Scale-Up 域对冲单卡代差的规模哲学；执行层面，960DT 提前三个季度就绪，让"一年一代"从路线图变成了可以兑现的承诺。2027 年 Q2 上市在即，真正的考验将是：这 4096 卡的野心，能否按期变成机房里实际运转的算力。

如果统计 2025 年以来国产 AI 推理卡的实际装机量，华为 Atlas 300I Duo 大概率排在最前列。它不在算力峰值上炫技，而是把"够用的算力、超大的显存、极低的功耗"组合进一张单槽位标卡，恰好命中了大模型推理时代最真实的采购需求。

双芯设计：两颗 310P 的乘法​

Atlas 300I Duo 的架构思路非常直接：把两颗昇腾 310P 处理器封装在一张 PCIe 卡上，算力和显存同时翻倍。单卡最大提供 280 TOPS INT8 算力与 140 TFLOPS FP16 算力，能效比达 1.86 TOPS/W，官方称业界领先。卡的规格要点如下：

参数	规格
AI 算力	280 TOPS INT8，140 TFLOPS FP16
处理器构成	2 颗昇腾 310P，另含 16 核 1.9GHz 通用 CPU
内存	LPDDR4X 48GB 或 96GB，总带宽 408 GB/s
视频解码	256 路 1080P 30FPS（H.264/H.265 硬解）
编解码上限	32 路 3840 乘 2160 60FPS 解码
PCIe 接口	Gen4.0 x16，兼容 x8、x4、x2
功耗	150W，单槽位全高全长
工作温度	0 至 55 摄氏度

为什么是推理市场的"最大公约数"​

大模型推理的瓶颈往往不在算力而在显存。Atlas 300I Duo 提供最高 96GB LPDDR4X 显存，虽然带宽 408 GB/s 远不及 HBM 方案，但胜在容量大、成本低、功耗低，对于 7B 至 70B 级别模型的 INT8/W8A8 量化推理来说，性价比非常突出。2025 年 DeepSeek 系列开源模型走红后，大量企业以两卡、四卡、八卡 300I Duo 服务器搭建私有化推理底座，京东等渠道单卡价格长期在 1.1 万至 1.2 万元区间，远低于同代 HBM 推理卡。

另一个被低估的能力是视频分析：256 路 1080P 硬解码叠加推理，让它可以同时服务"大模型对话"和"传统视频结构化"两类负载，这在智慧城市、交通枢纽等项目中意味着一张卡顶过去两张卡。

生态与部署体验​

Atlas 300I Duo 依托 CANN 工具链与 MindIE 推理引擎，已适配 DeepSeek、Qwen 等主流开源大模型，vLLM 类服务框架也有对应支持。对运维团队而言，它的 150W 单槽设计无需改造供电与散热，普通 2U 服务器即可插满 8 卡，从采购到上线的周期很短。

当然短板同样明确：LPDDR4X 带宽限制了长上下文和高并发场景的解码速度，FP16 峰值算力也不足以承担千亿参数训练。它的定位从来不是全能选手，而是推理规模化部署的经济解。

小结：把一张卡做对，比做强更难​

在国产 AI 芯片普遍追求峰值算力的语境下，Atlas 300I Duo 证明了"均衡"的商业价值：以两颗成熟芯片组成双芯标卡，用大显存和高能效比承接了最广泛的推理需求。对于以推理为主、预算敏感、追求快速落地的团队，它至今仍是国产推理卡里最难跳过的默认选项。

同一套 Blackwell Ultra 硅片，NVIDIA 给了它两个名字、两种形态：B300 是可以进风冷机柜的 8 卡节点核心，GB300 则是焊进 NVL72 机柜的机柜级答案。分清两者，是 2026 年 Blackwell 采购的第一道题。

B300：先看芯片本身改了什么​

B300 是 B200 的" Ultra "增强版：同样的双 Die Blackwell 架构，但显存堆叠从 8-Hi 换成 12-Hi，容量从 192GB 提升到 288GB（提升 50%）；NVFP4 稠密算力提升到约 15 PFLOPS，约为 B200 的 1.5 倍；功耗上限从 1,000W 提到 1,400W。两处容易被忽略的变化：FP64 性能大幅削减至约 1.25 TFLOPS（B200 为 37 TFLOPS），HPC 科学计算用户需特别留意；稀疏比也从常见的 2 倍收敛到约 1.33 倍（15 稠密对 20 稀疏），容量规划时不能沿用旧公式。

规格	B200	B300（Blackwell Ultra）
显存	192GB HBM3e	288GB HBM3e（12-Hi 堆叠）
显存带宽	8TB/s	8TB/s
FP4 稠密/稀疏	9 / 18 PFLOPS	15 / 20 PFLOPS
FP8 稠密/稀疏	4.5 / 9 PFLOPS	5 / 10 PFLOPS
最大功耗	1,000W	1,400W（另有 1,100W 风冷档）
NVLink	1.8TB/s	1.8TB/s
PCIe	Gen5	Gen6（256GB/s）

B300 并非只有液冷一档：1,400W 顶配档需要直冷液冷，但 1,100W 档支持风冷，NVIDIA 自家的 DGX B300 就是风冷系统，Supermicro 也有 8U 风冷 HGX B300。真正的硬约束是整机功耗——8 卡节点仅 GPU 就要 8.8kW 至 11.2kW，加上 CPU 与网络，单节点约 14 至 15kW，远高于 H200 节点。

GB300：超级芯片与 20TB 机柜​

GB300 不是"更快的 B300"，而是另一种产品：Grace CPU 与两颗 B300 组成的超级芯片（超级芯片功耗约 3,000W，含两颗 1,400W B300 与约 200W Grace）。以它为单元的 GB300 NVL72 机柜集成 72 颗 B300 与 36 颗 Grace，组成 130TB/s 的单一 NVLink 域，GPU 显存合计约 20TB HBM3e。

指标	B300 节点（8 卡）	GB300 NVL72（机柜）
组成	8 颗 B300 + 2 颗 x86 CPU	72 颗 B300 + 36 颗 Grace
显存合计	2.3TB HBM3e	约 20TB HBM3e
FP4 稠密	约 120 PFLOPS	约 1.1 EFLOPS
网络侧	ConnectX-7 400G 起	ConnectX-8 800G
散热	风冷或液冷可选	强制全液冷
形态	标准机架服务器	定制机柜，约 120kW 级

两者的分工与 GB200 NVL72 一脉相承：B300 节点服务"8 卡能装下"的负载，GB300 NVL72 服务万亿参数与巨型 MoE。相比 GB200 NVL72，GB300 机柜的稠密 FP4 算力提升 50%，显存从 13.4TB 增至 20TB，网络升级到 800G，对推理时代的长上下文与多轮 Agent 场景更友好。据公开报道，GB300 NVL72 机柜价格约在 370 万至 400 万美元区间。

选型建议​

三步判断。第一步看模型规模：单副本权重加 KV Cache 能进 180GB（B200）就不用看 B300；需要 288GB 单卡容量或 1.5 倍 FP4 吞吐，选 B300 节点；张量并行超过 8 卡、或 KV Cache 需要机柜级共享，进 GB300 NVL72。第二步看机房：风冷机房先把 B300 排除在 1,400W 档之外，GB300 NVL72 需要完整液冷改造。第三步看精度需求：FP64 密集的科学计算请留在 Hopper 或 HPC 专线，B300 会让你失望。

小结​

B300 与 GB300 是同一代硅片的两种野心：前者把 Blackwell Ultra 塞进可管理的 8 卡节点，是 2026 年高端推理与微调的主力；后者把它推向 20TB 显存的机柜级单一域，是 AI 工厂的正装。想清楚"8 卡够不够、机房供不供得起"，这道二选一就不难。

2022 年 8 月，成立仅三年的壁仞科技发布了 BR100：台积电 7nm、CoWoS 封装、双 Chiplet 设计，INT8 算力 2048 TOPS，宣称性能对标英伟达同代旗舰的三倍以上。这是当时中国通用 GPU 离世界最先进水平最近的一次。两个月后，一切被按下了暂停键。

纸面规格：至今仍属激进的野心​

BR100 的规格即使放在今天看依然激进。它采用壁仞自研指令集与双 chiplet 架构，核心参数如下：

参数	BR100	BR104（同代次旗舰）
FP16 算力	1024 TFLOPS	512 TFLOPS
INT8 算力	2048 TOPS	1024 TOPS
FP32 算力	256 TFLOPS	128 TFLOPS
显存	64GB HBM2e	32GB HBM2e
显存带宽	约 2.3 TB/s	约 2.3 TB/s
制程封装	台积电 7nm，2.5D CoWoS，双 Chiplet	台积电 7nm
整卡功耗	550W	300W

BR100 还率先采用 PCIe 5.0 接口，并通过自研 BLink 片间互联支持多卡扩展。在设计层面，它证明了国内团队完全有能力定义一流的大芯片。

两次制裁：供应链的釜底抽薪​

BR100 的参数恰好踩在美国出口管制红线之上。2022 年 10 月美国 BIS 新规生效，台积电随即停止为壁仞代工；2023 年 1 月，壁仞紧急推出被外界视为"降规"版本的 BR106 以绕开限制；2023 年 10 月，公司被正式列入实体清单，先进制程代工通道彻底关闭。两次打击之间，联合创始人先后离职，团队经历了极短时间内的产线切换与产品迭代，研发节奏被迫中断，新一代芯片开发一度搁浅。

这段经历揭示了国产大芯片最脆弱的一环：设计能力可以追赶，但流片通道、HBM 供应和先进封装一旦被切断，纸面性能再高也无法变成产品。

曲折后的重生：从参数竞赛到商业闭环​

转机出现在 2024 年之后。随着国内云厂商将算力预算硬性切给国产芯片，壁仞完成了向系统级方案的转型：2025 年 8 月双芯配置的 BR166 量产并成为收入主力；软件端通过 BIRENSUPA 平台实现 CUDA 兼容与大模型优化；2025 年世界人工智能大会上，又联合伙伴推出智算一体机与基于光互连交换的超节点方案。

财务数据也随之反转：2024 年公司营收仅 3.37 亿元，2025 年达 10.35 亿元，同比增长 207%，毛利率改善至 53.8%。2026 年 1 月 2 日，壁仞在港交所上市，成为"港股 GPU 第一股"，首日收涨约 76%；2026 年上半年预计收入 11.5 亿至 13 亿元，同比暴增约二十倍，亏损收窄约八成。

小结：纪录易破，交付难成​

BR100 的故事给行业留下三条启示：其一，芯片公司在地缘政治面前的抗风险能力，与技术领先性同等重要；其二，规格竞赛不等于商业成功，量产交付、软件生态与客户结构才是护城河；其三，国产替代的真实需求是"稳定可得"而非"极限参数"，这正是壁仞完成转型的市场逻辑。纪录可以被刷新，但只有走完从流片到集群交付的全流程，一颗 GPU 才算真正成立。

英伟达的GPU是"通用答案"，而云巨头们心里都藏着一个念头：为自家工作负载量身定做一颗芯片，长期成本更低、能效更高。承接这个念头的，是两家设计服务巨头——博通与Marvell。它们不站聚光灯下，却决定着每一颗定制AI芯片的诞生。

双寡头格局：一份不对称的订单版图​

据多家行业机构测算，博通与Marvell合计占据定制AI ASIC设计服务市场六成以上份额，其中博通一家独占约55%至60%，Marvell约占15%至20%。第三方机构Counterpoint Research预计，到2027年博通仍将以约60%的份额领跑AI服务器计算ASIC设计合作伙伴市场。

两者的差距主要体现在收入体量上。据公开披露与行业估算，博通2025财年AI相关收入约200亿美元，同比增长65%，2026年预计迈向250亿美元；Marvell同期AI收入约39亿美元，目标超过50亿美元。博通的AI收入大约是Marvell的4到5倍。

维度	博通	Marvell
AI ASIC市场份额	约60%	约15%至20%
2025财年AI收入	约200亿美元	约39亿美元
核心客户	谷歌、Meta、OpenAI、字节	亚马逊、微软、谷歌
标志项目	谷歌TPU全系、OpenAI十吉瓦	Trainium、Maia 2026量产
收入目标	2026年约250亿美元	2028年70至80亿美元

博通：深度绑定式的碾压​

博通的霸权建立在与谷歌长达十年的深度绑定之上：从第一代TPU开始，博通全程参与设计与制造，双方合作已推进至3纳米工艺的第六代TPU。据公开报道，2023年谷歌在TPU相关合作上向博通支付约35亿美元，2024年翻倍至约70亿美元，第七代TPU的供应合同也已提前锁定。除谷歌外，Meta的MTIA、字节的自研芯片均出自博通之手；2025年博通更与OpenAI启动了10吉瓦级定制加速器项目，整套系统依托博通的以太网方案扩展集群。

博通的护城河不止于设计能力：业界最全的高速SerDes IP、HBM控制器IP与先进封装经验，构成定制芯片的"标准零件库"；"定制加速器加高速互连"的组合拳让客户难以拆分采购。这种模式不承担库存风险、不赌制程迭代，是典型的卖铲子生意。

Marvell：差异化补位的追赶者​

Marvell的策略是不与博通正面硬刚，走差异化路线。它给亚马逊量产Trainium训练芯片（据行业报道占AWS自研ASIC出货量的绝大部分），拿下微软Maia芯片2026年的量产订单，同时为谷歌代工Axion ARM CPU——与博通的TPU业务形成互补而非对撞。2026财年第一财季，Marvell数据中心收入14.41亿美元，同比增长76%，占总营收76%，几乎全部由AI定制芯片大规模出货驱动。

技术上，Marvell在数据中心互连与光电共封装领域积累深厚，其定制的112G SerDes与Die-to-Die互连技术在能效与互联带宽上形成差异化卖点，公司也据此定下2028年AI收入冲刺70至80亿美元的目标。

研判：双雄之外，第三势力已在敲门​

这场双雄之争并非终局。联发科已切入谷歌第八代TPU的I/O Die设计，预计2026年第四季度开始贡献营收，其管理层公开表示有信心在2026年实现超过10亿美元的数据中心ASIC营收——SerDes技术正是它敲开大门的钥匙。对博通而言，谷歌分散供应商的意愿是最大的长期变量；对Marvell而言，能否把亚马逊、微软之外的第四、第五个大客户装进管道，决定它能否真正缩小与博通的量级差距。ASIC战争的本质是信任战争：云厂商每多押一家设计伙伴，都是在为供应链的议价权与冗余度下注。

2025 年寒武纪交出了营收 64.97 亿元、同比增长超过四倍、上市以来首次年度盈利的成绩单，背后的功臣正是思元 590。作为公司第三代云端训练与推理一体芯片，它既收割了出口管制带来的历史性窗口，也为新一代旗舰思元 690 铺平了道路。

规格速览：7nm Chiplet 的诚意之作​

思元 590 采用全新 MLUarch05 架构与 7nm Chiplet 封装技术，核心规格综合官方披露与公开报道整理如下：

参数	思元 590	思元 690（新一代，对照）
制程	7nm，Chiplet 封装	更先进制程，双 die 设计
FP16 算力	256 TFLOPS（部分来源标注 345 TFLOPS）	700 TFLOPS 以上
INT8 算力	512 TOPS	未完整公开
显存	96GB HBM2e（另有 80GB 版本报道）	196GB HBM3
显存带宽	约 2 TB/s	约 3.35 TB/s
标称功耗	350W	400 至 500W
状态	2026 年全场景规模出货	2026 年量产

能效比方面，公开资料显示思元 590 达到约 5 TOPS/W；其实测训练性能约为英伟达 A100 的八成水平，且功耗更低。

三年长跑：从送样到放量​

思元 590 的商业化时间线值得细看。2022 年 9 月世界人工智能大会上，董事长陈天石首次披露这款芯片的研发信息；2023 年，百度成为首批尝鲜者并完成内部测试；2024 年芯片问世并通过互联网大客户测试；2025 年起批量进入字节跳动、百度等公司的智算集群，切入大模型推理与训练供应链；2026 年初实现全场景规模出货。

这条路径的关键转折是 2025 年：在英伟达高端芯片对华供应持续受限的背景下，互联网大厂将算力预算切给国产供应商，寒武纪凭借第三方中立的厂商身份与相对完善的软件栈成为最大受益者之一。公开数据显示其 2025 年出货约 11.6 万颗，同比增长约三倍半，字节跳动一度成为占比超过四分之一的第一大客户。其间也出现过波折，2025 年 12 月寒武纪官方否认了"将推出约 50 万张含思元 590 加速卡"的市场传闻，提醒投资者以公告为准。

与思元 690：两代人的分工​

需要强调的是，思元 590 与思元 690 是两代产品，规格不可混为一谈。590 是 2025 年的营收主力，7nm 制程、HBM2e 显存、350W 功耗，定位于大规模推理与中等规模训练；690 则是 2026 年 7 月正式亮相的新旗舰，采用更先进制程与双 die Chiplet 设计，FP16 算力跃升至 700 TFLOPS 以上，显存升级到 196GB HBM3，带宽约 3.35 TB/s，对标的性能目标直指更高世代的国际旗舰。软件层面，两代产品共享 NeuWare 全栈与 MLU-Link 互联体系，客户从 590 迁移到 690 的成本相对可控。

小结：一代产品改变一家公司的命运​

思元 590 的意义超越了规格表本身：它证明了国产云端训练芯片可以在真实大客户的大模型负载中规模化商用，也让寒武纪从"八年亏损王"变成盈利标的。对于计划建设国产智算集群的团队，590 仍是当前供应稳定、生态验证充分的选择，而追求更高算力密度的用户则可以关注已经量产的思元 690。承前启后，正是这一代芯片最好的注脚。

当整个行业还在围绕 GPU 的 HBM 容量与机柜规模做文章时，Cerebras Systems 走了一条从根上不同的路：把整片晶圆做成一颗"芯片"。这家公司宣称其晶圆级引擎比 GPU 快 30 倍，并与 OpenAI 签署了一份高达 100 亿美元的电力协议（有效期至 2028 年）。在分析师将 Cerebras 与 AMD 并列为"未来十年可能跑赢 NVIDIA"的两家公司的当下，替代架构赛道正在从概念验证走向商业兑现。

晶圆级架构：从站内卡看 WSE-3 的底子​

根据站内 Cerebras WSE-3 芯片卡，晶圆级引擎的硬件基础如下：

项目	WSE-3（CS-3 系统）
发布	2024 年 3 月
制程	TSMC 5nm
晶体管数	4 万亿
核心数	900,000
片上 SRAM	44 GB
FP16 稀疏算力	125 PFLOPS
TDP（系统）	15 kW
形式	CS-3 整机系统（液冷）

作为对比，一颗常规旗舰 GPU 的晶体管数量在千亿级——WSE-3 的 4 万亿晶体管相当于数十颗 GPU 被熔铸在同一片晶圆上。900,000 个核心之间通过片上网络直连，配合 Weight Streaming 技术，从架构上消除了大模型训练的两大痛点：内存墙与通信开销。传统集群训练中，跨芯片的梯度同步消耗大量时间；而在晶圆级引擎上，这些"通信"变成了片上走线。

为什么晶圆级能做到快 30 倍​

晶圆级架构的原理优势集中在两点：

第一，无 reticle 限制。 传统芯片的尺寸受光刻机 reticle（曝光区域）约束，单 die 面积存在物理上限，算力扩展只能靠多芯片组网。Cerebras 通过晶圆拼接技术在整片 300mm 晶圆上制造出统一的计算平面，绕开了这个物理天花板。

第二，内存贴近计算。 44GB 片上 SRAM 与计算核心同晶圆集成，SRAM 延迟是纳秒级，带宽远超 HBM。对照行业趋势——NVIDIA 收购 Groq 后主推 SRAM-only LPU、d-Matrix 主推数字 SRAM 推理芯片——"内存贴近计算"正在成为推理架构的共同信仰，而 Cerebras 在这条路上已经走了三代。

代价同样清晰：散热与良率。15 kW 液冷整机只是单系统功耗；晶圆上任何一个缺陷区域都必须被冗余设计屏蔽，良率管理难度远超常规 die。这也解释了为什么晶圆级引擎至今仍是高投入机构的选择，而非大众市场商品。

100 亿美元电力协议：新的合作计量单位​

Cerebras 与 OpenAI 的协议核心不是芯片采购，而是电力——至 2028 年提供 100 亿美元规模的电力保障。AI 算力产业的稀缺资源排序已经悄然变化：芯片可以加急生产，数据中心可以快速搭建，但电网接入与发电能力是按年计的硬约束。"电力协议"正在取代"芯片订单"成为巨头间合作的计量单位，这与近期 Anthropic、OpenAI 动辄以吉瓦（GW）为单位锁定算力的趋势一脉相承。

配套动作同样值得注意：Cerebras 与 AMD 合作降低成本，借力 AMD 的封装与系统生态摊薄晶圆级方案的高昂制造成本。而 2026 年 10 月 2 日，Cerebras 又演示了解耦（disaggregated）芯片架构，实现推理吞吐 5 倍增益——将计算与内存功能在系统层面分离编排，为晶圆级架构打开了推理场景的新增长空间。

替代架构赛道全景：融资密度陡增​

Cerebras 不是孤军。2026 年以来，GPU 之外的架构创新密集获得资本加持：

公司	架构方向	融资/合作动态
Volantis	光子推理系统	8,800 万美元 A 轮
CScale	加速器光互连	1.45 亿美元 C 轮
Efficient Computer	数据流架构	9,700 万美元 B 轮，估值 6.5 亿美元
Q/C Technologies	纳米光子 OPU	与 Sandia 国家实验室合作
Cerebras	晶圆级引擎	OpenAI 100 亿美元电力协议

其中光计算路线尤其活跃。Volantis 的光子推理系统采用类 Face ID 的垂直腔面发射激光器（VCSEL）连接 AI 芯片与内存，用光替代电信号突破互连带宽瓶颈；Q/C Technologies 与 Sandia 国家实验室的纳米光子 OPU 则把光学计算单元推向更深的技术腹地。光互连解决的是"数据搬运"这个所有非 GPU 架构的公共瓶颈——当计算本身已经足够快，通信才是真正的墙。

GPU 之外的第三条路：先在推理落地​

训练市场的替代架构尝试屡屡受挫，但推理市场正在成为新架构的温床，原因有三：

1. 成本敏感。LLM serving 的成本结构决定了每 token 推理成本的微小改善会被海量请求放大为巨大商业价值，架构创新有了明确的回报标尺。
2. 架构可固化。训练需要灵活支持不断演进的模型结构，而推理负载相对稳定，SRAM 密集、流水线化的专用架构可以"固化"模型结构换取极致效率——这正是 LPU、数据流架构的共同打法。
3. 无生态包袱。推理可以通过 OpenAI 兼容 API 层屏蔽底层差异，绕开 CUDA 的护城河；训练则深度依赖框架与算子生态，迁移成本极高。

分析师将 Cerebras 与 AMD 并列为未来十年可能跑赢 NVIDIA 的两家，逻辑正在于此：AMD 靠性价比与开放生态蚕食存量市场，Cerebras 靠架构范式在增量市场（极致推理速度）开疆拓土。

小结​

Cerebras 的 30 倍速度宣称与 100 亿美元电力协议，共同标记了 AI 算力竞争的第二曲线：当 GPU 路线的边际改善趋缓，晶圆级、光计算、数据流架构正在从实验室走向商业化。晶圆级架构用"无 reticle 限制 + 内存贴近计算"换取极致速度，代价是散热与良率的持续攻坚；"电力协议"则揭示算力竞争的底层已是能源竞争。对行业而言，最现实的判断是：GPU 之外的第三条路会先在推理场景落地——那里成本敏感、负载稳定、生态门槛最低，也是 Cerebras、Volantis、Efficient Computer 们共同的战场。