跳到主要内容

21 篇博文 含有标签「国产算力」

国产AI算力芯片发展动态

查看所有标签

阿里磐久 AL128 超节点:平头哥真武 M890 撑起的 128 卡统一算力域

· 阅读需 3 分钟
Industry Research Team

中信建投 10 月 21 日研报把阿里磐久 AL128/AL64/AL144 列入国内外超节点第一梯队——与英伟达 NVL 系、华为 Atlas 950/960 并列。阿里的自研算力版图,终于从芯片延伸到了整机柜。

一、产品矩阵​

型号规模要点
磐久 AL128单柜 128 卡真武 M890 + ICN Switch 互联芯片
磐久 AL144单柜 144 卡对标业界最高密度档位
磐久 AL64单柜 64 卡中小规模训推

超节点的核心卖点与大同行一致:扩大 ScaleUp 互联域、统一内存编址、提升柜内互联效率——把高频 All-to-All 通信留在柜内完成,突破传统八卡服务器跨节点通信的瓶颈。

二、自研闭环的完成​

磐久超节点的意义在于阿里算力栈的完整度:

  • 芯片层:平头哥真武(Zhenwu)M890 计算芯片
  • 互联层:自研 ICN Switch 交换芯片
  • 整机层:磐久系列整机柜(液冷/供电一体化)
  • 模型层:Qwen 系列自用需求托底
  • 云层:阿里云对外分发

这五层与谷歌「TPU + 云」的纵向一体化同构——庞大自用需求托底,是自研算力能持续迭代的前提。

三、2026:国产超节点元年​

研报判断:随着头部云厂商与行业客户开始部署,2026 年是国产超节点放量元年,渗透率进入快速提升通道。受益链条依次为:服务器整机、交换芯片、交换机、连接器,随后是 PCB、液冷、电源、CPU 与国产算力芯片。

各家单柜规模的一览(详见工博会超节点观察):

  • 华为 Atlas 950/960(NPO 光互联、4096 卡扩展)
  • 阿里磐久 AL128/AL144
  • 天数智芯 IXL144(144 GPU/柜,10.1TB 显存)
  • 沐曦曦景 S600(64 卡,三零线缆)
  • 昆仑芯 32/64 卡(率先量产交付)
  • 燧原 ESL64-O(正交架构,与中兴合作)

四、竞争维度的迁移​

国产算力竞争已经从「单卡跑分」全面转向「整机、集群、软硬件一体化的系统能力竞争」。单卡 FP16 数字在这个维度上只是入场券——柜内互联、内存语义统一、机房友好度、软件栈完整度才是决胜项。

延伸阅读:超节点时代的选型框架 · 超节点放量元年解读 · 完整对比表

燧原云燧 ESL64-O:正交零线缆架构的国产超节点样本

· 阅读需 3 分钟
Industry Research Team

工博会 2026「国芯展」上,燧原科技带来的不是单卡,而是云燧 ESL64-O 超节点:与中兴通讯共同开发、依托燧原自研加速模组的正交架构方案。它代表国产超节点的一条独特技术路线——用结构创新换互联效率。

一、产品要点​

项目内容
架构正交架构(orthogonal)
单柜规模64 卡
互联零线缆设计,压缩通信时延
合作与中兴通讯联合开发
扩展支撑万卡级以上集群组网
主打高密集成、散热与信号完整性、可扩展性与运维便利

二、「正交 + 零线缆」解决什么问题​

传统机柜的卡间互联靠铜缆背板/线缆,绕不开三件事:线缆成本、信号衰减、运维复杂度(一柜几十根线,故障排查 nightmare)。正交架构的思路是让计算板卡与交换板卡垂直正交插接:

  • 零线缆:连接器直插,消除线缆采购、布线、标定三大成本
  • 信号完整性:最短物理路径,高频信号的衰减与串扰可控——这是支撑更高单通道速率的物理前提
  • 散热直通:正交风道让气流路径更短,对风冷方案友好
  • 可维护性:模块化插拔,坏一块换一块

这与沐曦曦景 S600 的「三零设计」(参见分析)异曲同工——国产超节点第二代方案的共同语言是「去线缆化」。

三、大厂协作模式​

ESL64-O 的「芯片厂 + 设备商」组合(燧原 + 中兴)值得注意:燧原出加速模组与互联协议,中兴出整机柜工程与电信级可靠性经验。对比华为的全栈自研、天数的自营整柜,这种「分工式超节点」能让创业公司更快达到电信级交付标准——在运营商与政企市场,中兴的渠道与认证体系是现成的加速器。

四、燧原的位次​

在国产超节点第一梯队里(昆仑芯已量产交付、华为 Atlas 全栈、阿里磐久自研闭环、天数 IXL144 高密度、沐曦 S600 部署友好),燧原 ESL64-O 的差异化标签是正交架构 + 电信级合作。叠加壁仞 BR20X 即将流片完成、国产超节点元年的判断,2027 年国产超节点方案将进入「同台比价、比交付」的成熟竞争期。

延伸阅读:超节点放量元年 · 燧原 T21 卡片 · 完整对比表

昆仑芯超节点率先量产交付:百度把「自用练兵」变成了「对外供给」

· 阅读需 3 分钟
Industry Research Team

在 2026 工博会「国芯展」上,各家国产芯片厂商展台的主角都换成了超节点——而百度昆仑芯交出的是最硬的那张牌:32/64 卡超节点已实现量产交付,是国内率先进入量产交付阶段的超节点方案之一。

一、昆仑芯的系统级布局​

层级产品
芯片昆仑芯 P800(3 代,卡片)
超节点32/64 卡超节点(已量产交付)
集群天池 256 / 天池 512,已实现全自研三万卡集群
交付状态供不应求(受晶圆代工产能约束)

「率先量产」的关键不在卡数多少,而在工程完成度:从演示、客户测试到可复制交付,中间隔着整机柜液冷、供电、互联稳定性与批量运维的一整套功课。

二、与同行的时间表对照​

厂商超节点方案状态(2026-10)
昆仑芯32/64 卡量产交付
华为Atlas 950 / 960950 规模供货推迟至年底或明年初;960 规划 2027 Q2
天数智芯IXL144(144 卡/柜)工博会首展
沐曦曦景 S600(64 卡)WAIC 首发、工博会展示
燧原ESL64-O(正交)展示
阿里磐久 AL128/AL144发布

三、昆仑芯路径的独特性​

与华为「全栈自研 + 超节点系统售卖」、创业公司「单卡突围再上系统」不同,百度昆仑芯走的是互联网大厂自用转外供路线:搜索、文心一言的内部负载提供持续练兵场,量产交付的产能优先满足自家智能云,再逐步对外。

这条路的上限取决于两点:自用需求的规模(能否撑过代际迭代),以及对外分发的渠道(百度智能云的市占)。与谷歌 TPU 的对比可以参考这篇分析——差距不在芯片而在商业化半径。

四、对采购者的提示​

超节点选型已经从「看参数」进入「看交付」阶段:已量产交付的方案意味着有真实运维数据、故障率与升级路径可考。问供应商「已交付多少柜、运行多久、利用率多少」,比问峰值算力有用得多。

延伸阅读:超节点放量元年 · 昆仑芯 P800 卡片 · 完整对比表

沐曦曦云 C600 量产交付 + 曦景 S600 超节点:国产 GPGPU 的双线并进

· 阅读需 3 分钟
Industry Research Team

2026 年 10 月,沐曦同时交出两张答卷:芯片侧,旗舰 曦云 C600 正式进入量产交付;系统侧,曦景 S600 超节点(WAIC 2026 首发)在工博会继续展示。国产 GPGPU 厂商第一次在同一家公司里同时跑通「单卡」与「整机柜」两条产品线。

一、曦云 C600:量产交付​

曦云 C600 的核心规格:

项目参数
架构自研 XCORE 1.5
制程7nm 国产工艺(口径分歧已在卡内标注)
FP8 算力1000 TFLOPS(对标 H100 的 989)
显存144GB HBM3e,3.6 TB/s
供应链全国产
生态MXMACA 软件栈,vLLM/SGLang 已深度适配

生态动作密集:Day 0 适配阶跃星辰 Step 5 Preview、面壁 MiniCPM-V 4.7、上海 AI 实验室「书生·明决」、Qwen-Image-2.1,并与 FlagOS 联办推理吞吐挑战赛。对国产芯片,Day 0 适配能力是软件栈成熟的最佳 proxy——新模型发布当天就能跑,意味着框架适配从「追赶」进入「同步」。

二、曦景 S600:64 卡锚点的取舍​

S600 超节点的技术选择值得细看:

  • 单柜 64 卡全互连:沐曦明确表示 64 卡锚点对应「未来 3-4 年模型尺寸与训推需求的主流规格」——不做盲目堆卡数
  • OEX 正交无背板架构:计算节点与交换节点 0 线缆直连,「三零设计」(计算节点零线缆、交换节点零线缆、柜间零线缆)直接压缩部署与运维成本
  • 多维并行:支持 EP、TP 等策略,集群横向扩展至万卡级

对比同场展出的天数 IXL144(144 卡/柜),S600 选择的是「低密度 + 极致部署友好」路线——两种路线没有绝对优劣,取决于客户的机房条件与目标负载。

三、资本市场与产能​

沐曦已冲刺科创板(两轮问询回复完成),2025 上半年营收 3.2 亿元、在手订单 14.3 亿元;融资客 10 月对沐曦股份的净买入居科创板前列。产能是接下来的主要约束——C600 的量产爬坡与 S600 的整机柜交付都吃先进封装与代工产能。

四、样本意义​

沐曦是目前唯一同时公开量产单卡与整机柜超节点规格的国产 GPGPU 厂商。它的双线节奏(C600 单卡 2025-10 发布 → 2026-05 量产 → 10 月交付;S600 系统同步)给同行提供了一个可参照的时间表:单卡量产与系统化产品之间的间隔,正在缩短到 12 个月以内。

延伸阅读:昆仑芯超节点量产 · 超节点放量元年 · 完整对比表

2026:国产超节点放量元年——中信建投研报的产业链拆解

· 阅读需 3 分钟
Industry Research Team

中信建投 10 月 21 日研报给国产超节点下了一个明确判断:行业已由方案验证正式进入规模化交付阶段,2026 年是放量元年。这份研报的价值在于把「超节点为什么赢」讲清楚了——不是营销概念,是六个维度的工程优势。

一、超节点 vs 传统集群:六个维度​

维度传统八卡服务器集群超节点
算力利用率跨节点通信损耗大,闲置率偏高柜内完成高频通信,利用率显著提升
互联带宽受网卡/交换机瓶颈柜内高带宽 P2P,统一内存编址
吞吐与时延All-to-All 跨节点、微秒级以上单跳 ~100 纳秒级(如 IXL144)
MoE 适配专家并行通信是灾难专家权重/激活留在柜内
单卡有效吞吐名义算力打折严重接近名义值
扩展方式加机器、重调优柜内 Scale-up + 柜间 Scale-out

一句话总结:超节点用系统工程能力,把大模型训练推理中最贵的「跨节点通信」尽可能消灭在柜内。

二、演进路线对照​

  • 英伟达:GB200/GB300 NVL72 → Vera Rubin NVL144 → NVL288 → NVL576,更大的 NVLink 域、正交背板、柜间光互联
  • 华为:Atlas 950 / 960 SuperPoD,业界首个 NPO 光引擎超节点,单节点 4096 卡
  • 国产梯队:阿里磐久 AL128/AL144、天数 IXL144、昆仑芯 32/64 卡(率先量产)、沐曦曦景 S600、燧原 ESL64-O

三、产业链受益顺序​

研报给出的受益传导链(按先后):

  1. 服务器整机、交换芯片、交换机、连接器——超节点渗透率提升的第一波
  2. PCB、液冷、电源、CPU——随整机柜形态放量
  3. 国产算力芯片——系统级需求带动芯片采购

这与「机柜即产品」的判断一致:竞争单位放大后,瓶颈与利润沿供应链逐环节扩散。

四、需求侧的两个数据锚点​

  • IDC:2026 年中国智能算力规模预计 2576.5 EFLOPS,同比增长 87.9%(智能体拉陡需求曲线)
  • 工信部:截至 2026 年 6 月底全国智能算力 2185 EFLOPS,算力设施整体上架率 71.4%

上架率 71.4% 意味着存量机房还有约三成余量——这正是天数 IXL144 主打「适配现有机房」、华为 Atlas 860 主打「风冷、无需液冷改造」的市场基础:超节点的下一个战场是部署友好度。

延伸阅读:阿里磐久 AL128 · 昆仑芯超节点量产 · 超节点选型框架

徐直军确认:昇腾中国份额已超英伟达,950DT 规模供货推迟至年底或明年初

· 阅读需 4 分钟
Industry Research Team

10 月 6 日,华为全联接(HC)大会期间,轮值董事长徐直军与海思首席科学家廖恒面对记者给出两个重磅判断:其一,按华为可统计口径,昇腾在中国市场的份额已经超过英伟达;其二,昇腾当前的主要约束不再是需求,而是供给——「现在能产多少就供多少」。

950 系列供货时间线(官方口径)​

型号状态官方口径
昇腾 950PR2026 Q1 发布并上市面向推理(Prefill)场景,徐直军称「上市量不算大」
昇腾 950DT测试中超节点(训练用)规模供货 2026 年底或 2027 年初

与 8 月「华为云上线」的节奏相比,这次口径把物理超节点形态的规模供货明确放到了 2026 年底至 2027 年初。徐直军同时给出一个重要信号:与各模型厂商的联合测试「训练表现非常不错」,预计 2027 年起大量模型训练将构筑在 950DT 超节点上——如果兑现,2027 年将是国产算力首次承担前沿模型训练主负载的年份。

份额判断的证据边界​

「昇腾份额超英伟达」这个说法需要谨慎引用:徐直军自己承认中国市场统计英伟达份额很难,结论来自「华为能够统计到的数据」,华为未公布支撑该判断的出货或营收数字。第三方可引用的旁证包括路透社 9 月的报道与 IDC 2026 上半年中国 AI 服务器份额数据(英伟达 34%、华为 28%),以及出口管制后英伟达「中国数据中心收入不再纳入展望」的财报事实。合理的表述是:在高端 AI 加速卡的可获得性维度,昇腾已事实性成为中国市场主力供给。

三条供给约束​

徐直军「能产多少供多少」的背后,是三层产能天花板:

  1. 先进制程晶圆产能:余承东同日确认国内先进产能跟不上需求——昇腾芯片与 Mate90 系列的逻辑堆叠硅片共享同一产能池,手机与 AI 加速卡在抢同一批晶圆。
  2. HBM 内存:摩根士丹利最新报告认为 DRAM 短缺将贯穿整个 AI 周期,连 NVIDIA 都被迫在 Rubin 平台上做减配(机架 LPDDR5 从规划的 54TB 砍到 28TB),昇腾的供应链同样躲不开挤压。
  3. 互联部件:NPO 光引擎等新部件在国内供应链的量产成熟度仍需时间。

Peerium 架构:用系统换制程​

同一场合,华为首次系统阐述了 Peerium 计算架构与灵衢(UnifiedBus)总线:让 CPU、NPU、内存与存储在统一协议下组成一台「逻辑计算机」,目标支持百万颗处理器规模。徐直军不回避制程差距——单芯片性能受国内制造限制,但多芯片互连与系统架构是华为自己的路线。华为正在部署和测试 25.6 万张卡规模的 Atlas 950 SuperPoD。

这与 NVIDIA 的路线形成鲜明对照:Rubin 用最新制程堆单卡性能,昇腾用架构补制程差。两条路线孰优,2027 年 950DT 超节点上跑出来的前沿模型训练成绩会给出第一个可验证的答案。

相关阅读​

壁仞 BR20X 成功点亮:国产 GPU 四小龙进入量产竞速下半场

· 阅读需 4 分钟
Industry Research Team

10 月 8 日,壁仞科技官方披露:新一代 AI 芯片 BR20X 成功点亮并完成启动测试,正式进入流片后验证阶段,研发进度快于此前预期。同步公布的还有一笔 40.40 亿港元的配售募资——70% 直接投向新一代产品的供应链采购与产能准备。

BR20X:官方口径与边界​

壁仞此次披露的信息边界很清晰:

项目官方口径
架构自研指令集、自研计算核心 + Chiplet 架构
数据格式重点增强 FP8、FP4 原生支持
互联自研 BLink 2.0,规划最高 1,024 卡 Scale-up 集群
状态2026-10-08 点亮,流片后验证阶段
下一步未来数个季度启动送样及量产(待验证认证)

注意两个边界:点亮不等于性能验证完成,更不等于量产良率确认;壁仞尚未公布任何算力、显存或功耗参数,任何具体性能对比都属推测。

40 亿港元募资投向量产​

配售计划:以每股 31.08 港元配售 1.3 亿股新 H 股,募资总额约 40.40 亿港元(净额约 40.20 亿)。其中约 70% 用于新一代产品供应链采购、产能准备及商业化落地,其余用于研发、软件生态升级与营运资金(配售尚需审批)。

这个资金投向透露了行业逻辑的变化:壁仞在公告里明确说,客户需求正「从单颗 GPU 转向集成互连、网络、存储和冷却系统的超节点及机架级算力方案」。国产 GPU 厂商的资本开支已经从「流片钱」转向「产能钱」——先进封装、HBM 采购、整机柜交付能力的投入,比流片本身更烧钱。

四小龙的下一代时间表​

把壁仞放回国产 GPU 第一梯队的坐标系(各家披露口径):

厂商下一代产品关键节点重点方向
壁仞BR20X已点亮,未来数季度送样量产FP8/FP4 原生,BLink 2.0 千卡 Scale-up
沐曦曦云 C7002026 下半年流片、2027 下半年量产新增 FP4,万卡互连
摩尔线程华山(AI)/ 庐山(图形)2026 年内量产 / 上市第五代花港架构
燧原第五代云端 AI 芯片2027 年发布FP4、跨模态生成

时间表高度收敛:2026 下半年流片或点亮,2027 年量产。2026 年的市场仍由现有量产型号(昇腾 910C、思元690、MTT S5000、曦云 C600)承载,2027 年才是新一代国产高端 GPU 真正可评估的年份。

同周的佐证:工博会上的超节点转向​

10 月 12 日开幕的上海工博会首设「国芯展」,几乎所有主流 AI 芯片企业都把展示重心从单卡换成超节点:天数智芯展出天垓300 IXL144(单机柜 144 颗 GPU)、沐曦展出曦景 S600(单机柜 64 卡全互连)、燧原与中兴合作展出云燧 ESL64-O。壁仞 BLink 2.0 规划的 1,024 卡 Scale-up,瞄准的正是同一个市场。

对采购方的建议是:2026 年内的国产卡选型仍以「现有量产型号 + 超节点方案」为准;BR20X 等新一代产品在官方公布实测数据与量产良率之前,只做技术跟踪、不做采购承诺。

相关阅读​

工博会国芯展观察:超节点取代单卡,成为国产算力的展示主场

· 阅读需 4 分钟
Industry Research Team

10 月 12 日,第二十六届中国国际工业博览会在上海开幕,首次独立设置集成电路展(国芯展),300 余家芯片企业参展。逛完展区最直观的感受是:几乎所有主流 AI 芯片企业都把展示重心从芯片、加速卡转移到了「超节点」——外形像发光衣柜的机柜级系统,正在成为 AI 时代的水电煤。

需求侧:算力增速 87.9% 的背景板​

IDC 报告给出了超节点热度的注脚:2026 年中国智能算力规模预计达 2,576.5 EFLOPS,同比增长 87.9%。随着大模型与智能体(Agent)加速投入生产,推理算力接替训练成为新增长极,而推理对「多卡协同效率」的敏感度远高于单卡峰值算力——这正是超节点的用武之地。

展会上的超节点图谱​

厂商方案关键规格(公司口径)
天数智芯天垓300 IXL144单机柜 144 颗 GPU + 18 颗 CPU,约 10.1TB 显存,业界最高密度单机柜 GPU 超节点
沐曦曦景 S600单机柜 64 卡全互连,支持横向扩展至万卡规模
燧原云燧 ESL64-O(与中兴通讯合作)正交架构、高密集成、零线缆设计,支撑万卡级以上集群组网
东方算芯慧算 HS256双机柜 8 台液冷服务器,单超节点 33 PFLOPS(FP16),年底交付千卡级集群

天垓300 IXL144 的思路值得单独说:它跳出单一芯片性能比拼,采用适配行业通用标准的单机柜形态,在现有机房条件下即可部署,支持一次规划、弹性分步扩容。天数智芯测算每百万有效 Token 成本较国际主流方案下降约 40%(公司口径,无第三方验证)。天垓系列已实现万卡级商业部署,覆盖 30 余个行业、380 余家客户。

沐曦还有个奖项之外的产品线值得记录:曦索 X302 科学智能 GPU 获 2026 国芯展创新成果奖,搭载 MetaXLink 支持 128 卡超节点低时延组网,面向气象海洋、流体力学、分子动力学等 AI4S 场景——国产 GPU 正在把「科学计算」作为差异化战场。

超节点不是造个机柜​

工博会现场传递的工程现实是:超节点是系统工程,比拼的是系统经济效能——互连时延、故障自愈、CheckPoint 秒级保存、异构混训、算电协同。研报口径下,传统 8 卡服务器集群 MFU 约 30%,而 4,096 卡超节点集群的 MFU 可提升 2.75 倍。MFU(模型算力利用率)每提高一个百分点,等于同样的电费多产出一份 Token——这才是超节点竞赛的本质。

采购视角的两个提醒​

  1. 「单机柜 144 卡」的可比性:不同厂商的卡性能、互连带宽、显存容量差异巨大,比较超节点要看整机柜的 FP8/FP4 总算力、总显存与互连拓扑,不能只数卡数。
  2. 公司口径与实测口径:本表规格均来自各公司发布口径,采购评估应要求 PoC 实测 MFU 与单位 Token 成本。

相关阅读​

推理接棒训练:从 Token 消耗曲线看 2027 年算力结构变化

· 阅读需 4 分钟
Industry Research Team

长江商报援引寒武纪中报的表述是:中国互联网大厂的 Token 日消耗正呈指数级增长,推理算力已接替训练成为新增长极。这不是一句口号——它正在改写芯片厂商的产品定义(训练/推理拆分)、云厂商的自研路线(全部推理优先)与采购方的成本模型。

需求侧:三组数字​

  • IDC:2026 年中国智能算力规模预计 2,576.5 EFLOPS,同比增长 87.9%——增量主要来自推理
  • Agent 效应:智能体任务的特点是多步骤、长上下文、持续运行,单次任务的 Token 消耗是传统问答的数十倍,且对延迟敏感
  • 平台侧:商汤大装置披露日均 Token 服务量已达 2.42 万亿(公司口径),并规划异构 Token 工厂

推理负载的经济学特征与训练完全不同:训练追求峰值算力利用率,推理追求单位 Token 成本与延迟的平衡。这解释了为什么 2026 年 10 月的三场重磅发布全部是推理优先:Maia 300(长上下文/智能体)、GPU D 系列(decode 阶段 Token 成本)、TPU 8i(推理专用拆分)。

供给侧:产品定义随需求改变​

厂商推理侧动作信号
NVIDIARubin 平台引入 Groq 3 LPU(GTC 2026-03 官宣)做低延迟解码首次在自家平台引入第三方推理芯片
Googlev8 首次拆分出推理专用 8i训练/推理产品线分家
微软Maia 300 定位「主要推理系统」,2027 数吉瓦部署自研芯片从辅助转为主力
IntelGPU D 系列专攻 decode Token 成本放弃 HBM 军备竞赛
华为950PR(Prefill)/ 950DT(Decode+训练)双版本场景细分设计
MetaMTIA 承接全部推荐与 Llama 推理,训练仍外购「训练买、推理自建」分工定型

行业分工已经清晰:训练买 NVIDIA(偶尔 AMD),推理自研或国产。这个分工在 2027 年只会加深。

价格信号:两套体系加速分化​

中国市场与国际市场的算力价格已经事实性分轨(口径:可复核成交数据,非渠道报价,引自行业媒体 2026-10 汇总):

  • 国内成交口径:B300 八卡整机约 1,880 万元、H200(2T 版)约 670 万元;租赁价格 B300 超 40 万元/月、H200 超 14.5 万元/月
  • 海外合规口径:B300 八卡整机 400-800 万元(不含中国、不含税)
  • 租赁性价比:SemiAnalysis 口径 MI355X 大客户批量租用约 1.50 美元/GPU 时、零售 2.90 美元

注意两个边界:上述国内数字是「成交价非报价」,且不含灰市与转口裸机口径;跨体系直接换算比较没有意义,因为供给条件(管制、保修、软件服务)完全不同。

对 2027 年采购决策的三点推论​

  1. 推理容量规划要按 Agent 负载重估:多步骤智能体让单用户 Token 消耗放大一个数量级,按历史对话流量外推容量会系统性低估。建议按「日活 × 任务数 × 每任务 Token」建模,并预留 2-3 倍余量。
  2. MFU 比峰值算力更值钱:超节点把集群 MFU 从约 30% 提升到 2.75 倍水平(研报口径),意味着同样的电费预算下有效算力翻倍。选型时「实测 MFU × 峰值算力」才是真实算力。
  3. 混合供给成为常态:训练用国际旗舰、推理用国产或自研的分层架构,已经是大厂的标准答案。企业采购可以复制这个分层:核心训练集群保持 CUDA 生态,推理层引入国产卡(思元690、MTT S5000、昇腾 950PR 等)做成本优化。

相关阅读​

超节点时代的选型框架:从数卡到算总账

· 阅读需 4 分钟
Industry Research Team

当供给从「单卡」变成「机柜」,选型方法论必须跟着换。一台 NVL72、一套 Helios、一个 Atlas 950 超节点、一台天垓 IXL144——卡数不同、制程不同、口径不同,直接比参数表必然踩坑。本文给出一套跨厂商可比的评估框架。

为什么单卡参数已经不够用​

研报口径下,传统 8 卡服务器集群的 MFU(模型算力利用率)约 30%,而 4,096 卡超节点集群可将 MFU 提升至约 2.75 倍水平。MFU 的差距不是芯片差距,是互连、拓扑与调度的差距——这正是超节点存在的理由。评估一个超节点方案,本质上评估的是「这台机器跑你的模型时,多少电费变成了有效 Token」。

五个必须对齐的口径​

1. 算力:看整机柜 FP8/FP4 总量与稀疏口径​

各家发布口径混杂:有的给稀疏值、有的给稠密值、有的给 FP4、有的给 FP8。对齐规则:全部折算到稠密 FP8 再比,并记录稀疏倍数。例:Rubin R200 NVFP4 推理 50 PFLOPS(稀疏)、MI455X MXFP4 40.3 PFLOPS(稠密)——直接并列是错误示范。

2. 显存:总容量 + 总带宽 + 单卡容量三个都看​

  • 总容量决定能装的模型规模(Helios 31TB、天垓 IXL144 约 10.1TB、Atlas 950 SuperPoD 256TB 级统一编址)
  • 单卡容量决定模型切分的并行策略自由度
  • 总带宽(如 Helios 1.7 PB/s)决定 KV Cache 搬运效率

3. 互连:区分 scale-up 与 scale-out​

NVL72 的 NVLink5、Helios 的 UALoE、Atlas 950 的灵衢、IXL144 的私有互连属于 scale-up 域——跨机柜后大多退到以太网/RoCE,性能断崖在这里。你的模型并行策略若必须跨柜,就要按 scale-out 口径重新估 MFU。华为灵衢的特殊性在于跨机柜仍维持统一内存编址,这是 Atlas 路线的核心卖点。

4. 功耗与散热:机柜级 kW + 机房现状​

NVL72 约 132-142 kW/柜、Maia 300 机架约 167 kW、Atlas 960 全液冷、天垓 IXL144 主打「现有机房可部署」。如果你的机房没有液冷条件,Atlas 860(风冷超节点,2027 Q2)与天垓 IXL144 这类风冷方案是唯一选项,再高的纸面算力也落不了地。

5. 供货与形态:什么时候能装机、以什么形态​

2026 年 10 月时点的真实状态:NVL72 已规模出货并 Q4 放量;Helios 首批客户运行中、企业批量在 2027;昇腾 950DT 超节点规模供货 2026 年底或 2027 年初;天垓 IXL144 已有万卡级商业部署。「纸面最优但拿不到货」在当前市场是最常见的选型错误。

三个常见误区​

  1. 数卡数比规模:单机柜 144 卡不等于两倍于 72 卡机柜——卡的代际、互连拓扑、总显存都不同。正确做法是比「整机柜稠密 FP8 总算力 / 机柜功耗」这个比值。
  2. 用厂商 Token 成本口径直接比:天垓 IXL144 宣称每百万 Token 成本降 40%、Maia 300 宣称每兆瓦 Token 产出高 40%、Helios 宣称比 NVL72 多 30% Token/美元——三家的基准、模型、测试条件完全不同,只能作为「厂商自证存在优势」的信号,不能横向比。
  3. 忽略软件栈成本:CUDA 之外的每一套栈(ROCm、MXMACA、CANN、MUSA)都有真实的迁移与调优人力成本。TCO 测算时建议把首年迁移成本单列。

一个可执行的总账模板​

单位有效算力成本 = (整机采购价 + 5 年电费 + 迁移人力) / (机柜稠密 FP8 PFLOPS × 实测 MFU × 5 年可用时数)

本站 TCO 计算器 支持 5 年折现口径的完整测算,可输入上述参数直接对比任意两套方案。

相关阅读​