AI Compute Cards Wiki Editorial

千亿参数模型的训练没有银弹。显存不够、通信爆炸、扩展效率衰减，每个瓶颈都有对应的框架答案。看清 DeepSpeed、FSDP、Megatron 各自解决的核心矛盾，比背参数更重要。

三种哲学，三个框架​

三者的架构本质可以概括为一句话：DeepSpeed 是显存扩展优先，Megatron 是计算性能优先，FSDP 是易用性优先。

维度	DeepSpeed	Megatron-LM	PyTorch FSDP
出品方	Microsoft	NVIDIA	PyTorch 官方
核心技术	ZeRO 分片 1/2/3、Offload、Infinity	3D 并行（张量、流水线、数据）	参数全分片、Bucket 化、通信重叠
显存思路	优化器状态、梯度、参数逐级切分，可卸载到 CPU/NVMe	把模型按层切到多卡，换吞吐省显存	类似 ZeRO-3 的原生实现
硬件耦合	广泛，含 CPU、NPU、NVMe	强依赖 NVIDIA GPU 与 NVLink	跟随 PyTorch 后端
接入成本	JSON 配置，代码侵入低	需按规范重构模型	零侵入，包装即用

DeepSpeed 的 ZeRO-1/2/3 把优化器状态、梯度和参数逐级切分到各卡，ZeRO-Offload 与 ZeRO-Infinity 进一步把状态卸载到 CPU 内存甚至 NVMe，用带宽换显存，让有限硬件也能起步大模型训练。Megatron-LM 则是张量并行与交错式流水线调度的标杆实现，在 NVLink 互联的 NVIDIA 集群上能榨出最高的 MFU。FSDP 是 PyTorch 对 ZeRO-3 思想的原生化，2.x 时代又引入 DeviceMesh 与 DTensor，把多维并行表达成一等公民概念。

怎么选：按规模与硬件定​

经验路径大致如下：几十亿参数微调、PyTorch 技术栈、不想改代码，直接 FSDP；显存吃紧、硬件预算有限、或需要在异构环境（含昇腾插件）里跑超大模型，选 DeepSpeed；自建 NVIDIA 大集群、追求 GPT-4 级别吞吐、愿意承担改造成本，上 Megatron。三者并非互斥：Megatron-DeepSpeed 混合方案在 BLOOM、GLM 等经典大模型训练中已被反复验证，用 Megatron 的并行结构叠加 ZeRO 的显存优化；也有团队训练侧用 FSDP、推理侧接 DeepSpeed-Inference 的组合。

工程上的常见坑​

1. ZeRO-3 与某些自定义算子、参数共享结构不兼容，接入前先跑小规模试训验证收敛。
2. 流水线并行对 micro-batch 数量敏感，batch 太小会让流水线气泡吞掉理论收益。
3. FSDP 在千亿级规模的扩展效率弱于 Megatron，别用它的短板打别人的长板。
4. Offload 到 CPU 会拖慢步速，确定显存确实不够再开，并用 profiling 对比开关前后的单步耗时。

实操建议​

上线前用目标模型跑一个 48 小时短程实验，记录单步时间、显存水位与 MFU 三项指标，三个框架横向对比再定。配置上先保守后激进：先用 ZeRO-2 或 FSDP 全分片拿基线，确实不够再切 ZeRO-3 加 Offload。国产硬件团队重点关注 DeepSpeed 生态与昇腾插件的兼容进展，它是对非 NVIDIA 硬件最友好的训练框架，没有之一。

英伟达把 Grace Blackwell 塞进了两个机盒：一个小如 Mac mini，一个像立式工作站。DGX Spark 与 DGX Station 的共同卖点是"在桌面上完成原型，再无缝迁往数据中心"，但两者价格差一个数量级，适用人群并不重叠。

两台机器，两套定位​

DGX Spark 由 GB10 超级芯片驱动：一颗桌面优化的 Grace CPU（20 核 Arm）通过 NVLink-C2C 连接带第五代 Tensor Core 的 Blackwell GPU，128GB CPU 与 GPU 一致性共享的统一内存（LPDDR5X），FP4 算力最高 1 PFLOPS。DGX Station 则搭载 GB300 Desktop 超级芯片：72 核 Grace Neoverse V2 加 Blackwell Ultra GPU，FP4 算力 20 PFLOPS，784GB 一致性内存（288GB HBM3e 加 496GB LPDDR5X），并配 ConnectX-8 800G 网卡支持多机互联。

规格	DGX Spark	DGX Station
芯片	GB10（Grace + Blackwell）	GB300 Desktop（Grace + Blackwell Ultra）
CPU	20 核 Arm Grace	72 核 Grace Neoverse V2
统一内存	128GB LPDDR5X	784GB（288GB HBM3e + 496GB LPDDR5X）
FP4 算力	1 PFLOPS	20 PFLOPS
互联	ConnectX（双机串联）	ConnectX-8，800Gb/s
存储	1TB 至 4TB NVMe	高容量 NVMe
参考价格	据公开报道 2,999 至 3,999 美元	未公布（定位高出数倍）

统一内存是两台机器共同的灵魂：CPU 与 GPU 共享同一块内存池，数据免拷贝。Spark 的 128GB 让 200B 参数模型（4-bit 量化）可以在桌面推理，微调上限约 70B；Station 的 784GB 意味着训练或推理过去需要一整个机架集群才能容纳的模型。另一侧是明确的短板：Spark 内存带宽约 273GB/s（据公开报道），远低于任何数据中心 GPU，decode 速度是它最常被诟病的地方。

谁该买 Spark，谁该买 Station​

DGX Spark 适合：个人研究者与学生——在本地跑通从微调到 Agent 部署的全流程；Agent 开发者——7x24 小时常驻的本地 Agent 运行环境，数据不出门；边缘与机器人开发者——Isaac、Metropolis、Holoscan 框架的原生开发平台；企业 POC 团队——用两台串联跑 405B 量化模型做概念验证，再迁往云端。它的正确预期是"开发与原型"，不是"生产服务"。

DGX Station 适合：需要桌面级保密的实验室——医疗、金融、国防场景下模型与数据全程本地；研究组——784GB 内存可在单机完成 70B 级全参数微调或更大模型的推理；Agent 集群测试——多台 Station 通过 800G ConnectX-8 组成小集群，模拟数据中心分布式行为。它填补的是"一台工作站装不下的模型，又不值得为此租机柜"的缝隙。

场景	Spark	Station
学习 AI 开发、跑开源模型	适合	过剩
200B 量化推理	适合（速度受限）	从容
70B 微调	上限所在	轻松
本地常驻 Agent	适合	适合
多机分布式实验	双机串联上限	800G 组网

软件与迁移路径​

两台机器预装 DGX OS 与完整的 NVIDIA AI 软件栈，包括 NIM 微服务与预训练模型。工作流的正确姿势是：本地原型、验证并行策略与量化方案，然后近乎原样迁移到 DGX Cloud 或数据中心集群——因为从 GB10 到 GB300 共享同一套 Grace Blackwell 软件栈，CUDA 代码与容器不需要重写。这套"从桌面到 AI 工厂"的连续性，才是英伟达做桌面产品的真正意图：培养下一代的开发者，让他们从第一行代码起就活在 NVIDIA 的生态里。

小结​

DGX Spark 是一台"会写代码的 Mac mini"：3,999 美元买到 1 PFLOP 原型机，适合个人与 POC；DGX Station 是"桌面上的小型 AI 工厂"：20 PFLOPS 与 784GB 内存服务保密场景与研究组。共同的前提是想清楚带宽与互联的物理极限——桌面设备的使命是缩短从想法到验证的距离，而不是替代数据中心。

2026 年，国产 AI 芯片行业迎来资本化的集中兑现期：燧原科技登陆科创板、壁仞科技折价配售 H 股、奕行智能完成近 20 亿元融资。从寒武纪到燧原，一条"融资—流片—上市—再投入"的资本飞轮正在成形，而配售折价与估值落差背后，是市场对国产算力的长期信心与短期博弈的交织。

燧原科技上市：科创板 AI 芯片又一个标杆样本​

2026 年 9 月 11 日，燧原科技（688801.SH）正式登陆科创板，首日表现堪称惊艳：

指标	数据
上市日期	2026 年 9 月 11 日
上市板块	科创板（688801.SH）
开盘价	410 元/股
较发行价涨幅	+188.37%
盘中最高价	468 元（较发行价 +229%）
上市当日市值	1764.44 亿元
最大机构赢家	腾讯（浮盈超 300 亿元）

开盘即上涨 188%，盘中一度冲到 468 元的高点，最终以 1764.44 亿元市值收官——这个定价水平说明二级市场愿意为"国产 AI 算力第二梯队龙头"支付相当高的溢价。作为燧原多轮融次的核心投资方，腾讯在这笔长期投资上获得的浮盈超过 300 亿元，也成为产业资本陪跑 AI 芯片公司最成功的案例之一。

从产品侧看，燧原此前已在站点卡片中沉淀了完整的云端训练与推理产品线，此次上市为其后续的大规模流片与集群交付提供了资本弹药。

已上市公司版图：从寒武纪到天数智芯​

燧原并非孤例。目前国产 AI 芯片上市公司已经覆盖了 A 股和港股两个市场：

公司	上市地	代码	定位
寒武纪	A 股科创板	688256.SH	通用智能芯片，云端训练+推理
摩尔线程	A 股科创板	—	全功能 GPU
沐曦	A 股科创板	688802.SH	GPU 计算加速
天数智芯	港股	09903.HK	通用 GPU
燧原科技	A 股科创板	688801.SH	云端训练/推理加速卡

A 股科创板聚集了寒武纪、摩尔线程、沐曦、燧原四家，港股则有天数智芯。这种"A 股为主、港股为辅"的上市结构，反映了两地市场对硬科技资产的定价能力差异：科创板对国产 AI 芯片的估值容忍度明显更高，而港股为部分公司提供了更快的上市通道。

一级市场仍在加速：壁仞配售与奕行智能融资​

资本化不止 IPO 一条路。最近两周还有两个标志性事件：

壁仞科技：折价配售 1.3 亿股新 H 股​

据 2026 年 10 月 8 日 AI 日报披露，壁仞科技拟配售 1.3 亿股新 H 股：

• 配售价：每股 31.08 港元，较当日收盘价折让 9.76%
• 配售代理：中金公司 + 瑞银（UBS）

配售是港股上市科技公司最常见的再融资方式，但接近 10% 的折价幅度值得玩味——它说明即便在国产 AI 芯片热度高企的当下，承销方对短期市场承接力仍有顾虑，需要用价格换确定性。

奕行智能：近 20 亿元新融资，投后估值近 150 亿元​

RISC-V 云端 AI 算力芯片独角兽奕行智能完成近 20 亿元新融资，投后估值接近 150 亿元，投资方阵容包括华泰创新、钟鼎资本和中芯聚源。RISC-V 路线切入云端 AI 算力，意味着国产芯片的指令集架构选择也在多元化。

需求侧的真实支撑：份额从 0 到 41%​

资本故事能讲通的前提是需求真实存在。Counterpoint 数据显示，国产 AI 芯片的市场份额变化是一条陡峭的曲线：

年份	国产 AI 芯片份额
2022 年	≈ 0
2025 年	41%（Counterpoint）

在国产市场中，华为昇腾占据了约 62% 的份额，是绝对的龙头。华为轮值董事长徐直军此前"能产多少供多少"的表态，也从侧面印证了国产算力的供需缺口——这不是营销话术，而是产能爬坡速度追不上需求增长的行业现实。

出口管制持续收紧的背景下，英伟达对华供应受限，国产替代的需求被进一步锁定。这也是二级市场愿意给出高溢价的底层逻辑：份额替代的斜率，决定了这些公司的收入曲线。

分析：估值飞轮、落差修复与配售折价的博弈​

"融资—流片—上市—再投入"的飞轮​

国产 AI 芯片行业的资本化路径已经清晰：

1. 一级市场融资：产业资本（腾讯、中芯聚源）+ 财务资本（钟鼎）+ 政府基金共同注资
2. 流片与产品迭代：资金转化为芯片产品与集群交付能力
3. 上市退出与定价：科创板/港股为早期股东提供退出通道，同时完成公开市场定价
4. 再投入：募集资金用于下一代芯片研发，飞轮进入下一圈

燧原上市让腾讯浮盈超 300 亿元，这种示范效应会反过来刺激更多产业资本投入尚未上市的 AI 芯片公司——奕行智能此轮融资的顺畅程度，某种程度上就受益于这个正反馈。

一级市场估值 vs 二级市场定价的落差与修复​

一级市场和二级市场对 AI 芯片公司的定价逻辑并不相同：一级市场看赛道和团队，估值往往基于融资轮次间的比价；二级市场则要面对真实财报、产能兑现和竞争格局的检验。上市首日 +188% 的涨幅，本质上是一级市场定价与二级市场定价之间落差的集中修复。这种落差修复能持续多久，取决于公司能否把估值转化为持续的营收增长。

配售折价说明的短期博弈​

壁仞 9.76% 的配售折价是另一个信号：即便行业景气度高，大额再融资仍需要向短期资金让利。一级市场火热、二级市场"热中有谨慎"，这种温差正是当前国产 AI 芯片资本化最真实的写照——长期逻辑没有分歧，分歧在于节奏。

小结​

2026 年的国产 AI 芯片资本化呈现三条并行主线：燧原等公司通过 IPO 完成"一级到二级"的价值兑现；壁仞等已上市公司通过配售补充弹药但接受折价博弈；奕行智能等新势力在一级市场继续拿到大额融资。份额从 0 到 41% 的替代曲线是所有故事的共同底层支撑，而华为昇腾 62% 的国产市场统治力则框定了竞争格局。对投资者而言，需要同时关注两个变量：替代斜率的持续性，以及高估值与盈利兑现之间的时间差。飞轮已经转起来，但每一圈对资金消耗和技术迭代的要求都更高。

2026年的国产AI芯片市场出现了一个教科书级的卖方市场特征：客户不问价格、不挑型号，只问一件事——什么时候能到货。据央视财经援引的行业调研，全年需求约400万颗，实际交付约300万颗，百万级缺口把订单周期一路推到三年开外。

满产满销：订单不是问题，产能才是​

多位产业链人士在公开交流中给出的判断高度一致：2026年国产算力芯片全行业满产满销，订单完全不愁，核心变量只剩上游产能与良率。头部互联网大厂与头部芯片公司签订保供框架协议、锁定绝大部分产能的做法，已成为行业标配——先签长约者得产能，后来者排队。

业绩数据佐证了供不应求的成色：2026年上半年，寒武纪营收59.96亿元，同比增长108.1%；摩尔线程营收17.36亿元，同比增长147.4%；壁仞科技营收12.36亿元，同比暴增约20倍。下游智算中心同样如此，有大型智算园区负责人公开表示在手订单已排到三年后，中游集成商的客户数量一年增长10倍，甚至催生了"集装箱式算力中心"——把传统近一年的建设周期压缩到24小时上线。

产业链环节	2026年现状
上游芯片	需求约400万颗，交付约300万颗，缺口百万级
下游智算中心	头部园区订单排至三年后
中游集成	部分厂商客户数量一年增长10倍
备货（寒武纪）	存货82.48亿元，较上年末增长66.8%
备货（摩尔线程）	存货从13.3亿元增至35.5亿元

积压的结构：从晶圆到 HBM 的逐层紧张​

订单积压并非单点瓶颈，而是一条传导链。最前端是先进制程晶圆：国产AI芯片高度依赖国内代工产能与有限的海外先进制程通道，产能分配向头部客户倾斜，行业普遍采用"第一顺位"机制。第二层是HBM与存储：国产HBM供给能力有限，叠加大环境存储涨价周期，先进存储成了最紧的物料之一。第三层是先进封装：CoWoS类2.5D封装产能全球性紧张，国产封装厂扩产需要时间。逐层卡脖子叠加，最终表现为交付周期从数周拉长到数月乃至更长。

厂商的应对是"以存货换交付"：2026年上半年，国产AI芯片公司集体大规模备货，寒武纪存货达82.48亿元，海光信息75.18亿元，天数智芯从7.1亿元猛增至19.68亿元。提前锁料锁产能，本质是用资产负债表为交付承诺背书——在涨价预期下，早买还等于省钱，这笔账算得过来。

价格信号：供给短缺的隐性定价​

短缺正在改写价格体系。据公开调研信息，市场主流国产AI芯片的单卡价格受HBM涨价与产品组合变化影响持续上移，多家厂商上调了收入指引；同时晶圆代工端，台积电确认2027年起上调代工价格3%至6%，三星先进制程涨幅最高达15%，内地代工厂也纷纷提价。成本端的全面上移，最终会传导到算力服务价格——这也是国产算力租赁市场持续走强的底层原因之一。

研判：观察产能爬坡，而非订单数字​

对国产AI芯片行业，2026年的正确观察指标不是订单总额，而是三个爬坡速率：晶圆投片量的季度环比、HBM国产供给的实际到位节奏、以及先进封装的良率学习曲线。只要这三个指标持续向上，百万级缺口就会逐步收敛，收入兑现只是时间问题；反之若某环节卡壳，订单积压将转化为客户流失与替代方案回流。当下的国产芯片产业正处在从"能用到好用"再到"够用管饱"的中场——订单积压是这份成绩单上最耀眼也最脆弱的一栏。

每当 DeepSeek 发布新模型，国产芯片厂商的适配速度就成了软件栈成熟度的公开考试。从 0day 支持到性能调优，各家交出的答卷差异不小。

适配路径：两条技术路线​

国产芯片跑 DeepSeek 目前有两条主流路径。第一条是接入开源推理框架：通过 vLLM、SGLang 的硬件插件机制适配，昇腾的 vllm-ascend、寒武纪的 vLLM-MLU 都走这条路，好处是模型覆盖随上游社区自动扩展。第二条是自研推理栈深度调优：在自己引擎内做算子融合与并行策略定制，性能上限更高但适配周期更长。头部厂商普遍双线并行。

各家进展盘点​

厂商	硬件	适配方式	公开亮点
华为昇腾	Atlas 800I A2 等	vLLM/SGLang 插件	DeepSeek-V3.2-Exp 0day 支持并开源推理代码与算子
寒武纪	MLU 系列	vLLM-MLU 开源引擎	同步适配 V3.2-Exp，主打长序列稀疏 Attention 降本
海光	DCU	DTK 软件栈	宣布无缝适配与深度调优，强调 GPGPU 生态兼容
摩尔线程	MTT S5000	联合硅基流动	DeepSeek-V3 671B 满血版单卡 Prefill 吞吐超 4000 tokens/s，Decode 超 1000 tokens/s

以 2025 年 9 月底 DeepSeek-V3.2-Exp 发布为例：昇腾实现 0day 支持并开源全部推理代码，寒武纪同步完成适配并开源 vLLM-MLU 源码，海光宣布无缝适配加深度调优。三天内的响应速度说明头部厂商的模型结构级适配能力已经工程化、流水线化，不再是运动式攻关。

性能口碑怎么看​

公开数据要分清口径。摩尔线程联合硅基流动公布的 DeepSeek-V3 671B 单卡 Prefill 超 4000 tokens/s、Decode 超 1000 tokens/s，是集群级部署下分摊到单卡的分片吞吐，不能与单卡跑全量模型的场景混比。昇腾路线的优势在于生产案例密度：据社区年度回顾，互联网、银行、运营商等用户已基于 vLLM 加昇腾插件上线 DeepSeek V3.2、Qwen 系列、GLM 系列等十余个模型，覆盖智算平台与 MaaS 形态。寒武纪的叙事重点是把 V3.2 的稀疏 Attention 机制与自家算子结合，压低长序列场景的训推成本。

实操建议​

1. 选型前明确目标模型清单，让厂商在真实负载下跑 POC，重点看连续 72 小时压测的吞吐衰减与故障恢复。
2. 优先选有开源插件、活跃社区与公开性能报告的路线，闭源黑盒调优承诺要打折扣看。
3. 关注稀疏 Attention、FP8 等新模型特性的跟进速度，这比跑老模型快慢更能预示未来半年的体验。
4. 部署形态上多卡分片跑 MoE 大模型是当前主流，网络互联与调度软件的成熟度往往比单卡算力更影响实际效果。

国产化替代最常见的失败模式不是"卡买不到"，而是"代码跑不动、精度对不齐、性能差五倍"。迁移本质是一个软件工程问题，用清单化的方式管理，成功率会高得多。

一、三条生态路线先分清​

昇腾（CANN 加 torch_npu）：生态最完整的国产路线。PyTorch 官方支持度较好，主流模型（LLaMA、Qwen、DeepSeek 系列）的适配案例最多，社区踩坑记录丰富。硬件侧 Atlas 800T A2（8 卡 910B）训练机约 75 万至 200 万元区间，910C 8 卡服务器渠道价约 110 万至 120 万元，推理侧 Atlas 300I Duo 单卡约 2 万至 4 万元。

寒武纪（Neuware）：训练卡 MLU 系列、推理卡加边缘盒子的组合，推理场景渗透率提升明显，国产推理卡渠道价已进入 3 万至 5 万元区间。

海光（DTK，ROCm 系）：DTK 从 ROCm 分支演化，对 CUDA 代码的兼容性是三条路线中相对友好的，GPGPU 架构使通用算子迁移成本较低，适合已有大量自定义 CUDA 算子的团队。

二、六阶段迁移清单​

阶段	工作内容	典型工作量	常见坑
1. 资产盘点	扫描代码中的自定义 CUDA 算子、专有库依赖（NCCL、TensorRT、FlashAttention）	1 至 2 周	低估第三方闭源库依赖
2. 环境搭建	驱动、固件、CANN 或对应 SDK、框架版本对齐	1 至 2 周	版本矩阵组合错误，驱动与 SDK 不匹配
3. 框架适配	安装 torch_npu 或对应插件，跑通开源模型 baseline	2 至 4 周	依赖库里隐藏的 CUDA 专属调用
4. 自定义算子迁移	用等价 API 重写或请求原厂支持	2 至 8 周，取决于算子数量	算子性能回退数倍，需原厂深度调优
5. 精度对齐	FP16 或 BF16 下逐层对比 loss 与输出	1 至 3 周	舍入差异累积导致 loss 曲线发散
6. 性能调优与压测	通信库替换、算子融合、混合精度策略	2 至 6 周	集群线性加速比不达标，多因网络配置

整体而言，一个"标准开源模型加常规训练脚本"的项目迁移到昇腾，顺利情况下约 6 至 10 周；有大量自定义算子和闭源依赖的项目，周期可能拉长到半年，且强依赖原厂驻场支持——签约时务必把驻场支持写进合同。

三、最容易翻车的五个环节​

1. NCCL 依赖。 分布式训练脚本里的 NCCL 调用要替换为昇腾 HCCL 或对应通信库，超参与拓扑配置需要重新调试，多机通信效率是国产集群性能差距的最大来源。

2. 量化推理工具链。 从 TensorRT 到昇腾 MindIE 或各家的量化工具，量化校准数据集和精度评估都要重做，生产环境的精度回归测试不可省略。

3. 生态外围工具。 DeepSpeed、vLLM、Transformer Engine 等常用库在国产平台上的版本支持滞后，很多团队卡在"模型能跑，加速库不兼容"这一步。

4. 运维体系。 现有监控（DCGM 类工具）、故障诊断、驱动升级流程全部要重建，这部分工作量经常被漏算。

5. 人才储备。 国产平台的调优经验集中在原厂和头部客户，招聘有昇腾或寒武纪实战经验的工程师成本高，提前安排团队参加原厂认证培训更实际。

四、结尾建议​

给准备迁移的团队三条建议：第一，先迁推理、后迁训练——推理负载对生态的依赖更浅，Atlas 300I Duo 这类推理卡性价比高，能用最小代价验证国产路线的可行性；第二，选硬件前先选生态，优先挑你的核心模型已有官方适配案例的平台，能省一半工作量；第三，保留双栈能力，迁移期让 CUDA 与国产平台并行运行至少一个季度，用同一份测试集做持续对比，确认精度与性能达标后再下线旧集群。国产化替代是一场马拉松，清单化管理、分阶段验收，才能避免"买回来跑不起来"的困境。

国产替代不是"把英伟达换成国产卡"一句话能概括的决策。合规压力、负载类型、迁移成本、供货确定性、预算五个维度都要过一遍，本文用站内芯片卡数据把每一步落到具体型号上。

一、替代决策五问​

动手选型前，先回答五个问题：

1. 合规要求：是政策强制的信创场景（政府、国企、金融），还是成本驱动的自愿替代？前者看《安全可靠测评》等资质，后者看性价比。
2. 负载类型：训练还是推理？Prefill 还是 Decode？不同负载的答案完全不同——昇腾 950PR 是推理 Prefill 卡，拿它做 FP16 密集训练就是选型错误（站内卡明确提示：FP16 训练应选 910C，其 800 TFLOPS 对 950 系列的 486–547 TFLOPS 保持领先）。
3. 生态迁移成本：现有 CUDA 代码库有多少算子依赖？团队有没有非 NVIDIA 平台经验？迁移成本有时比卡价更高。
4. 供货确定性：产能爬坡与 HBM 供应决定交付周期，头部型号已经在涨价排队。
5. 预算口径：国产卡价格已从"替代品折价"转向"供给稀缺溢价"，预算要按动态报价做。

二、国产主要选项对比​

以下数据全部取自本站芯片卡：

型号	架构	FP16/BF16 算力	低精度	显存 / 带宽	互联	软件栈	参考价
昇腾 910C	Da Vinci 双芯	BF16 800 TFLOPS	不支持 FP8/FP4	128GB HBM2e / 3.2 TB/s	HCCS 784 GB/s + UB 392 GB/s	CANN	渠道价超 ¥11 万
昇腾 950DT	Da Vinci v5	BF16 547 TFLOPS	FP8 1,034 TFLOPS、FP4 2,007 TFLOPS	144GB 自研 HiZQ 2.0 / 4 TB/s	灵衢 2 TB/s	CANN Next	渠道指示价超 ¥25 万
寒武纪 思元690	MLUarch 双 die	FP16 700+ TFLOPS	INT4 2,800+ TOPS	196GB HBM3 / 3.35 TB/s	MLU-Link 890 Gbps	NeuWare	约 ¥17.5 万
摩尔线程 MTT S5000	MUSA 平湖（第四代）	BF16/FP16 400 TFLOPS	FP8 稠密 1,000 TFLOPS	80GB / 1.6 TB/s	MTLink 784 GB/s	MUSA / MUSIFY	官方指导价 ¥5.5 万
天数智芯 天垓150	ivcore11	FP16 192 TFLOPS	INT8 384 TOPS	64GB HBM2e / 1.2 TB/s	PCIe 4.0	IXUCA	未公开
燧原 云燧T21	邃思2.0	FP16 未公开	TF32 160 TFLOPS	HBM2E（容量未公开）	自研多卡互联	燧原智算软件栈	约 ¥7 万

怎么读这张表：训练优先看昇腾 910C/950DT 与思元690（FP16 算力与显存容量领先，且都有千卡/超节点级方案——思元690 已落地 256 卡超节点，950DT 的 Atlas 950 SuperPoD 1024 卡版本已在 WAIC 2026 真机展示）；FP8 推理看 MTT S5000（FP8 稠密 1,000 TFLOPS 是国产卡中的亮点，且已通过《安全可靠测评》2026 年第 2 号）；视频与低功耗推理看昆仑芯 R200（150W、INT8 256 TOPS、108 路视频解码）；信创训练集群可评估云燧T21（OAM 标准模组，8000+ 卡集群已验证）。

三、软件栈迁移成本评估​

迁移成本是国产替代里最容易低估的一项，各家生态进展差距明显：

• CANN（华为）：进展最快。CANN Next 提供 CUDA 兼容层，约 80% 的标准 PyTorch 推理代码仅需配置修改；2026 年 10 月 DeepSeek 与华为联合发布面向昇腾 950 的开源编程工具与库。生态拐点已现——站内昇腾 960 卡口径显示，CANN 外部开发者占比升至 61%，首次超越内部团队，月活跃开发者突破 5,200 人；PyTorch 官网也已将昇腾收录为中国算力平台。
• NeuWare（寒武纪）：云边端统一一套代码是国内独一份，PyTorch/TensorFlow 适配版齐全，MagicMind 是全球首批商用 MLIR 图编译推理框架；短板在千卡以上分布式训练的工程成熟度，单机 8 卡与百卡小集群表现优异。
• MUSIFY（摩尔线程）：算子覆盖率约 70%–80%（CUDA 为 99%+），复杂 LLM 需手工优化，但 Day-0 适配能力快速进步——2026 年 6–7 月连续完成 MiniMax M3、智谱 GLM-5.2、Qwen3.5 和美团万亿参数 LongCat-2.0 的适配。
• IXUCA（天数智芯）：高度兼容 CUDA 生态，官方口径迁移时间下降 50% 以上，已适配 200+ 模型，覆盖 LLM、CV、NLP、语音等领域。

四、供货现实与价格走势​

供需关系是当前国产算力市场的第一现实：

• 需求侧：华为副董事长徐直军在 HC2026 访谈中的表态是"能产多少供多少"——需求远未见顶，第一约束已从市场转移到产能。
• 产能侧：站内 950DT 卡引用的行业口径显示，中芯国际产能可支撑年产超 100 万颗昇腾芯片，但国产 HBM 产能仅够约 25 万–30 万颗成品加速器，缺口约六成——瓶颈在 HBM 而非逻辑制程。
• 价格侧：HBM 成本攀升推高全线上调——950DT 渠道指示价超 ¥25 万（较两个月前 +20%–50%，Bloomberg 称三个月涨约 60%，已对标 B200）、950PR 突破 ¥8 万（+30%）、910C 超 ¥11 万（+22%）、寒武纪 690 等同期上调 20%–30%。预算必须按动态报价做，且注意以上均为渠道指示价，实际成交随采购规模与捆绑条件浮动。

五、混合部署策略与风险清单​

务实的企业路径是混合部署：NVIDIA 存量卡继续承担成熟训练负载与 CUDA 专有工作负载，国产卡承接增量需求——通常从推理切入（生态迁移成本最低），训练负载在 CANN/MUSA 成熟度验证后逐步迁移。昇腾 910C 集群已验证万亿参数大模型全参数后训练能力（站内卡记载的 DeepSeek V4 Pro 案例），训练迁移的技术可行性正在快速提高。

同时把风险清单贴在采购文档里：

1. 生态风险：算子覆盖不全导致的性能回退与排期延误，先做 POC 再批量采购。
2. 价格风险：涨价周期中锁价窗口短暂，长单尽量锁量锁价。
3. 供货风险：HBM 约束短期无解，关键项目准备备选型号。
4. 人才风险：非 CUDA 平台的工程师储备需要提前 6–12 个月建设。
5. 残值风险：国产卡二手市场流动性弱于 NVIDIA，折旧年限要单独评估。

小结​

国产替代选型的正确姿势是：用五问框架定位自己的真实约束，按负载类型从对比表里筛型号（训练看昇腾与思元690、FP8 推理看 MTT S5000、低功耗视频看昆仑芯），把软件迁移成本算进总预算，在涨价与供货的现实下混合部署、增量替换。更多型号的全字段对比见站内完整对比表，各卡详细规格请进入对应芯片卡页面。

边缘 AI 的选型逻辑与数据中心完全相反：不看峰值算力，看瓦数、体积、温度与断电恢复。2026 年的边缘盒子市场已经足够成熟，从 15W 到 1000W 都有对应产品，关键是把场景需求映射到正确的梯队。

一、四个梯队的产品地图​

梯队一：NPU 微型机（100 至 500 美元）。 代表是 Jetson Orin Nano Super（约 249 至 499 美元，40 TOPS，7 至 15W）和各类 RK3588 方案（约 6 TOPS NPU，千元人民币以内）。适合跑 3B 以下量化模型、单路至四路视频结构化、轻量目标检测。Orin Nano 能在 4-bit 下运行 7B 模型（约 3.5GB 权重），但带宽所限生成速度仅够"能用"而非"流畅"。

梯队二：性能边缘主机（600 至 2,000 美元）。 Jetson Orin NX（100 TOPS，16GB，约 699 美元）与 AGX Orin（275 TOPS，64GB 统一内存，约 1,999 美元）。AGX Orin 的 64GB 统一内存是亮点：可以容纳 70B 模型的 4-bit 权重加 32K 上下文的 KV cache，是"盒子跑大模型"的实用上限。

梯队三：桌面 GPU 小主机（2,000 至 5,000 美元）。 RTX 5090（32GB，约 900 TOPS INT8，约 2,000 美元）装入准系统，功耗 450W 起。适合需要 30B 级模型 FP16 推理或多路视频流的边缘机房、门店服务器机柜场景。

梯队四：国产工控级（1 万至 5 万元人民币）。 昇腾 Atlas 500 系列智能小站、Atlas 300I Duo 卡加工控机箱的组合，以及算能 BM1684X 方案（约 32 TOPS INT8，功耗典型 25W 左右）。国产方案在政企、电网、交通等有信创要求的场景几乎是默认选项。

场景	关键约束	推荐方案	预算区间	理由
零售门店客流分析	静音、低功耗、断电恢复	Orin Nano 或 RK3588 盒子	1,000 至 4,000 元	检测模型 4 TOPS 内即可，15W 长期运行
工厂单产线质检	环境温度、防尘	AGX Orin 或 Atlas 500	1.5 万至 4 万元	275 TOPS 余量与工业级宽温认证
园区多路视频结构化	并发路数	Atlas 500 加 300I Duo 或 5090 小主机	2 万至 8 万元	单盒承载 16 至 64 路视频流
车载与移动设备	抗震、宽温、体积	Orin NX 加定制外壳	1 万至 2 万元	35W 功耗与成熟供应链
离网大模型问答	显存上限	AGX Orin 64GB	约 1.5 万元	70B Q4 是盒子级上限
信创/政企部署	国产化合规	Atlas 系列、BM1684X	1 万至 5 万元	满足国产化验收要求

二、三个容易忽视的选型维度​

第一是功耗墙。 边缘部署常常没有机房条件，Orin Nano 15W 与 5090 主机 500W 是两个世界：后者需要独立空调甚至专线电路。选型前先确认部署点的供电上限，这往往比预算更早淘汰方案。

第二是软件栈锁定。 Jetson 绑 CUDA 生态、BM1684X 用自家 SDK、昇腾用 CANN。模型迁移成本远高于硬件差价——如果你的检测模型基于 PyTorch 加 TensorRT 训练管线，迁到非 NVIDIA 平台通常要 2 至 6 周的适配工作。新项目建议在立项时就锁定平台。

第三是远程运维能力。 边缘盒子散布在几十个网点后，OTA 升级、远程日志、异常重启是真正的运营成本。采购时确认厂商是否提供设备管理平台（NVIDIA 有 Allxon 等方案，昇腾有 Atlas 管理套件），自建运维队伍的隐性成本常被低估。

三、结尾建议​

边缘 AI 盒子的选型公式可以概括为：算力需求（TOPS）决定梯队，环境约束决定形态，合规要求决定品牌。 90% 的边缘视觉场景，一台 Orin Nano 或 RK3588 就够，别为"可能用得上的大模型"买 AGX Orin；真要跑大模型，先算清楚 70B Q4 加 KV cache 的显存账，再决定是盒子加量化还是退一步用边缘小服务器。采购前务必拿真实业务视频流做两周实测——边缘场景的光照、角度、遮挡差异，会让实验室里 99% 准确率的模型在现场跌到 85%，这个差距要靠数据回灌和模型迭代补，而不是靠换更贵的盒子。

2026年10月，边缘 AI 迎来了标志性的一周：NVIDIA DGX Spark 正式发布、RTX Spark 笔记本预订开启、AMD Gorgon Halo 亮出 192GB 统一内存、微软与联想的新机同日开售。算力正在从数据中心向 PC、桌面和机器人急剧下沉。本文梳理边缘算力金字塔的完整版图。

边缘算力金字塔​

边缘 AI 不是一个市场，而是四层结构分明的金字塔：

层级	典型芯片	算力区间	典型场景
手机 NPU	骁龙/天玑/麒麟 NPU	数十 TOPS	拍照增强、语音助手、实时翻译
AI PC	RTX Spark、Ryzen AI Max、Core Ultra 2	100-1000+ TOPS（AI 总算力）	本地大模型、创作 Copilot
桌面超算	DGX Spark/Station、GB300	1-20 PFLOPS FP4	百亿至万亿参数本地推理
数据中心	Rubin R200、MI455X、昇腾950	EFLOPS 级	前沿模型训练与超大规模推理

站内规格卡可以精确刻画中间两层。AI PC 层：NVIDIA RTX Spark 采用 Arm CPU + Blackwell GPU 统一内存架构，最多 20 核 Arm、6144 CUDA 核心、128GB LPDDR5X、带宽 300GB/s，AI 算力 1 PFLOPS FP4（稀疏，官方口径），可运行 1200 亿参数模型与 100 万 token 上下文；AMD Ryzen AI Max+ 395（Strix Halo）为 16 核 Zen 5 + 40 CU RDNA 3.5 + XDNA 2 NPU 50 TOPS，128GB UMA 中 96GB 可分配给 GPU，端侧可跑 70B 模型；Intel Core Ultra Series 2（Lunar Lake）NPU 4.0 达 48 TOPS，是全球首款满足 Copilot+ PC 标准的 x86 芯片。

桌面超算层：DGX Spark 64GB 售价 $4,999，2026 年 10 月 23 日起经宏碁、华硕、戴尔等 OEM 开售，单机可流畅运行千亿参数模型；两台 Spark 通过 ConnectX-7 直连后内存池化至 128GB，模型上限提升至 2000 亿参数级，双机集群实测较单台 128GB 系统峰值最高提升 70%。更上层的 DGX Station for Windows 搭载 GB300、748GB 统一内存（252GB HBM3e + 496GB LPDDR5X）、20 PFLOPS FP4，2026 Q4 上市，把桌面推到了接近数据中心的量级。

新机潮：一周之内的三家对决​

2026 年 10 月上旬，边缘 AI 设备密集落地。微软 Surface Laptop Ultra 定价 $2,599，官方口径 AI 性能达竞品 Mac 的 2 倍、视频场景 6 倍，10 月 16 日发货；联想 YOGA Pro 15 RTX Spark 同日开售，预装天禧 AI 35B 本地模型，已有 100 余款软件完成适配；NVIDIA RTX Spark 笔记本预订同步开启，首发 OEM 覆盖 Dell、HP、Lenovo、Asus、MSI 等 8 家厂商，形态包括 30 余款笔记本与约 10 款桌面。

AMD 的回应是 Gorgon Halo：Ryzen AI Max 400 系列（Pro 495/490/485）最高 192GB 统一内存，通过 VGM 可变显存最多将 160GB 划给 GPU，单机离线运行 1000 亿参数级大模型——按官方口径可支持 300B 级模型的本地量化部署。它的差异化卖点是原生 x86、无模拟层，避开 Arm 方案在 Windows 上的 Prism 转译开销。

本地大模型的隐私经济学​

边缘算力下沉的驱动力不只是性能，还有隐私与成本的双重账本。站内 Ryzen AI Max Pro 495 规格卡记录了一个典型案例：艾美奖获奖 VR 工作室 LightSail VR 在锐龙 AI Max 桌面机上搭建"制作协调员" AI Agent，同时管理 6-9 个制作项目，相当于过去 2 个人力的工作量；由于全部本地运行，云费用为零，同样的工作量放云端每月 token 费用要数千美元。

这笔账可以推广：当一台 $4,999 的 DGX Spark 或一台 Pro 495 工作站能够离线承载千亿参数模型，敏感数据（报税文件、医疗记录、未发布的设计稿）不再需要上传云端，企业同时获得隐私合规与可预测的成本结构。本地 Agent 的边际成本趋近于零，这是云 API 定价模型无法做到的。

具身智能：边缘算力的第二战场​

机器人是 2026 年边缘 AI 最陡峭的增长曲线。国内动态方面，江苏昆山张浦一次性发布 12 款具身智能产品，覆盖轮足巡检、重载作业等场景，具身智能正从展会样机走向批量交付。海外方面，通用机器人大脑公司 FieldAI 完成 7 亿美元融资，估值达 100 亿美元，资本对"机器人的 GPT 时刻"下注明显。

NVIDIA 自己也在用机器人造机器人：其西雅图机器人实验室以 Flexiv Rizon 4S 协作臂搭配 UR10e，配合视觉-语言-动作（VLA）管线，实现了 GB300 测试托盘装配的自动化，官方口径成功率 95%。这个案例的意义在于示范了完整的机器人技能习得闭环——感知、决策、执行全部在端侧算力上运行。

具身智能对边缘芯片提出了 AI PC 完全不同的需求：低时延控制回路（毫秒级）、多模态感知融合、以及抗震动宽温的工业可靠性。这将是未来 2-3 年边缘芯片的第二增长极。

边缘-云协同架构​

金字塔的各层不是替代关系，而是协同关系。当前主流的分工模式是：云端完成模型训练与大规模推理（Rubin R200、MI455X 的主场），桌面超算承担本地 Agent 的常驻推理（DGX Spark/Station），AI PC 处理隐私敏感的个性化任务（RTX Spark、Ryzen AI Max），手机 NPU 兜底最高频的轻量推理。数据在层间按敏感度与时效性分流：原始数据尽量不出端，模型权重与更新从云端向下推送。

对开发者而言，这意味着一套模型需要在四层硬件上都有高效的运行时——从 CUDA 到 ROCm、从 ONNX 到各厂商 NPU SDK，跨平台部署能力正在取代单点性能成为边缘 AI 工程的核心竞争力。

小结​

2026 年 10 月的这波新品潮，标志着边缘 AI 完成了从"能跑 demo"到"能干活"的跨越：DGX Spark 把千亿美元参数级推理装进机顶盒大小的机身，Gorgon Halo 用 192GB 内存重新定义 AI PC 的上限，具身智能则把边缘算力推向了物理世界。边缘算力金字塔的四层结构已经成型，接下来的竞争焦点将从单机性能转向边缘-云协同的系统能力——谁能把算力放到离数据最近的地方，谁就赢得下一代 AI 交互的入口。

在国产 AI 芯片的版图里，燧原科技是一个特立独行的存在：它没有走英伟达确立的 GPGPU 路线，而是基于自研指令集的领域专用架构（DSA），从驱动、编译器到算子库全栈自研。这条路风险极高，但 S60 单款 16 万片的出货量证明，它至少在推理市场跑通了。

四代五芯：一条完整的产品时间线​

燧原成立于 2018 年，创始团队来自 AMD 与腾讯体系。七年间迭代了四代架构共 5 款云端 AI 芯片，且全部一次流片成功：

年份	芯片	产品	定位
2019	邃思 1.0	云燧 T10	第一代云端训练
2020	—	云燧 i10	第一代云端推理
2021	第二代	云燧 T20、i20	训练与推理双线，累计出货超 3 万片
2024	邃思 320	燧原 S60	第三代大规模推理
2025	邃思 400	燧原 L600	第四代训推一体

支撑这一体系的是三大自研技术：GCU-CARE 计算单元、面向训练集群的 GCU-LARE 片间互联，以及全栈自研的"驭算 TopsRider"软件平台。

S60：把推理成本打到极致​

S60 基于第三代 GCU320 芯片，据官方产品手册，单卡配备 48GB 显存、672 GB/s 显存带宽，最大功耗 300W。它的成功不在单点参数，而在系统级组合：2024 年发布后迅速部署于甘肃庆阳智算中心，建成国内首个国产万卡推理集群；截至 2026 年，累计出货达 16 万片，支撑超过 300 个应用场景，覆盖大语言模型、多模态、搜索广告推荐等负载，落地规模跻身国产 AI 加速卡第一梯队。

软件侧，燧原将 vllm-gcu 等大模型推理软件栈项目在 Gitee 开源，模型适配周期从早期的一两个月缩短到数天甚至数小时，并支持 DeepSeek-V4 等主流开源模型的极速适配。

腾讯样本：股东即客户的深度协同​

燧原与腾讯的关系是理解其商业模式的钥匙。腾讯既是第一大股东，也是第一大客户：2025 年前三季度，对腾讯销售（含指定最终客户模式）占比达七成以上，双方已签订单可执行至 2027 年。更深一层的是"芯模协同"——腾讯混元新一代开源模型在设计阶段就充分考虑燧原硬件特性，反向定制模型结构，让芯片与模型互相成就。这种把协同前置到模型设计阶段的模式，在国产芯片公司中相当罕见。

2025 年燧原营收近 10 亿元，三年复合增长率约八成；2026 年上半年营收已达 11.2 亿元。公司于 2026 年 9 月登陆科创板，拟募资的 60 亿元将投向第五代、第六代芯片研发。第四代训推一体产品 L600 预计出货量将大幅超越 S60。

小结：DSA 路线的阶段性胜利​

燧原的复盘说明：在推理这个对成本和能效极度敏感的市场，专用架构加上全栈自研完全可能打赢通用路线。风险同样存在——客户高度集中、训练侧仍需突破、生态规模与 CUDA 相去甚远。但对于建设国产万卡级推理集群的智算中心而言，S60 已经是经过大规模验证的成熟选项，而 L600 能否把这套打法复制到训推一体市场，是燧原的下一场考试。