跳到主要内容

2 篇博文 含有标签「DeepSeek」

DeepSeek large language models

查看所有标签

AI 算力周报(9.1-9.5):DeepSeek 订 16 万颗昇腾 950DT、英伟达 129 亿美元收购 Hugging Face、Rubin Ultra 显存减配

· 阅读需 9 分钟
Industry Research Team

本周(2026 年 9 月 1 日–5 日)AI 算力行业的题眼,是两条相反方向的成本重构:海外,英伟达以史上最大并购吞下开发者生态入口,同时给旗舰减配显存——"内存太贵"倒逼硬件从单卡堆料走向系统级互联;国内,DeepSeek 16 万颗昇腾订单把"国产替代"从口号变成头部实验室的资产负债表决策,字节近 300 亿美元融资为算力扩张装上杠杆。


1. DeepSeek 拟购 16 万颗昇腾 950DT:国产算力的"标志性订单"

彭博社 9 月 4 日报道,DeepSeek 计划在内蒙古乌兰察布新建的约 1GW 数据中心部署至少 16 万颗华为昇腾 950DT,主要用于推理而非训练。按每颗约 11.1 万元的市场价估算,订单总额约 178 亿元人民币(约 25.6 亿美元)——这是迄今已知规模最大的昇腾集群,是半年前深圳首个万卡级集群的 16 倍。

三个关键读数:

  • 主动选择,而非被迫替代:DeepSeek 是公认最会"榨干"算力的实验室。创始人梁文锋 7 月曾直言:华为超节点能完成 GB300 的任务、延迟没有明显差别,但约需 4 颗昇腾才抵 1 颗英伟达、技术上落后约两年。选择昇腾跑推理,是在综合成本、供应链安全与本土化后的理性决策——推理对软件生态依赖较浅,正是国产芯片的突破口;
  • 瓶颈在供给端:受高端内存(HBM)短缺制约,昇腾 950DT 今年产量仅数十万颗(2026 年全部昇腾 die 计划约 160 万颗),DeepSeek 希望加购更多但产能所限,整单交付或需一年以上——国产 HBM 与先进封装成为整条链的胜负手;
  • 过渡性押注:DeepSeek 同时在与中芯国际合作开发自研推理芯片,并于 6 月完成约 500 亿元融资、继续洽谈数十亿美元基建融资。国产算力的终局是多元自主,而非单一依赖。

单颗 950DT:144GB HBM、4.0TB/s 带宽、2.0TB/s 互联,原生支持 FP8/FP4/HiF8,详见昇腾 950DT 规格页

2. 英伟达 129.3 亿美元收购 Hugging Face:买下"铲子的交易所"

当地时间 9 月 3 日,英伟达宣布以 129.3 亿美元收购全球最大开源 AI 平台 Hugging Face,超过 2020 年 69 亿美元收购 Mellanox,成为其史上最大并购。交易含约 119 亿美元股权款与最高约 10 亿美元员工留任计划,预计 2027 年上半年完成,待监管批准。

Hugging Face 托管超 300 万个模型、50 万个数据集,服务超 1800 万名开发者。黄仁勋承诺平台继续开放中立运营:不强制绑定英伟达资源、开源属性完整保留。

解读:算力霸主的护城河从"芯片 + 网络 + 软件栈"一路修到了"模型分发 + 开发者生态"——卖铲人开始收购铲子的交易所。平台的"中立性"承诺能否兑现,将成为全球监管与竞争性云厂商持续盯防的焦点;对国内产业而言,模型托管、权重分发这类"轻资产 AI 基础设施"与芯片一样,正在成为大国科技博弈的卡点。

3. Rubin Ultra 显存减配:内存占 TCO 40% 后的算术题

SemiAnalysis 最新报告(科创板日报 9 月 3 日转引)显示,英伟达已将旗舰 Rubin Ultra 的 HBM 配置从 HBM4E 12-Hi(384GB 档)下调至 HBM4 8-Hi(192GB),三星正配合开发 8 层产品。

  • 动因:HBM/DRAM 涨价后,内存已占整机 TCO 约 40%;减配后 HBM 成本降超 50%,即便计入 2026 年 HBM 涨价预期,内存占总资本开支比例也将从 40% 压至 28%;
  • 钱去了哪:转向 Scale-up 纵向扩展网络——以 NVL576 NPO 方案测算,光模块取代机架间互连后,Scale-up 网络占机架总支出比例从 4% 升至 12%
  • 连锁反应:TrendForce 显示英伟达自 2026 Q3 起并行评估 HBM4E 8-Hi / 12-Hi / HBM4 8-Hi 多套方案,部分云厂商也在考虑下调下一代自研 ASIC 的 HBM 容量。

连定价权最强的英伟达都给旗舰"减配求量",等于官宣:当前 AI 硬件最紧的约束是内存(美光高管称新增内存供应 2028 年前难有实质放量),单卡堆料的军备竞赛告一段落,硬件价值重心正迁移到光互联、CPO、高速交换与 PTFE 背板。华泰测算 2027 年存储供需缺口将从约 -7% 收窄至 -3%——上行周期未逆转,但从"普涨"走向"结构性紧缺"。

详见本站已同步更新的 Rubin Ultra 规格页HBM4 量产竞速分析

4. 推理 ASIC 军备提速:谷歌"一年两款",Jalapeño 规格落地

  • 谷歌 TPU 迭代周期从两年一代压缩至"每年两款"(华创证券 9 月 4 日研报):第八代已拆分为训练(8t)与推理(8i)双架构,8i 把内存/算力配比拉到 8t 的 1.65 倍,专为推理放量设计;
  • OpenAI Jalapeño 规格披露:6 堆栈 HBM4 共 216GB、带宽 15.4TB/s700W,围绕投机解码设计;OpenAI 称在 DeepSeek R1 负载下 tokens/kW 达 GB300 的 1.7 倍;RTL 冻结到流片 9 个月,首批硅片后约 10 周承载 ChatGPT 流量。详见规格页(本站已更新);
  • workload-specific 时代开场:训练、推理、推荐各自长出专用芯片,上游 HBM/封装/光互联的供应节奏必须跟上"半年一代"。

5. 国内动态:字节 296 亿美元加杠杆,摩尔线程 Token 超节点投产

  • 字节跳动获约 296 亿美元融资安排(彭博 9 月 3 日),较最初约 200 亿美元目标大幅上调,用于数据中心与 AI 基建;另据产业报道正洽谈在内蒙古新增 5-6GW 算力产能——中国 AI 公司迄今最大规模基建融资之一,算力正被当作可融资、可证券化的重资产经营;
  • 摩尔线程 × 趋境科技 "Token 超节点"投产(光明网 9 月 4 日):以 MTT S500 承担 Prefill 与 KV Cache 生成、高带宽 GPU 专注 Decode 的 PD 异构方案,实测平均生成速度超 50 TPS、KV Cache 命中率超 90%、稳定性 99.9%,已承接头部模型厂商官方业务流量——超节点竞争维度从"单卡参数"转向"单位 Token 生产成本";
  • OpenAI 发布 GPT-6 Astra(9 月 4 日):超 10 万颗 GPU 在 Stargate 集群完成训练,推理放量与超大规模集群仍是全球算力叙事主线;
  • SemiAnalysis 基准:AMD MI355X 新提交在 AgentX 基准低交互区间tokens/$ TCO 击败 B300——vLLM + LMCache 软件栈的贡献首次被独立机构量化认可。

6. 市场:中美算力资产一涨一调

美东 9 月 4 日,美国 8 月非农仅增 8.9 万人(预期 16 万),10 年期美债收益率回落至 3.78%,成长股走强:科技板块 XLK 周涨 4.2%,英伟达周涨 8.7% 收于 230.36 美元。A股 9 月 4 日反向回调:AI 算力芯片板块 -1.99%、服务器 -2.51%、超节点 -2.86%,浪潮信息跌停、寒武纪 -2.54%——基本面无恶化(博通、戴尔、中际旭创订单与财报持续验证景气),更多是交易层面获利兑现。

下周起三连催化密集:CIOE 光博会(9/9-11)→ 华为全联接大会(9/17-19)→ 云栖大会(9/22-24)。国产超节点从"发布会 PPT"到"批量交付"的成色,将迎来集中检验。

本周一句话

内存太贵改变了所有人的算法:英伟达给旗舰减配显存、把钱投给互联;DeepSeek 用 16 万颗昇腾买推理确定性;谷歌把 TPU 迭代压到半年一代。2026 年 Q4 起,"每兆瓦/每美元 token 数"将取代"单卡 PFLOPS",成为算力采购的第一指标。


相关链接

参考资料


本文基于彭博社、科创板日报、SemiAnalysis、TrendForce、华创证券研报及光明网等公开报道整理。订单金额与市场数据为媒体/机构预估口径,实际以相关公司正式披露为准。

里程碑!华为昇腾910C完成1.6万亿参数大模型全参数训练

· 阅读需 7 分钟
Industry Research Team

2026年6月5日,深圳发布官宣重磅消息:深圳河套学院联合哈工大(深圳)、华为等团队,用1000颗华为昇腾910C芯片,成功完成1.6万亿参数DeepSeek-V4-Pro大模型全参数后训练

这不是一次试探性的尝试,而是一次里程碑式的技术突破。它用无可辩驳的工程结果证明:国产AI芯片足以支撑世界级超大参数模型训练

为什么这很重要?

AI芯片的两道坎:"推理"与"训练"

  • 推理(Inference):用现成模型聊天、写文案。此前国产芯片已经能做
  • 训练(Training):调整模型参数让它学习新能力。全参数训练要同时调整1.6万亿个参数,难度拉满

此前,万亿级参数模型的全参数训练一直被英伟达H100/H200垄断。国产芯片只能做推理,无法做大规模训练。

这次突破的意义:国产算力从"能用"跨越到"好用",从"推理"跨越到"训练"。

技术细节

训练配置

项目参数
芯片华为昇腾910C × 1,000颗
模型DeepSeek-V4-Pro
参数量1.6万亿(1600B)
训练类型全参数后训练(Full Parameter Post-Training)
训练框架昇思(MindSpore)+ torch_npu
完成时间2026年6月5日官宣

性能指标

指标数值评价
算力利用率>30%工业级水平(海外顶级芯片~40%)
关键训练算子效率提升14%相比上一代910B
通信带宽利用率>60%(推测)MoE模型的All-to-All通信
稳定性1000颗卡连续训练无故障集群稳定性达标

💡 关于30%算力利用率:很多人觉得30%不高,但在大模型训练领域,这已经是非常不错的工业级水平。就算用最顶级的海外芯片,很多团队的实际利用率也就在40%左右。

昇腾910C详细规格

昇腾910C是华为在2024年4月24日(华为分析师大会)公布的AI训练/推理芯片,理论算力峰值达到800 TFLOPS(BF16精度),与英伟达H100处于同等量级。

参数昇腾910C昇腾910BNVIDIA H100
架构Ascend 910CAscend 910BHopper
制程TSMC 7nm(推测)TSMC 7nmTSMC 4NP
BF16算力800 TFLOPS256 TFLOPS989 TFLOPS(稀疏)
显存64GB HBM(推测)64GB HBM2e(B1/B2)80GB HBM3
显存带宽~2TB/s(推测)600 GB/s(B1/B2)3.35 TB/s
TDP~400W(推测)300-400W700W
量产时间2026年4月(正式量产)2022年11月2022年3月

关键升级

  • 算力提升3×:从910B的256 TFLOPS提升到800 TFLOPS
  • 软件生态完善:torch_npu适配PyTorch,昇思框架成熟
  • 集群稳定性:1000颗卡连续训练无故障(这是最大的突破)

技术挑战与解决方案

挑战1:万亿级模型的显存需求

1.6万亿参数模型,仅模型参数就需要:

  • FP16精度:1.6T × 2 bytes = 3.2 TB
  • 加上梯度、优化器状态:至少10 TB显存

华为的解决方案

  • 模型并行(Model Parallel):将模型分布到1000颗910C上
  • ZeRO优化器:优化显存占用
  • 梯度累积:分阶段更新参数

挑战2:万卡集群的通信效率

1000颗芯片训练时,卡间通信成为瓶颈。MoE模型需要All-to-All通信(每个专家可能需要与其他所有专家通信)。

华为的解决方案

  • HCCS(Huawei Collective Communication Scheduler):自研高速互联协议
  • 分层通信:节点内NVLink + 节点间HCCS
  • 通信-计算重叠:在计算的同时进行数据传输

挑战3:训练稳定性

万亿级模型训练需要数周甚至数月,任何一颗卡故障都可能导致整个训练中断。

华为的解决方案

  • 故障检测与自动恢复:实时监测卡的状态,故障时自动重启并恢复训练状态
  • 检查点(Checkpoint)优化:高频保存训练状态(每N步保存一次)
  • 昇腾集群管理软件:专门为企业级训练设计

与竞品对比

厂商芯片1.6万亿参数训练生态成熟度可用性
华为昇腾910C已完成⭐⭐⭐(进步中)中国本土
NVIDIAH100/H200✅ 工业标准⭐⭐⭐⭐⭐全球(受出口管制)
AMDMI300X✅ 可行⭐⭐⭐⭐全球
GoogleTPU v5p/8t✅ JAX原生⭐⭐⭐⭐Google Cloud

结论:昇腾910C在硬件性能上已经追上H100,软件生态仍有差距,但这次训练成功证明了工程可行性

行业影响

1. 国产算力的"遵义会议"

这次突破被业内称为国产算力的"遵义会议"——从此从被动防守转向战略反攻。

具体影响

  • 打破"国产芯片只能推理"的偏见
  • 证明国产芯片可以做frontier模型训练
  • 为国产大模型(如DeepSeek-V4、文心5.0)提供算力底座

2. 对英伟达的冲击

华为昇腾910C完成万亿级训练,意味着中国AI产业对英伟达的依赖度降低

场景此前现在
推理国产芯片可用国产芯片好用
训练必须用H100/H200可以用910C
大规模训练必须用H100集群可以用910C集群

3. 对国产芯片产业的提振

这次突破将带动整个国产AI芯片产业链:

  • 芯片设计:寒武纪、沐曦、摩尔线程等加速迭代
  • 晶圆制造:中芯国际、华虹等获得更多订单
  • 封装测试:长电科技、通富微电等受益

华为昇腾芯片路线图(2025-2028)

时间芯片定位
2025年Q1昇腾910C旗舰训练/推理(已量产)
2026年Q1昇腾950PR推理优化(~500 TFLOPS BF16)
2026年Q4昇腾950DT数据中心训练
2027年Q4昇腾960下一代旗舰
2028年Q4昇腾970再下一代

训练实战经验分享

深圳河套学院团队在训练中积累了宝贵经验:

✅ 成功经验

  1. 渐进式训练:从小模型(7B)开始,逐步扩大到1.6T
  2. 混合精度训练:BF16主训练 + FP32梯度累积
  3. 通信优化:All-to-All通信与计算重叠
  4. 故障恢复:每1000步保存一次检查点

⚠️ 遇到的挑战

  1. 显存碎片:长训练过程中显存碎片化严重,需要定期整理
  2. 通信瓶颈:MoE模型的All-to-All通信占训练时间的30%+
  3. 软件Bug:torch_npu偶有内存泄漏,需要重启训练进程

相关芯片

参考资料


本文基于公开报道整理。向深圳河套学院、哈工大(深圳)、华为等团队表示敬意——你们用工程实践证明了中国AI算力的可行性。