跳到主要内容
Industry Research Team
查看所有作者

Agentic AI 正在重塑基础设施:从 token 到沙盒的新算力经济学

· 阅读需 5 分钟
Industry Research Team

聊天机器人时代,衡量算力的单位是 FLOPS 和 token/s。2026 年,随着企业 Agent 从"回答问题"转向"完成任务",一种新的计量单位开始流行——沙盒/秒。基础设施的每个环节,正在被这种新工作负载重新定价。

Agent 工作负载的"三高"​

Agent 与传统推理的本质区别在于它不是一次请求、一次回答,而是一个持续数十步的执行循环:每一步都要启动工具、运行代码、读写环境、反思结果。这给基础设施带来"三高"压力。

第一,高并发沙盒。Agent 执行任务需要隔离的代码执行环境,Daytona 在 2026 年 10 月 10 日发布的智能体基准显示:在 8×EPYC 9755 服务器上,基于 Vera CPU 的方案 10.8 秒即可上线 1000 个沙盒,峰值达 13.3 任务/秒,扩展到 2000 沙盒耗时 27.4 秒——沙盒的创建延迟,正在成为 Agent 平台的核心 SLO。第二,高频短请求。一个任务循环里包含大量短小的模型调用(工具选择、结果解析、路由判断),这类请求的 prefill 远大于 decode,与聊天场景的负载曲线完全不同。第三,大 KV Cache。Agent 会话动辄数十万 token,NVIDIA RTX Spark 甚至把 100 万 token 上下文作为桌面级卖点,长会话的 KV Cache 成了显存的最大消耗者。

机构口径显示,AI 推理的 token 消耗已达人类用户直接使用量的约 5 倍——机器与机器之间的对话,正在取代人与人之间的对话,成为算力的主要买家。

算力计量单位的变迁​

时代计量单位代表指标采购逻辑
训练为王FLOPS峰值算力比参数表
推理规模化token/s吞吐与延迟比单位 token 成本
Agent 时代沙盒/秒、任务/秒环境创建延迟、任务完成率比任务执行成本

这个变迁的深层含义是:采购决策从"买算力"变成"买任务完成能力"。Meta 的 Hatch 以每月 199.99 美元的价格出售自主 Agent(接入 DoorDash、Etsy、Reddit、Outlook),Google Cloud 的 Gemini 企业 Agent 强调"做工作而非答题",OpenAI 的 Presence 企业 Agent 进入有限 GA——定价单位都是"订阅/任务",倒推回基础设施层,就是沙盒密度与任务吞吐。

decode 阶段专用硬件的兴起​

Agent 循环里最伤延迟的不是 prefill,而是 decode——每一步的生成速度直接决定用户等待时间。NVIDIA 在 Vera Rubin 平台的七芯片堆栈里塞进了一颗非典型成员:Groq 3 LPX,定位是"专为智能体解码阶段设计的低延迟推理加速器"。这是 NVIDIA 第一次在旗舰平台里为 decode 单独配一颗 ASIC,与 Rubin GPU(管 prefill 和训练)形成分工。

逻辑不难理解:prefill 是算力受限,GPU 的 FLOPS 越多越好;decode 是带宽与延迟受限,堆 FLOPS 无济于事,需要的是针对逐 token 生成的访存优化。当 Agent 流量的 decode 占比持续上升,专用 decode 硬件就有了独立存在的经济学基础——正如当年推理从训练中拆分出来催生了推理 ASIC 一样,decode 正在从推理中再拆分出来。

上下文内存成为新基建​

Agent 的长会话必须能"暂停、保存、恢复"——用户中午发起的任务,Agent 下午继续执行时,几十万 token 的上下文不能重算。这催生了一层新基础设施:上下文内存。NVIDIA 把 BlueField-4 DPU 升级为推理上下文内存存储平台,宣称 token 吞吐最高提升 5 倍;华为同步发布 OceanStor M900 上下文内存存储集群,通过灵衢总线一跳直连,为昇腾超节点提供 PB 级 KV Cache,并把 SSD 读写寿命延长 16 倍。

Vera CPU 的高密度机架同样服务于这个趋势:单机架最大 256 颗 Vera CPU、支持同时运行超过 2.25 万个并发环境——CPU 不再只是 GPU 的陪衬,而是沙盒编排与上下文管理的专职引擎。

企业级门槛与采购建议​

Agent 进入企业还多了一层合规门槛:agent 身份(每个 Agent 是谁、权限多大)、操作日志(每一步做了什么)、回滚能力(出错如何撤销)。这些要求把"执行层"变成了强粘性资产——模型可以随时换,但嵌入业务流程的执行层一旦部署就很难被替换。这也解释了为什么企业 Agent 的竞争焦点从"回答质量"迅速转向"任务完成"。

给采购与架构师三条建议:第一,评估 Agent 平台时先看沙盒指标——创建延迟、并发密度、任务/秒,而不是 GPU 型号;第二,规划推理集群时预留上下文存储层,BlueField-4 类平台和 PB 级 KV 存储应当进采购清单;第三,关注 decode 专用硬件的落地节奏,LPX 这类组件可能重新划分推理服务器的内部配比。

小结​

Agentic AI 把算力经济学从"每 token 多少钱"推进到"每任务多少钱":高并发沙盒要求 CPU 密度,高频短请求要求 decode 专用硬件(Groq 3 LPX 是第一个信号),大 KV Cache 要求 PB 级上下文内存基建。Daytona 基准里 10.8 秒上线 1000 沙盒的成绩单,预示着"沙盒/秒"将成为下一轮基础设施比拼的通用语言。谁能把执行层做深、把上下文存好、把 decode 做快,谁就握住了 Agent 时代的入口。

AI 芯片测试全流程:从晶圆 CP 到系统级老化

· 阅读需 4 分钟
Industry Research Team

一颗旗舰 AI 芯片价值数万美元,还要搭配数颗 HBM 一起封进昂贵的 CoWoS 封装——只要混进一颗坏 die,整颗封装报废。所以 AI 芯片的测试是一条比传统芯片严苛得多的流水线。本文按制造顺序拆解四道关卡,以及它对产业的影响。

第一关:晶圆 CP 测试——决不能封装坏 die​

晶圆切割之前,探针卡上数千根探针扎到每颗 die 的焊盘上,由 ATE 自动测试设备逐颗测电性,筛出 KGD(已知良好裸晶)。对 AI 芯片这一步是生死线:CoWoS 封装的成本远高于 die 本身,把坏 die 或坏 HBM 封进去等于把最贵的工序浪费在最差的料上。探针卡本身就是高技术壁垒耗材,单颗 die 的焊盘数量随着先进制程与 Chiplet 化持续膨胀。

测试关卡所处阶段核心设备主要目的
CP(晶圆测试)切割封装前探针台、探针卡、ATE筛出 KGD,避免无效封装
晶圆级老化(WLBI)封装前老化设备高温高压逼出早期失效
FT(成品测试)封装完成后分选机、ATE、测试板测功能、速度分档与功耗温度
SLT(系统级测试)出货前专用测试板与测试舱真实固件与负载下抓 ATE 测不出的缺陷

第二到第四关:老化、终测与系统级测试​

老化(Burn-in)把芯片置于高温高压下运行一段时间——典型条件是 125 摄氏度左右、1.1 至 1.2 倍额定电压、24 至 168 小时——专门逼出可靠性曲线最左端的"婴儿死亡"失效。AI 服务器要求芯片连续数月满载运行,这一关的淘汰标准比消费芯片严得多,HBM 还要额外做堆叠级的 KGSD 测试。

FT(终测)在封装完成后进行,除了功能验证还要做速度分档:同一批晶圆的芯片体质不同,按最高稳定频率与功耗归入不同档位。封装工序本身也可能引入损伤,所以 FT 是出厂前最后一道功能闸门。SLT(系统级测试)则是 AI 时代的标配增量:把芯片装进接近真实环境的主板,运行真实固件与大模型负载,单颗测试时间可达 30 至 300 秒。ATE 的标准向量测不出的问题——多 die 协同、高速接口的边际缺陷、热与功耗的真实表现——都靠 SLT 兜底。测试成本方面,行业经验值是测试占芯片制造成本的 5% 到 15%,AI 大芯片正在把这个比例推向区间上限。

为什么测试产能成了新瓶颈​

需求端在多重放大:AI 芯片 die 面积大、测试项目多、时间长,直接吃掉测试机产能;先进封装让封装前后测试都成为必需;每一个新的定制 ASIC 项目都要重开一套测试程序,博通与谷歌、迈威尔与 Meta、AWS Trainium 这类项目越多,需求乘数式放大。据公开报道,SoC 测试机市场从 2025 年约 69 亿美元增长到 2026 年约 87 至 95 亿美元,头部厂商扩产仍供不应求。供给端则是双寡头格局:爱德万与泰瑞达合计占全球八成以上份额,探针卡、探针台与分选机同样高度集中。

对采购方的含义很直接:AI 芯片的交付周期里,测试与封装产能是和晶圆产能同等重要的变量,签约时要问清 SLT 与老化的排产情况。

写在最后​

三条建议:第一,评估芯片供应商时把测试体系纳入尽调——有没有自建或锁定的 SLT 产能,直接决定交付确定性;第二,数据中心侧对到货芯片建立抽检与老化流程,服务器上架前先跑压力与显存基准,把"婴儿死亡"挡在集群之外;第三,关注国产测试设备与第三方独立测试产能的进展,测试环节的国产化进度,往往先于设计端。用户看到的每一颗稳定运行的芯片,背后都是四道关卡层层淘汰的结果。

AI 芯片周报(2026年第42周):Gorgon Halo、千亿投资 OpenAI 与算力金融化

· 阅读需 5 分钟
Industry Research Team

2026年第42周(10月6日—10月10日),AI 芯片行业的关键词是"下沉"与"金融化":AMD 把 192GB 内存塞进 AI PC,NVIDIA 承诺最高 1000 亿美元投资 OpenAI,三星单季利润预计暴增 8 倍,高盛统计年内 AI 财团融资约 5000 亿美元。本篇按国际、国产、存储与系统、资本与市场四节汇总。

国际动态​

AMD 发布 Ryzen AI Max 400 "Gorgon Halo":最高 192GB 统一内存,覆盖 Pro 495/490/485 三个型号,单机可离线运行 1000 亿参数级大模型(官方口径支持 300B 级量化部署),在 NVIDIA RTX Spark 新品活动前两天发布,正面竞争意图明显。

NVIDIA 承诺最高 1000 亿美元投资 OpenAI:双方协议锚定 10GW 部署规模,首个 1GW 基于 Rubin 平台,计划 2026 H2 上线。芯片厂商向客户注资、客户用投资采购芯片的"循环"结构,成为本周算力金融化的标志性样本。

微软双线出击:Surface Laptop Ultra 发布($2,599,10 月 16 日发货),同期 DGX Station for Windows 开启预览——GB300 平台、748GB 统一内存、20 PFLOPS FP4。RTX Spark 笔记本预订同步开启,联想 YOGA Pro 15 RTX Spark 定档 10 月 16 日开售。

Daytona 基准新纪录:基于 Vera 平台的系统以 8×EPYC 9755 配置实现 10.8 秒创建千级沙盒,Agent 基础设施的启动时延被压缩到秒级。

事件厂商要点
Gorgon Halo 发布AMD192GB、Pro 495/490/485
千亿投资 OpenAINVIDIA10GW、首 GW Rubin 2026 H2
Surface Laptop Ultra微软$2,599、10-16 发货
Daytona 千沙盒 10.8 秒Vera 平台8×EPYC 9755

国产动态​

徐直军 HC2026 访谈给出三个关键口径:昇腾 950DT 年底实现规模供货;按华为口径昇腾在中国市场份额已超英伟达;当前第一约束是产能而非需求。结合站内 950 规格卡的市场报价数据(950DT 指示性报价超 25 万元、两月涨幅最高 50%),供给紧张可见一斑。

壁仞科技拟配售 1.3 亿股 H 股:配售价 31.08 港元,较市价折让 9.76%,国产 GPU 上市公司密集利用窗口期补充研发弹药。

奕行智能完成近 20 亿元融资:估值接近 150 亿元,边缘与推理芯片赛道持续吸金。

存储与系统​

三星 Q3 业绩预告炸裂:利润预计超 100 万亿韩元、同比增约 8 倍;12 层 HBM4E 已通过 NVIDIA 验证;同步公布 zHBM 与 400 层 V10 NAND 路线图。HBM 验证通过意味着 Rubin 后续代的存储供应格局进一步固化。

DRAM 价格创 15 年新高:本季度最高涨幅达 89%,内存占整机 TCO 比重持续攀升——站内 Rubin Ultra 卡记录的"内存已占 TCO 约 40%"正在被进一步刷新。

GlobalFoundries 与 TSMC 签订 20 亿美元 interposer 协议:先进封装产能成为继 HBM 之后又一个被提前锁定的环节。

Oracle 燃气卡车运电:据 Bloomberg 确认,Oracle 用卡车运送天然气维持多座数据中心运转,电力短缺已从预测变为运营现实。

资本与市场​

高盛统计:年内 AI 财团融资约 5000 亿美元。算力投资已形成"芯片商注资-客户采购-算力转售"的金融化闭环。

GMI Cloud 融资 6.68 亿美元,其中含 NVIDIA 2.23 亿美元股权投资——NVIDIA 的注资版图从中大型云厂商延伸到新兴算力运营商。

Super Micro 出口管制案同谋认罪,供应链合规风险开始向整机厂传导。

TSMC Q3 营收创纪录:9 月营收同比 +54.6%,全年 CAPEX 顶格至 560 亿美元,先进制程与先进封装双线扩产。

NVIDIA 计划投资 d-Matrix,推理 ASIC 新贵获得巨头背书;Upscale AI 发布 Token Fabric 网络方案;Gemini 4 "Argon" 即将发布,模型侧的新一代旗舰同样在倒计时。

下周关注​

  1. RTX Spark 笔记本 10 月 16 日首发:Surface Laptop Ultra 与联想 YOGA Pro 15 同日开售,首发实测数据与终端定价即将揭晓;
  2. 昇腾 950DT 规模供货节奏:徐直军"年底规模供货"承诺进入兑现观察期;
  3. Q3 财报季开启:TSMC 已开 SCE 头炮,存储三巨头与 GPU 供应链财报将密集落地;
  4. Rubin NVL72 出货爬坡:首个 1GW Rubin 部署能否如期在 2026 H2 上线。

小结​

第 42 周的主线是"算力金融化":NVIDIA 千亿美元投资 OpenAI、高盛统计的 5000 亿财团融资、三星 8 倍利润,共同指向一个事实——AI 算力已经从技术生意变成资本生意。与此同时,Gorgon Halo 与 Surface Laptop Ultra 的发布说明竞争正在向端侧下沉,而 DRAM 创 15 年新高、Oracle 运气运电则提醒所有人:上游的存储与电力约束,比任何发布会都更真实地决定着 2027 年的算力供给。

5000亿美元涌向 AI 财团:这轮融资狂潮与2000年有何不同

· 阅读需 6 分钟
Industry Research Team

高盛的最新统计显示,今年至今投资者已向 AI 财团提供约 5000 亿美元融资,且云服务商的债务发行已经扩展到欧元、加元等多个市场。NVIDIA 投资 OpenAI、博通为 OpenAI 筹债、SpaceX 借钱买卡——供应商与客户之间的资金循环越来越复杂。这轮融资狂潮与 2000 年电信泡沫究竟有何异同?

5000 亿美元:融资全景​

据高盛(2026 年 10 月 10 日 AIGC 早报口径)统计,今年至今投资者已向 AI 财团提供约 5000 亿美元融资。更值得注意的是债务发行的货币多元化:云服务商已把债务发行从美元市场扩展到欧元、加元等市场,这说明融资需求大到单一市场难以承接,也说明全球固定收益投资者正在系统性接纳 AI 基础设施作为资产类别。

融资案例:钱从哪来,流向哪去​

主体交易结构金额
GMI Cloud(GPU 云)NVIDIA 参与的 2.23 亿美元股权 + 台湾中国信托商业银行领投 4.45 亿美元信贷6.68 亿美元
Firmus(AI 基础设施)IPO,约 50% 股份分配给现有持有人投资者需求超发行规模,澳洲最大 IPO 之一
博通 → OpenAI为定制芯片筹资(早期约 300 亿美元债务磋商)超 500 亿美元
SpaceX → NVIDIAApollo 牵头:100 亿美元银行贷款 + 300 亿美元投资级债务400 亿美元
亚马逊售后回租十余座数据中心 Grace Blackwell 芯片,另拟向投资者转让约 80 亿美元芯片资产盘活
NVIDIA → OpenAI非控股股权投资 + 10GW 算力承诺1000 亿美元

几个案例值得展开。GMI Cloud 的结构是典型的"股债混合":GPU 云公司同时拿到 NVIDIA 的股权背书和商业银行的信贷支持,NVIDIA 参股本身就成了债务融资的信用增强。Firmus 的 IPO 则展示了需求端的疯狂——投资者需求超过发行规模,以至于约 50% 的股份直接分配给现有持有人,成为澳洲最大 IPO 之一。SpaceX 的 400 亿美元融资完全用于购买 NVIDIA 芯片,由 Apollo 牵头,拆成 100 亿美元银行贷款加 300 亿美元投资级债务——一家航天公司为买芯片发行投资级债券,这在三年前不可想象。

循环交易结构图解​

把这些交易连起来看,会形成一个闭环:

NVIDIA ──1000亿投资──→ OpenAI
↑ │
│ 采购芯片 │ 定制芯片订单
│ ↓
SpaceX/云厂商 ←──博通筹资500亿(债务)
│ │
│ 抵押/回租芯片 │ 债务发行
↓ ↓
银行/私募信贷/公开市场投资者(5000亿总量)

循环的每一环都合理:NVIDIA 投资客户以锁定采购(1000 亿美元对应 10GW 承诺);博通靠 OpenAI 定制芯片订单筹资扩产;SpaceX、GPU 云用债务买卡再靠租金还本付息;亚马逊用售后回租把沉淀在数据中心的芯片资产盘活成现金流。但闭环的风险也在于此——每一方的偿付能力都依赖于循环不中断。一旦 GPU 租金价格下行或 AI 收入不及预期,链条上最脆弱的一环会传导给所有人。

与 2000 年电信光纤泡沫的异同​

维度2000 年电信光纤泡沫2026 年 AI 财团融资
底层资产暗光纤(长期过剩)GPU 算力(当前供不应求)
收入基础收入证明缓慢有真实收入(推理需求真实增长)
融资主导股权 + 高收益债债务主导(银行贷款 + 投资级债)
集中度多家电信运营商分散集中度更高(少数财团互为交易对手)
资产贬值速度光纤几乎不贬值GPU 一年一代,贬值快

相同点是"基建先行、收入后置"的赌注结构,以及供应商给自己客户输血的循环感。不同点同样关键:本轮有真实收入——推理需求是实实在在的付费市场,这与当年"建好光纤等流量"的空想不同;但本轮集中度更高,少数几个财团互为最大客户和最大债权人,系统性关联风险远超当年。更麻烦的是债务主导:2000 年泡沫破裂主要由股东承担损失,而本轮大量融资是投资级债务和银行贷款,一旦违约将直接冲击信贷市场。

风险监测清单​

华尔街正把 AI 数据中心投资打包为公开市场产品——在政治与建设风险上升的背景下,普通投资者也将被卷入这个循环。以下是一份风险监测清单:

  1. GPU 租赁价格曲线:租金下行是循环断裂的第一信号;
  2. 债务展期条件:关注博通、SpaceX 类大额融资的再融资成本变化;
  3. 供应商应收账款质量:NVIDIA 对客户的投资与销售绑定,收入质量需打折扣看待;
  4. 资产证券化进度:芯片回租、资产转让产品化的规模与折价率;
  5. 政策风险:出口管制变化对跨境算力租赁结构的影响;
  6. 电力与建设进度:数据中心延期交付直接冲击按产能定价的债务模型。

小结​

5000 亿美元的 AI 财团融资规模已经超过多数国家级基建预算,其结构特征是债务主导、循环交易和高度集中。与 2000 年相比,本轮有真实收入支撑,这与光纤泡沫有本质区别;但集中度更高、债务占比更大、资产贬值更快,三点决定了风险一旦暴露会传导得更快。循环交易本身不是原罪——产业链上下游互相投资在重资产行业并不罕见——但它放大了周期。对参与者和观察者而言,重点不是预测泡沫何时破裂,而是盯住租金价格、债务展期和资产证券化折价这三个先行指标。

AI PC 与桌面超算选型:RTX Spark、Gorgon Halo、DGX Station、Mac 怎么选

· 阅读需 6 分钟
Industry Research Team

2026 年,"本地跑大模型"从极客玩具变成了正经生产力工具:128GB 统一内存进入万元级笔记本,192GB 桌面平台宣称能装下 300B 模型,748GB 的 DGX Station 把数据中心级算力搬上了办公桌。

一、按需求分档​

选型的第一步是诚实评估自己的需求档位:

  • 轻量本地推理:跑 7B–35B 量化模型做日常问答、写作辅助,16–32GB 内存即可,任何 Copilot+ PC 都够用。
  • 严肃 Agent 开发:本地跑 70B–120B 模型、多 Agent 并行调试、数据不出本机的隐私场景,需要 96GB 以上可分配显存。
  • 创作者:Stable Diffusion 出图、视频剪辑 + AI 加速、本地语音转写,看重 GPU 性能与软件适配。
  • 桌面训练超算:微调大模型、跑严肃的 Agent 集群实验,需要 TB 级统一内存与数据中心级带宽。

二、核心产品对比表​

产品芯片统一内存内存带宽AI 算力价格形态
NVIDIA RTX Spark20 核 Arm + 6,144 CUDA(Blackwell)128GB LPDDR5X300 GB/s1 PFLOPS(FP4 稀疏,官方口径)未公布(2026 秋上市)笔记本 / 紧凑桌面
AMD Gorgon Halo 平台(Ryzen AI Max Pro 495)16 核 Zen 5 + RDNA 3.5最高 192GB(VGM 可分配 160GB)约 272 GB/s未公布未公布旗舰 APU,Pro 495/490/485 三 SKU
AMD Ryzen AI Max+ 39516 核 Zen 5 + 40CU + NPU 50 TOPS128GB(96GB 可作 VRAM)256 GB/s合计 126 TOPS笔记本 $1,499–2,499笔记本 / 迷你主机
NVIDIA DGX SparkGB10 Grace Blackwell64GB(可用于模型约 56GB)273 GB/s—$4,999(2026-10-23 上市)桌面
NVIDIA DGX Station for WindowsGB300748GB(252GB HBM3e + 496GB LPDDR5X)7.1 TB/s(GPU)20 PFLOPS(FP4)未公布(2026 Q4)桌面超算
Apple MacBook Pro(M4 Max)16 核 CPU + 40 核 GPU128GB546 GB/s—随 Mac 配置笔记本

三、统一内存容量 vs 带宽:真实体验的差异​

统一内存架构下,容量和带宽管的是两件完全不同的事:

  • 容量决定"能不能跑"。70B 模型 4bit 量化约需 40GB+,这解释了为什么 96GB 可分配 VRAM 的 Ryzen AI Max+ 395 能完整装下 70B(Q4)而 48GB 的 M4 Pro 要靠 swap、实测只有约 2 tok/s;192GB 的 Gorgon Halo 平台宣称可本地运行 300B 模型,160GB VGM 单机离线跑 1000 亿参数级模型是 Pro 495 的核心卖点。
  • 带宽决定"跑多快"。Decode 阶段每个 token 都要把权重读一遍,带宽几乎线性决定生成速度。同样是 128GB:M4 Max 的 546 GB/s 对比 Ryzen AI Max+ 395 的 256 GB/s,LLM 生成速度差距可以直接从带宽比例预估——395 跑 70B Q4 实测约 5 tok/s,属于"能用但不快"的水平。
  • ** 两台 DGX Spark 可通过 ConnectX-7 直连把内存池化到 128GB,模型上限提升至 2000 亿参数级,双机跑 Qwen3.8 27B 较单台 128GB 系统峰值最高提升 70%**——这是"容量不够、机器来凑"的官方示范。

一句话经验:容量买"资格",带宽买"体验"。预算有限先保容量门槛,再在同级里挑带宽。

四、x86 vs Arm:兼容性权衡​

RTX Spark 与 Gorgon Halo 的对决,本质是 Arm 与 x86 两条路线的对决:

  • RTX Spark(Arm):优势在 CUDA——6,144 个 Blackwell CUDA 核心原生兼容整个 NVIDIA 软件栈,本地跑 PyTorch、vLLM、Ollama 零适配成本;代价是 Windows 生态绕不开微软 Prism 模拟层运行部分 x86 应用,功耗损失与兼容性问题依然存在。
  • Ryzen AI Max Pro 495(x86):原生 Windows + Linux 直接运行、无模拟层,这是 AMD 对标 RTX Spark 时反复强调的卖点;GPU 侧走 ROCm / DirectML / ONNX Runtime 路线,AI 软件生态成熟度不及 CUDA,llama.cpp、Vulkan 后端等社区方案补位。
  • Mac:原生生态最封闭也最省心,MLX 与 Core ML 体验完整,但 CUDA 专属工具链(多数研究代码、部分训练框架特性)无法使用。

选型建议:深度学习研究者和 CUDA 生态重度用户等 RTX Spark;Windows 企业环境、x86 软件依赖重的选 Gorgon Halo / Pro 495;全苹果生态的创作与轻推理用户留在 Mac。

五、价格与供货风险​

  • 内存涨价正在挤压这一档位:DGX Spark 128GB 创始版价格上调至 $6,950(官方归因于 AI 内存紧缺),而 64GB 版维持 $4,999。DRAM 价格处于 15 年新高,大内存配额紧张可能让 192GB 级产品首发溢价,刚需建议早锁货。
  • 首发参考价:微软 Surface Laptop Ultra $2,599 起(官方宣称 AI 任务速度达 Mac 的 2 倍、视频处理 6 倍);联想 YOGA Pro 15(RTX Spark)80W 功耗、约 1.75kg,天禧 AI 支持 35B 本地模型,参照价 16,999 元档。
  • DGX Station 等等再看:748GB 统一内存 + 20 PFLOPS FP4 的桌面超算 2026 Q4 上市,定价未公布——考虑到其 GB300 血统,预计不会便宜,但它可能是唯一能单机微调千亿级模型的桌面方案。

六、分人群推荐​

  • 轻量本地推理 / 学生:Ryzen AI Max+ 395 笔记本($1,499 起),96GB VRAM 的容量优势同价位无解。
  • 严肃 Agent 开发:DGX Spark $4,999 入门,双机池化到 128GB 覆盖 2000 亿参数级实验;CUDA 生态原生。
  • 创作者:Mac(M4 Max 带宽高、创作软件适配好)或等 RTX Spark(Adobe 全家桶 100% GPU 加速是 NVIDIA 官方合作项)。
  • 桌面训练超算 / 企业工作站:预算充足等 DGX Station for Windows;预算敏感选 Ryzen AI Max Pro 495(192GB)+ Linux,先把 100B 级推理与 LoRA 微调跑起来。

小结​

2026 年的 AI PC 市场第一次出现了完整的四档产品线:万元级 128GB 笔记本、$4,999 的 DGX Spark、192GB 的 x86 旗舰平台和 748GB 的桌面超算。选购逻辑可以浓缩为一句话:先用模型规模定容量门槛,再用体验预期挑带宽,然后按软件生态选 x86 / Arm / Mac 路线,最后在 DRAM 涨价周期里尽早锁定配额。各芯片的完整规格请查阅站内对应芯片卡页面与完整对比表。

AWS Trainium3 架构解析:Project Rainier 之后的性能跃升

· 阅读需 3 分钟
Industry Research Team

2025 年 12 月 2 日,AWS 在 re:Invent 大会上正式发布 Trainium3。作为 AWS 首款采用台积电 3nm 工艺的 AI 芯片,它承载着亚马逊从"给 Anthropic 建算力"走向"对外开放推理服务"的野心。

单芯片:3nm 与更大更快的内存​

Trainium3 单芯片提供 2.52 PFLOPS 的 FP8 峰值算力,支持 FP32、BF16、MXFP8 以及新增的 MXFP4 等多种精度格式,并强化了结构化稀疏与微缩放硬件支持。内存规格的提升同样显著:HBM3e 容量提升至 144GB(为上一代的 1.5 倍),带宽提升至 4.9 TB/s(提升 1.7 倍)。

架构上,Trainium3 针对密集计算与专家并行做了深度优化,明确面向强化学习、混合专家(MoE)与长上下文推理这些前沿负载。AWS 透露,部署 GPT-OSS 等主流开源模型时,单芯片吞吐量提升约 3 倍,响应延迟缩短至原来的约四分之一。

系统层面:144 颗芯片的 UltraServer 与百万芯片集群​

Trainium3 的系统设计延续了 AWS 一贯的"纵向整合"路线:

系统指标Trainium3 UltraServer相对上一代
芯片数量最多 144 颗—
FP8 总算力362 PFLOPS提升 4.4 倍
HBM3e 总容量20.7 TB—
内存总带宽约 706 TB/s提升约 3.9 倍
能效—提升超过 4 倍

互连是这一代的关键升级:新的 NeuronSwitch-v1 把 UltraServer 内部带宽翻倍,芯片间通信延迟降至 10 微秒以内;通过 EC2 UltraClusters 3.0,最多可扩展至 100 万颗芯片的超级集群,规模为上一代的 10 倍。软件侧,Neuron SDK 原生支持 PyTorch 与 JAX,开发者无需重写代码即可迁移,也可以通过 Neuron Kernel Interface 做底层优化。

Project Rainier 之后的算力版图​

Trainium3 的发布建立在 Trainium2 的成功之上。为 Anthropic 打造的 Project Rainier 项目部署了超过 50 万颗 Trainium2 芯片,是全球最大的自研芯片 AI 集群之一;AWS 披露 Trainium 系列全球部署量已突破 100 万颗,业务规模达数十亿美元,2025 年第三季度增长 150%,且 Trainium2 供不应求。Karakuri、Ricoh 等客户反馈,迁移到 Trainium 后训练与推理成本最高降低 50%。

小结与建议​

Trainium3 展示了自研芯片的正循环:规模部署带来真实负载反馈,反馈驱动架构迭代,迭代再扩大规模。与前代相比,这一代最大的变化是从"服务 Anthropic"走向"服务所有企业"——Amazon Bedrock 已在 Trainium3 上运行生产负载。对于正在评估大模型训练与推理平台的团队,Trainium3 UltraServer 提供了 GPU 集群之外的一个高性价比选项,尤其适合 MoE 与长上下文场景;需要留意的是其软件生态仍以 AWS 工具链为中心,迁移前应充分验证自己的模型与框架组合。

买下未来:AMD 收购 MEXT、Taalas、World Labs 的算力版图拼图

· 阅读需 6 分钟
Industry Research Team

当一家市值不足 NVIDIA 五分之一的公司,面对一个 2200 亿美元的市场机会,它该怎么做?AMD 在 2026 年的答案是:不买对手,买能力。MEXT、Taalas、World Labs 三笔收购,拼出的是一幅关于内存、推理与物理智能的算力版图。

三笔收购,三条战线​

2026 年,AMD 连续完成了三笔方向明确但标的各异的收购:

收购标的核心能力战略指向
MEXT内存访问优化显存子系统效率,HBM4 时代的带宽经济学
Taalas快速推理硬件推理专用架构,压缩模型部署成本
World Labs空间智能 / 物理 AI世界模型、机器人与具身智能的芯片入口

三笔收购覆盖了三个看似不相关、实则环环相扣的方向。MEXT 解决的是"数据怎么更快喂进计算单元"——在 HBM4 带宽成为推理瓶颈的年代,内存访问效率的提升直接转化为单位 token 成本的下降;Taalas 解决的是"推理硬件怎么更专"——MI455X 是通用型大芯片,但推理市场的长尾需求需要更极致的专用架构;World Labs 解决的则是"下一代计算场景在哪"——当 AI 从理解文本走向理解物理世界,空间智能就是新的算力需求源。

从"跟随 NVIDIA"到"差异化拼图"​

回看 AMD 过去几年的数据中心路线,主旋律是跟随:MI300X 对标 H100,MI355X 对标 B200,Helios 对标 NVL72——用更大的显存和更低的成本切入市场。这条路线有效,但天花板明显:只要产品定义的坐标系由对手划定,就只能做"性价比版本"。

2026 年的收购组合拳标志着路线切换。三线并购不再是补某个单点参数,而是在构建对手没有的差异化栈:

  • 内存线:MEXT 的内存访问优化能力,叠加 MI400 系列本就领先的 432GB HBM4 与 23.3TB/s 带宽,把"大显存"从规格优势深化为系统级优势;
  • 推理线:Taalas 的快速推理硬件,与 MI455X 的 MXFP4 算力、Wave32 原生执行形成互补,覆盖从旗舰通用到专用推理的完整谱系;
  • 物理智能线:World Labs 的空间智能,为 AMD 打开了机器人、自动驾驶、世界模型这些尚未定型的市场。

值得注意的是 World Labs 的背景——这家由李飞飞创立的空间智能公司,代表的是"AI 理解物理世界"的技术路线。当行业热议物理 AI 与世界模型时,拥有空间智能的芯片化能力,意味着 AMD 在下一个计算周期里有了自己的牌。

千亿美元合作的背景板​

收购需要放在更大的商业版图中理解。2025 年 10 月以来,AMD 先后与 OpenAI 达成 6GW 级合作,与 Meta 达成最高 6GW 的部署计划,两者合计 12GW 以上,且均为 1000 亿美元级的合作体量;Anthropic 将部署最高 2GW 的 MI450 系列并获得 AMD 最高 50 亿美元战略投资;微软在 Azure 大规模部署 Helios 机架,Oracle 则是早期采用者。

这些合作定义了 AMD 的基本盘:数据中心训练与推理。而管理层看到的市场远不止于此——AMD 估算推理与数据中心 CPU 合计存在 2200 亿美元的机会。即便如此,AMD 的市值仍不足 NVIDIA 的五分之一,分析师普遍认为这一差距本身就是追赶空间:只要兑现一部分订单,估值就有结构性修复的动力。

三笔收购正是为兑现服务的:OpenAI 与 Meta 的 GW 级部署需要极致的单位 token 成本(Taalas、MEXT),而真正拉开长期差距的,可能是现在还没人给出定价的物理 AI 市场(World Labs)。

多线并进的两端战场​

拼图不只在数据中心。在端侧,AMD 推出了 Gorgon Halo(Ryzen AI Max 400)——面向 AI PC 与边缘场景的 192GB 统一内存方案,让单机跑下超大参数模型成为可能,这是数据中心 HBM4 大显存战略在端侧的镜像。在生态侧,Cerebras 与 AMD 达成合作开发分离式推理系统,声称每瓦 token 吞吐量提升 5 倍——用对手生态里的创新者补自己的推理短板。

于是我们看到一个三端结构:MI455X 与 Helios 守数据中心高端,Gorgon Halo 占端侧大内存位,收购来的能力填充中间的推理与物理智能空隙。

与 NVIDIA 买法的对比:买能力,而非买对手​

把 AMD 的并购路线放进行业坐标系,差异立刻显现。NVIDIA 近年的资本运作以"买竞品、堵路线"为主:收购推理芯片公司 Groq,投资推理芯片新贵 d-Matrix——目标是消灭或收编可能的挑战者,巩固现有垄断。

AMD 的买法几乎相反。MEXT、Taalas、World Labs 没有一家是 NVIDIA 的直接竞品,它们买的是三种能力:内存效率、推理架构、空间智能。这种"买能力而非买对手"的策略,反映的是追赶者的理性:与其在 NVIDIA 已经筑墙的领域正面攻城,不如把资源投到墙还没砌起来的地方。追赶者买未来,领先者买保险——两种策略没有绝对优劣,但后者需要垄断者的现金流,前者是 AMD 这样的市值体量唯一可行的选择。

风险同样要直言:三线并购意味着三线整合。World Labs 的空间智能如何产品化、Taalas 的推理硬件如何与 MI400 平台协同、MEXT 的技术如何下沉到 ROCm 软件栈,每一条线都需要时间验证。并购成功的从来不是买下公司那一刻,而是能力长进产品那一刻。

小结​

MEXT、Taalas、World Labs 三笔收购,配上 OpenAI、Meta 的千亿美元级合作、Gorgon Halo 的端侧战线与 Cerebras 的生态合作,AMD 在 2026 年完成的不是一次采购行为,而是一次战略定位的切换:从跟随 NVIDIA 的性价比挑战者,转向用"内存-推理-物理智能"三线拼图定义自己的差异化玩家。2200 亿美元的市场机会、不足 NVIDIA 五分之一的市值、尚未定型的物理 AI 市场——对追赶者而言,最好的出手时机就是格局未定之时。这三笔收购能否拼出完整版图,2027 年 MI430X 出货与 World Labs 的首个产品化成果,将是两个关键的验收节点。

AMD 数据中心业务的增长曲线:从追赶者到第二供应商

· 阅读需 4 分钟
Industry Research Team

在英伟达统治AI算力的年代,"第二供应商"不是一个安慰奖,而是一个真实的市场缺口——云厂商们迫切需要一个可以议价的备选项。AMD正在用数据中心业务的增长曲线证明,这个席位它不仅拿到了,而且开始变现。

增长曲线:数据中心收入站稳43亿美元​

2025年第三季度,AMD交出创纪录的92亿美元季度营收,同比增长36%。其中数据中心业务收入43亿美元,同比增长22%,环比增长34%,主要由第五代EPYC处理器和Instinct MI350系列GPU的强劲需求驱动。前三季度数据中心累计收入113亿美元,同比增长29%。

值得注意的一个细节是:AMD数据中心业务的营业利润率在25%左右,明显低于英伟达约七成的整体毛利率。这既是追赶者为撬开市场付出的价格让利,也意味着一旦MI400世代放量、产品组合改善,AMD的利润弹性会比收入弹性更可观。

AMD 2025年第三季度关键数据数值同比变化
总营收92亿美元增长36%
数据中心收入43亿美元增长22%
客户端业务收入28亿美元增长46%
数据中心前三季度累计113亿美元增长29%
Q4营收指引约96亿美元增长约25%

从卖芯片到卖机架:OpenAI与Oracle的两个订单​

真正改变AMD叙事的是两个大单。其一是与OpenAI达成的多年期战略合作:OpenAI将部署6吉瓦的AMD GPU,首批1吉瓦的Instinct MI450部署计划于2026年下半年启动,公司预计该合作未来几年可产生超过1000亿美元的收入。其二,Oracle云将率先上线基于AMD"Helios"机架设计的公共AI超算集群,搭载MI450 GPU、EPYC "Venice" CPU与Pensando "Vulcano"网络方案,首批5万卡于2026年第三季度部署。

Helios机架级方案的意义在于:AMD第一次以整机架形态、支持Meta主导的开放机架宽版规范参与竞争,把竞争从"单卡性价比"升维到"集群总拥有成本"。美国能源部的Lux AI超算选用MI355X、2028年交付的Discovery超算选用MI430X,则进一步巩固了其在主权与科学计算场景的背书。软件侧,ROCm 7的发布持续填补其与CUDA之间最被诟病的生态差距。

追赶的代价:出口管制的账单​

AMD的增长曲线并非没有断点。由于美国出口管制,Instinct MI308对华出货没有产生任何收入,公司还因此在2025年第二季度计提了约8亿美元的库存及相关减值——这笔账单直接压低了当季毛利率,也解释了为什么AMD财报中对华业务始终保持"零假设"的谨慎口径。

从节奏上看,AMD把宝押在MI400世代:MI450负责2026年下半年起的通用AI算力放量,MI430X主攻主权AI与HPC,两者配合Helios机架形成组合拳。管理层对第四季度约96亿美元的指引(不含对华收入)表明,即便在出口管制阴影下,增长轨道依然陡峭。

研判:第二供应商的席位价值才刚开始定价​

AMD的故事本质上是"结构性看涨期权":EPYC在服务器CPU市场持续蚕食份额提供基本盘,Instinct则在大客户急于分散供应链的窗口期完成卡位。6吉瓦协议与千亿美元收入预期仍需数年兑现,中间隔着产能、良率、ROCm生态成熟度三道坎;但只要云厂商的"去单一化"诉求存在,AMD的数据中心曲线就有托底。对产业观察者而言,2026年下半年MI450的实际交付节奏,将是检验这份叙事成色的第一个硬指标。

AMD "Gorgon Halo" 来袭:Ryzen AI Max 400 系列发布,192GB统一内存撞上15年最高DRAM价格

· 阅读需 5 分钟
Industry Research Team

AMD 确认下一代移动端旗舰处理器 Ryzen AI Max 400 系列,代号 Gorgon Halo。这是继 Strix Halo 之后,AMD 在端侧 AI 算力赛道投下的又一枚重锤。然而,这次发布的时间点极其微妙——正值 DRAM 价格创下约15年新高之际,192GB 统一内存的豪华规格能否真正大规模供货,成为业界最大的悬念。

MI355X 到 MI455X:AMD CDNA 两代跳跃解析

· 阅读需 4 分钟
Industry Research Team

在 2026 年 7 月的 Advancing AI 大会上,AMD 拿出了迄今最接近英伟达旗舰的一张对比表。MI455X 不是简单加显存:CDNA 5 重构了计算单元、换上 HBM4、把机柜级互联从短板变成卖点。两代之间的跳跃,恰好记录了 AMD 从"做一张好卡"到"做一台好机柜"的战略转身。

两张规格表看代际差距​

MI355X(CDNA 4,2025 年)的卖点是显存容量与性价比:288GB HBM3E、8TB/s 带宽、10.1 PFLOPS MXFP4,1,400W 功耗。MI455X(CDNA 5,2026 年 7 月 23 日发布)则全面换代:432GB HBM4、23.3TB/s 带宽、40 PFLOPS MXFP4,据公开报道功耗估计超过 2kW(官方未公布 TDP)。

规格MI355X(CDNA 4)MI455X(CDNA 5)
显存288GB HBM3E432GB HBM4(12 堆叠)
显存带宽8TB/s23.3TB/s(约 2.9 倍)
MXFP410.1 PFLOPS40.26 PFLOPS(4 倍)
MXFP85 PFLOPS20.13 PFLOPS
FP16/BF16 矩阵2.5 PFLOPS5.03 PFLOPS
FP32 向量157.3 TFLOPS315 TFLOPS
Scale-Up 互联1.08TB/s3.6TB/s(UALoE,72 通道)
Scale-Out400Gb/s2,400Gb/s(3 组 AI NIC)
晶体管185B320B

架构层面有两个关键动作。其一,CDNA 5 借用了 RDNA 图形线的组织方式:8 个 XCD 内部分成双 Shader Engine,计算单元总量仍是 256 个——4 倍的低精度吞吐提升并非靠堆单元,而靠数据通路重构与频率。其二,L2 缓存从计算 Die 上移走,下沉到两颗 Fabric and Cache Die,提供 192MB、54TB/s 的缓存层。制造上采用 2nm(8 颗 XCD)加 3nm(I/O 与缓存 Die)的混合工艺,是 CoWoS-L 封装上有史以来最大的芯片之一。

Helios 机柜:真正的产品是"一柜子"​

MI455X 的部署形态基本只有一种:Helios 机柜。每托盘 4 卡,整柜 72 颗 MI455X,配 EPYC Venice CPU、Pensando Vulcano AI NIC 与 Salina DPU。整柜指标:2.9 EFLOPS MXFP4、31TB HBM4、1.67PB/s 内存带宽,机柜内 UALoE 聚合带宽 260TB/s,跨机柜走符合 UEC 规范的以太网,Scale Out 带宽 43TB/s。

维度AMD Helios英伟达 Vera Rubin NVL72
单卡显存432GB HBM4288GB HBM4
单卡带宽23.3TB/s22TB/s
机柜显存31TB约 20.7TB
机柜 FP42.9 EFLOPS(MXFP4 口径)3.6 EFLOPS(NVFP4 稀疏口径)
机柜内互联UALoE(开放,260TB/s)NVLink 6(约 260TB/s 级)
生态标准OCP、UALink、UECNVLink、InfiniBand、私有

注意口径差异:两家 FP4 格式(MXFP4 与 NVFP4)缩放方式不同,峰值对比只能看个大概。AMD 强调的是开放牌——Open Rack Wide 机柜规范、UALink、UEC 以太网,让多家设备商都能实现同等设计,这与英伟达的垂直整合形成对照。OpenAI、Meta、Anthropic、微软、甲骨文均已表态采用 Helios。

选型视角​

对推理型业务(长上下文、高并发、大 KV Cache),MI455X 的 432GB 显存与 23.3TB/s 带宽是纸面最强组合,显存敏感的模型分片需求可能直接减少所需 GPU 数量。对训练型业务,ROCm 生态的成熟度仍是关键变量——AMD 宣称 PyTorch、vLLM、Triton 首日支持,但大规模部署的调优经验仍需验证。功耗未定稿也意味着机房设计要保留弹性。而对已经跑在 MI350 上的团队,CDNA 5 延续了内存优先哲学,迁移成本相对可控。

小结​

MI355X 到 MI455X 的跳跃,本质是 AMD 从单卡竞争切换到机柜竞争:显存更多、带宽近 3 倍、互联追平 NVLink,再用开放标准对抗垂直整合。英伟达在机柜算力口径与软件生态上仍领先,但 2026 年的 AI 工厂买家第一次拥有了两个都成立的旗舰选项。