AI Compute Cards Wiki Editorial

每一台GB300机柜从台系代工厂的产线走向北美数据中心，都会在财报上留下痕迹。2026年，这些痕迹汇聚成一场收入海啸：单月营收年增近九成、全年AI服务器营收翻倍目标、单季出货上万柜。但繁荣的背面，是毛利率被压缩到个位数、现金流被库存吞噬的另一本账。

海啸有多猛：营收数字的集体跳涨​

先看台系ODM阵营2026年的成绩。广达3月合并营收3628亿元新台币，月增68.3%、年增88.4%，创单月历史新高，第一季度营收8092亿元、年增66.6%；纬创3月营收3330亿元、年增118%，第一季度8463亿元、年增144%。更早的1月数据同样惊人：鸿海年增35.5%，广达年增61.9%，纬创年增151.5%，服务器代工专业户纬颖年增121.9%。

增长的核心引擎是机柜级AI系统。广达确认2026年第一季度GB300系列出货量已超过GB200，并维持全年AI服务器营收翻倍的目标；纬创2025年出货约5万柜英伟达AI服务器，2026年预估提升至7.5万柜，年增50%，订单能见度已到2027年。广达与鸿海均评估2026年AI服务器业务将实现三位数百分比成长。

OEM 的另一面：超微的高营收与紧现金流​

美系OEM代表超微（Supermicro）交出的账本更能说明行业的天花板与地板。据第三方研究机构基于其财报的拆解，超微2026财年净销售收入达390.6亿美元，同比增长78%，其中GPU与整机柜配置增长83.4%；净利润同比增长113%至22.3亿美元。但代价同样醒目：毛利率仅10.82%，同比还在下滑；经营现金流为负68亿美元，现金转换周期拉长到约169天，存货堆积至103亿美元，另有342亿美元的不可取消采购承诺压在身上。

这组数字揭示了AI服务器生意的商业模式真相：组装厂赚的是"流水钱"——收入巨大、利润极薄、营运资金占用极重。组件成本里昂贵的硅片占比越来越高，机箱与组装的增值空间被进一步压缩，规模不赚毛利、只赚周转。

隐忧清单：三重挤压正在形成​

机遇之下的隐忧值得逐条列出。其一是利润挤压：ODM毛利率普遍在个位数徘徊，AI服务器占比越高、越接近"过手贸易"的财务特征，一旦上游降价或客户压价，缓冲空间极小。其二是资本开支重担：纬创追加近90亿元新台币购置新竹厂房设备、在美国德州设厂，ODM们被迫从轻资产走向重资产，以换取关键客户的独占份额。其三是客户与代际风险：每一代GPU平台切换都是一轮淘汰赛，未能切入新平台供应链的厂商将被迅速甩开；而云厂商自研整机（如开放机架规范）的推进，也在长期侵蚀传统ODM的设计价值。

研判：海啸之后，看谁能把流水变成利润​

AI服务器代工的黄金窗口至少延续到2027年——订单能见度、Vera Rubin平台切换与北美资本开支共同托底，收入海啸不会退潮。但行业内部将剧烈分化：能同时拿下机柜设计权、液冷交付能力与多平台卡位的头部ODM，会把规模优势转化为议价权；纯组装型玩家则可能陷入"增收不增利加现金流紧绷"的Triple挤压。观察下一阶段的两个关键指标：一是机柜级订单中自主设计（而非纯代工料件）的占比，二是现金转换周期能否从极端水位回落。海啸所有人都能淋到，但只有学会冲浪的厂商能把浪头变成护城河。

手机 NPU 的峰值算力九年间从 0.6 TOPS 涨到 80 TOPS，但一个 3B 模型在端侧的流畅运行，靠的早已不是 TOPS 数字。当云端推理进入万亿参数时代，端与云的分工边界在哪里，正在被重新谈判。

移动 NPU 的进化与瓶颈​

从 2017 年麒麟 970 与苹果 A11 首次引入移动 NPU，到 2026 年的旗舰平台，端侧 AI 算力完成了百倍跨越：

但 TOPS 从未是真实体验的保证。第三方评测显示，骁龙 8 Elite Gen 5 在运行 8B 量化模型时会因 LPDDR5X 总线带宽（约 85GB/s）饱和而跌到每秒 12 个 tokens 附近——内存带宽而非算力，才是端侧推理的第一瓶颈。峰值 80 TOPS 跑不快一个 8B 模型，这就是移动 AI 的现实：算力年年翻倍，带宽却受制于手机内存的功耗与体积约束，增速远远掉队。

端云分工：三层负载的清晰分层​

2026 年旗舰机型的实践已形成相对稳定的分工范式：

• 端侧必留：唤醒词、拍照语义处理、实时转写、通话翻译等常驻功能——低延迟、离线可用、隐私敏感，且可在微瓦级功耗下待机运行；
• 端侧可选：3B 到 8B 级量化小模型承担的摘要、改写、本地图像生成，牺牲部分质量换取零网络依赖；
• 云端包办：前沿推理模型、视频生成、复杂智能体编排——端侧算力与显存天花板决定了这些负载短期内无可下沉。

三星宣称到 2026 年底将 Galaxy AI 覆盖 8 亿台设备，其策略正是典型的混合路由：个人数据本地处理，复杂推理按需上云。谷歌 Tensor G5 的思路则提供了另一个注脚——它不在原始算力上争第一，而是专为 Gemini Nano 做软硬协同优化，用更低的 TOPS 跑出更好的实际效果。

边界正在向哪里移动​

三个变量将决定端云边界的走向。其一是内存技术：移动内存带宽的持续爬升与更大容量封装的普及，可能把端侧可流畅运行的模型推到 10B 以上；其二是模型效率：蒸馏与量化每前进一代，端侧可承载的能力就上移一档；其三是隐私监管：数据出境与个人信息保护要求趋严，会持续把更多推理"推"回设备内部。综合业界普遍预期，端侧将稳态承接约七成的推理调用次数，但按算力消耗总量计，云端仍将占据绝对大头——调用次数的多，不等于算力的大。

结语：端云不是对手，而是流水线的两站​

把端云关系理解为竞争，是对这场变革最大的误读。手机 NPU 的角色是"常驻的感官与反射"，云端大模型是"按需调用的大脑"，两者通过意图路由与模型分级协同工作。对芯片产业而言，这意味着两端将长期并行增长：云端拼每瓦 tokens，端侧拼每毫安时 tokens——两个优化方向，同样残酷，也同样机会巨大。真正的赢家，是那些把"什么时候在端、什么时候上云"做成无感体验的厂商。

在 LLM 推理框架火热之前，视觉 AI 早就打磨出一条成熟度极高的部署流水线：PyTorch 训练、ONNX 交换、TensorRT 编译、推理服务托管。这条链路今天依然是目标检测、分割、OCR 类业务的标准答案。

全景流水线与各环节要点​

trtexec 是流水线的瑞士军刀​

引擎构建不必写代码，trtexec 一条命令完成：用 --onnx 指定输入，--fp16 或 --int8 指定精度策略，--saveEngine 输出序列化引擎。做 INT8 时需提供校准数据（通常 100 到 1000 张代表性图像），TensorRT 默认使用熵校准器统计激活值分布，首次构建生成校准缓存可复用。动态输入是视觉业务刚需，必须显式给出 minShapes、optShapes、maxShapes 三档 profile，运行期张量尺寸落在区间内即可免重编译。构建完成后用 --loadEngine 加载压测，配合 --useCudaGraph 能显著降低内核启动开销，嵌入式设备上这一项常带来两位数的吞吐提升。

量化策略与精度守护​

INT8 能把时延再压一档、显存降三成以上，但不是所有层都能安全量化。工程惯例是让 TensorRT 自动混精度：对量化敏感层保留 FP16 或 FP32 回退，这就是 --fp16 与 --int8 同时开启的原因。精度守护流程必须制度化：固定校准集与评测集，量化后跑完整 mAP 对比，掉点超过业务阈值就启用 QAT（量化感知训练）补救。另外要记住 TensorRT 引擎与 GPU 架构、驱动版本强绑定，换卡必重编，构建耗时和 timing cache 策略要纳入 CI 考量。

实操建议​

把整条流水线做成 CI 任务：每次模型提交自动导出 ONNX、跑算子兼容检查、构建 FP16 与 INT8 双引擎、输出精度与时延对比报告，人工只审报告。上线用 Triton 托管多版本引擎灰度切换。最后一句经验：先锁 opset 版本再动其他，90% 的导出诡异问题都源于训练侧随手升了 opset 而部署侧解析器没跟上。

CUDA 的护城河有多深？20 年的代码沉淀、与主流框架的深度绑定、一代工程师的肌肉记忆。但 2026 年，三条隧道正在城墙下方掘进：华为 CANN 全面开源，AMD ROCm 借 MI455X 补课，PyTorch/Triton 中立层持续稀释锁定。本文逐条拆解。

CUDA 护城河的本质​

CUDA 不是一个库，而是一整套生态惯性。站内 NVIDIA 规格卡反复出现的细节印证了这一点：RTX Spark 全栈 CUDA、DGX OS 预装完整 NVIDIA 软件栈、PyTorch with CUDA 原生兼容。护城河由三层构成：

1. 代码沉淀：cuDNN、cuBLAS、NCCL、TensorRT 等组件经过近 20 年打磨，算子覆盖度与稳定性无可替代；
2. 框架绑定：PyTorch、TensorFlow 的默认后端是 CUDA，新模型上线第一天就有 CUDA 支持；
3. 人才习惯：开发者学的是 CUDA 编程模型，迁移到任何新平台都有重学成本。

这种惯性意味着：即使竞品硬件性能追平，软件栈差距仍会让用户停留在原平台。要翻越这堵墙，硬攻不如打隧道。

隧道一：CANN 开源，用开放换生态​

华为选择的路是把家底亮出来。站内昇腾 960 规格卡记录：CANN 全面开源并进入常态化社区运营，外部开发者占比升至 61%（首次超越内部团队），月活跃开发者突破 5200 人。HC2026 补充口径进一步给出：CANN 已支持 40+ 模型原生训练，兼容 PyTorch、Triton、vLLM、veRL 等 90+ 开源项目，并成为 PyTorch 官网首个中国算力平台。

更关键的是头部模型厂商的背书：DeepSeek 与华为联合开源了面向昇腾 950 加速器的编程工具与库（含计算与通信库），明确瞄准降低 NVIDIA 生态锁定。当最强的开源模型团队直接参与昇腾工具链共建，"昇腾只能跑推理"的旧叙事被正式改写——DeepSeek 此前已在昇腾上完成训练侧验证。

CANN 策略的本质是：单芯片性能可以落后一代，但只要开源生态的迁移摩擦足够小，系统级方案（4096 卡超节点、统一内存编址）就能补齐单卡差距。

隧道二：ROCm 补课，用性能换迁移​

AMD 的路线不同：不是换赛道，而是在 CUDA 的主场追赶。站内 MI455X 规格卡显示：CDNA 5 架构、432GB HBM4、MXFP4 算力 40.3 PFLOPS，2026 Q3 末出货、H2 2026–H1 2027 规模爬坡；MI430X 支持 FP64 双精度并将驱动 LUMI-AI 超算。硬件到位之后，ROCm 的补课重心是算子覆盖与框架兼容——从 PyTorch 官方支持到 vLLM/sglang 的推理后端适配，开源社区的力量正在把 ROCm 从"能用"推向"好用"。

国产第二梯队的路径也值得注意：站内天数智芯天垓150 规格卡记录，其软件栈 IXUCA 高度兼容 CUDA 生态，官方口径迁移时间下降 50% 以上，适配主流深度学习框架与 200+ 模型（厂商口径）。兼容 CUDA 的"寄生式"策略，是在城墙阴影下最务实的生存方式。

隧道三：PyTorch/Triton 中立层稀释锁定​

前两条隧道是厂商挖的，第三条是社区挖的。PyTorch 2.x 的 compiler 栈（torch.compile）与 OpenAI Triton 让开发者写的模型代码可以不直接接触 CUDA——同一份 PyTorch 代码在 CUDA、ROCm、CANN 后端之间切换的成本逐年下降。当模型定义层与硬件执行层解耦，CUDA 的"默认后端"地位就从护城河变成了可选组件。CANN 能进 PyTorch 官网、ROCm 能成为官方后端，都是这个中立层稀释效应的体现。

绕过式创新：SINQ 与 Strata​

除了正面挖隧道，还有两条"绕过"城墙的小路：

• 华为苏黎世实验室开源的 SINQ 量化技术：官方测试称可将大模型显存占用削减约 60%-70%——显存需求骤降后，原本装不下的模型可以装进更小的卡，硬件门槛被算法直接拉低；
• OpenAI Strata 开源推理引擎：基于 C++20 与 CUDA，在 12-24GB 的游戏显卡上运行 125B Qwen MoE 模型，吞吐 60-95 tok/s，核心创新是专家缓存机制（CPU/GPU 并行）。它证明了软件创新可以让"消费级显卡跑大模型"成为现实。

这两项技术的共同点是：用算法层创新绕过硬件层差距——量化绕过显存墙，MoE 专家缓存绕过算力墙。软件栈竞争的维度因此变得更加多维。

开发者迁移决策树​

面对多平台选择，一个务实的决策路径：

1. 训练前沿模型？ 优先 CUDA 栈——算子覆盖与稳定性仍是训练侧硬需求，除非有明确的国产化合规要求；
2. 国产化合规优先？ 评估 CANN：40+ 模型原生训练、PyTorch/Triton/vLLM 支持已覆盖主流工作流，用小规模试点验证自己的模型清单；
3. 推理为主、成本敏感？ ROCm 平台（MI455X 432GB 显存）与 Strata 类引擎值得 POC，量化技术（SINQ 等）可显著降低硬件档位；
4. 多平台部署？ 把代码收敛到 PyTorch/Triton 中立层，避免深度依赖平台专有 API——这是面向未来的对冲。

小结​

CUDA 的城墙依然坚固，但 2026 年的掘进速度前所未有：CANN 用开源把外部开发者占比推到 61%，ROCm 借 MI455X 量产获得性能与出货的双重背书，PyTorch/Triton 中立层则从根上稀释锁定价值。叠加 SINQ、Strata 这类绕过式创新，"非 CUDA 平台不好用"的断言正在失效。对开发者而言，最优策略不是站队，而是站到中立层上——让每一条隧道都成为自己的备选出口。

2026 年 4 月 24 日，DeepSeek V4 开源并宣布全面适配华为昇腾，成为全球首个在国产 AI 芯片上完成全栈推理适配的万亿参数级开源模型。一场"开源模型拉动国产算力、国产算力反哺开源生态"的飞轮，开始加速转动。

Day 0 适配：从后补迁移到原生生长​

过去国产大模型普遍在海外 GPU 上开发训练，再向国产芯片做后补式迁移，成本高、周期长、性能损耗显著。DeepSeek V4 改写了这一模式：据公开报道，其团队联合华为、寒武纪从底层框架开展重构，基于 CANN 与 NeuWare 软件栈重写数十万量级的核心算子，针对稀疏 Attention、GroupGemm 等关键内核深度优化，对昇腾、寒武纪最新旗舰芯片实现发布即适配。

适配潮随即扩散：寒武纪依托 vLLM 框架完成 V4 双版本适配并将代码开源至 GitHub；摩尔线程联合智源 FlagOS 社区在旗舰 GPU 上完成深度优化部署；百度千帆、阿里国际等平台实现 Day 0 接入。多家券商研报预计，2026 年国产算力芯片出货量将实现翻倍增长。

飞轮的四个咬合齿轮​

这条飞轮的运转逻辑可以拆成四步：

两个补充齿轮同样关键。其一，昇腾已成为 PyTorch 官方支持的首个中国算力底座，覆盖 90 多个主流第三方社区，全球开发者无需繁琐流程即可调用昇腾算力；其二，智源研究院牵头的开源统一软件栈 FlagOS 已支持英伟达、摩尔线程、华为、海光、天数等多种芯片，直指"换一家芯片就要重学一遍"的行业痛点——软件碎片化曾是国产算力最大的隐性成本。

推理成本下降的正循环​

模型与芯片的深度协同直接压低了推理边际成本。DeepSeek 方面表示，受高端算力供给限制，V4-Pro 服务吞吐量暂时有限，待下半年昇腾 950 超节点量产后，定价有望大幅下调——算力供给的改善会直接传导为应用调用降价，进而加速 AI 向实体经济渗透。硬件形态上，国产厂商也在集体升级：在世界人工智能大会上，壁仞、沐曦、燧原、摩尔线程相继发布超节点产品，阿里云推出可公共云租用的超节点实例，"超节点"已成为国产算力的行业共识。此外，有报道指出，新一代模型在昇腾上完成混合专家并行方案验证后，推理任务实现了 1.5 至 1.73 倍的加速。

结语：飞轮转起来之后​

DeepSeek 效应的真正启示在于：生态壁垒的攻破不靠单点性能对标，而靠"模型免费开放、算力成本可控、软件迁移低摩擦"三者共振。飞轮一旦转起来就会自我强化——更多应用选择国产芯片，芯片出货放大摊薄软件投入，软件更成熟又吸引更多模型原生适配。从"能用"到"好用"仍有距离，工具链成熟度与高端产能仍是短板，但方向已经清晰：国产算力的竞争逻辑，正在从追赶参数转向经营生态。

据 The Gist/The Index Today 10月10日汇总，OpenAI 的商业化图景正以两条相互撕扯的曲线展开：一边是年化营收朝年底约700亿美元的方向快速推进，另一边是 Q2 运营亏损扩大至123亿美元。与此同时，这家公司在企业服务、消费产品与广告变现三条战线上同时铺货，并用数千亿美元级的算力协议锁定未来。本文为您梳理全景。

当 Oracle 用卡车运送天然气维持数据中心运转，当戴尔要在东京附近自建燃气电厂，一个事实已经无法回避：在 AI 工厂的成本结构里，电力正在取代芯片成为第一约束。本文梳理这场能源危机的证据链，以及行业的两条自救路线。

电力成为第一约束的证据链​

证据链从芯片功耗表开始。站内 Rubin R200 规格卡显示：单卡 TDP 1800-2300W、必须液冷，Vera Rubin NVL72 机柜整体功耗约 180kW、定价 350-400 万美元。而这只是开始——

机架功耗三年翻四倍，电网侧的配套却以五年为周期规划建设。缺口由此产生，并且已经产生了荒诞但真实的运营现实：据 Bloomberg 确认，Oracle 用卡车运送天然气维持多座数据中心的运转——电网容量跟不上，只能用最原始的物流方式给服务器"送电"。行业分析师给出的方向性数字是 $10 万亿美元级别的数据中心建设需求，其中相当比例将花在电力基础设施上。

需求侧的另一个信号是报建数据：Anthropic 在德州 Cedar Creek 的数据中心项目报建金额为 3.66 亿美元——这还只是头部实验室扩张计划中的一个节点。

自救路线一：离网自建燃气电厂​

第一条路线是不再等电网，自己发电。标志性案例是戴尔与日本 Jera（JERA）、Rhaelm 合作，在东京附近投资 150 亿美元建设 400MW 离网 AI 数据中心，配套燃气电厂，计划 2028 年投入运营。400MW 约等于十几万台高性能 GPU 的供电规模，"芯片厂+能源商+集成商"的组合预示着未来 AI 工厂选址的新范式：哪里有气源，哪里就能建机房。

离网自建的优势是确定性与速度——不受电网排队与扩容审批的制约；代价是资本开支剧增与能源资产的沉没成本。对于有长期算力承诺的超大规模客户，这笔账算得过来；对于中小算力运营商，则更可能通过租用离网机房来间接获益。

自救路线二：电网响应式数据中心​

第二条路线是与电网合作，让数据中心成为电网的"可调负载"。2026 年 9 月 16 日，Emerald AI、Google、NVIDIA 共同成立 AEMA 联盟（先进能源与算力联盟），推动数据中心参与电网需求响应。一个直观的案例来自硅谷：当地电力公司已向 NVIDIA Eos AI 工厂发出 200 余次需求响应信号——每当电网紧张，AI 工厂可以短时降载，换取电价优惠或容量豁免。

这条路线的理论基础是 AI 负载的时间弹性：训练可以断点续跑，推理可以排队，某些批处理任务完全可以错峰。当数万座 AI 工厂都具备柔性用电能力，数据中心就从电网的"负担"变成了"调节资源"。

DSX 的"软件定义能耗管理"玩法​

两条路线之间，NVIDIA 还提供了第三种思路：用软件榨干每一瓦的性能。NVIDIA DSX（含 MaxLPS 等能耗管理组件）在 Lambda 的实测中实现了同功率下 token 吞吐 +24%、每瓦性能 +23%——不增加一度电，多产出近四分之一的智能。

这三种打法并不互斥：现实的 AI 工厂往往是"自备电源打底 + 电网响应削峰 + 软件调度提效"的组合拳。

电力之外的第二个硬约束​

在讨论能源时，别忽略存储。美光给出预测：存储短缺将持续到 2028 年。HBM 与 DRAM 的紧张不仅推高整机成本（站内 Rubin Ultra 卡记录：内存已占整机 TCO 约 40%），还直接限制了单位电力所能部署的算力——当一张 1800-2300W 的 GPU 需要搭配 288GB HBM4 才能发挥性能，存储供给与电力供给实际上是同一个产能问题的两面。

对 AI 工厂选址与 TCO 的影响​

对计划自建或租用算力的团队，能源变量必须写进 TCO 模型：

1. 电价参数是最大变量。在站内 TCO 计算器中调整电价参数即可发现：当机架功耗进入 200kW+ 区间，三年电费支出可与整机柜购置费同一量级，选址的每度电差价会直接改写回本周期。
2. 离网溢价与确定性溢价。离网机房的每度电可能更贵，但换取的是不排队、不停电的确定性——对训练任务，停电机会的成本远高于电价差。
3. 需求响应收益。具备降载能力的机房可从电力公司获得电价优惠，这部分收益在传统 TCO 模型中通常被遗漏，在 200+ 次需求响应信号的硅谷案例里已经真金白银。

小结​

"电比卡贵"不再是修辞：Oracle 的天然气卡车、戴尔的自建电厂、$10 万亿的建设需求，共同勾勒出 AI 算力竞争的下一战场在能源。行业的自救分成三条线——离网自建换取确定性、电网响应换取经济性、软件提效换取每瓦产出。对于在 2027 年计划部署 Rubin Ultra 级 600kW 机架的玩家，今天要谈的不是芯片合同，而是电力协议。算力的尽头是能源，这句话正在从口号变成资产负债表。

每一次制程换代都会重新洗牌 AI 算力格局。2026 年，2nm 从路线图走进量产车间：AMD 抢下 N2 AI GPU 首发权，EPYC Venice 成为全球首款 2nm 数据中心 CPU，Intel 的 High-NA EUV 则悄悄跨过百万晶圆门槛。制程竞赛的规则，也在这一年悄悄改变。

制程、能效与晶体管密度的链条​

制程的意义可以用一条链概括：更小的晶体管 → 更高的密度与更低的开关功耗 → 同样封装面积塞进更多计算单元与更大缓存 → 单位 token 的能耗与成本下降。对 AI 芯片而言，这条链的最后一段尤其重要——推理集群的电费和散热已经取代芯片采购价，成为 TCO 的最大头之一，制程每前进一代，同等机柜功率下能跑的 token 数就上一个台阶。

2026 年的 2nm 落地图谱如下：

N2 AI GPU 首发为何是 AMD​

按过往节奏，新制程的首发大客户通常是谁？答案是 AMD——而且这不是偶然。MI455X 采用 8 个 N2 计算芯粒（XCD）加 2 个 I/O die 与 2 个缓存/fabric die（N3）的混合封装：把最吃密度的计算芯粒放最先进节点，把成本敏感的 I/O 与缓存留在成熟一档的 N3，用 CoWoS-L 先进封装拼合，既拿到 2nm 的能效红利，又控制了整片成本。

同一家公司连下两城：EPYC Venice 用 N2 做出 8 颗 Zen 6C CCD、每颗 32 核、总计 256 核、1GB L3 缓存的怪兽 CPU，单路内存带宽 1.6TB/s，与 MI455X 组成 Helios 机架（18 颗 Venice + 72 颗 MI455X，31TB HBM4，2.9 FP4 exaFLOPS）。CPU 与 GPU 同代同步上新制程，是 AMD chiplet 战略的复利——分芯粒设计天然适配"最先进节点给计算、次先进节点给 I/O"的分配策略。Google TPU 8t 也选择了同样的 N2 + Broadcom 协作路线，印证了"定制 ASIC 抢新制程"的趋势。

High-NA EUV 百万晶圆的意义​

Intel 在 2026 年 9 月 21 日当周披露，其 Foundry 的 High-NA EUV 产线累计处理晶圆已超过 100 万片。这个数字的意义在于：High-NA EUV——分辨率更高、专为 2nm 及以下节点准备的下一代光刻机——从"实验室样机"正式进入"规模化生产"阶段。百万晶圆意味着工艺窗口验证、良率爬坡和产能利用都跨过了商业化门槛，Intel 18A 与 14A 路线因此有了现实的制造底盘。

对照看三星的动作同样密集：HBM4 已于 2026 年 2 月量产（成为 Rubin 等旗舰 GPU 的 HBM 供应商之一），2nm AI 芯片制程则与台积电形成竞争态势，目标 2027 年量产。制程竞赛与 HBM 竞赛第一次同步开跑。

"十年之约"：平台期被拉长​

台积电的投入力度佐证了这个节点的分量：2026 年 CAPEX 顶格到 560 亿美元上限，全年营收增速指引 30% 以上，3nm 产能同时在台湾、亚利桑那与熊本三地扩张。但硬币的另一面是 ASML 与 ZEISS 给出的"十年之约"——下一代光刻（High-NA 之后的技术）可能还需要十年才能成熟。这意味着 2nm/1.4nm 将成为一个超长平台期：没有新的光学分辨率红利可吃，各家的竞争焦点必须转移。

转移的方向已经很清晰。第一是先进封装：MI455X 的 12 颗 HBM4 堆栈、Rubin 的 MCM 多芯片设计，都说明系统级创新正在替代晶体管微缩。第二是 HBM 配套：N2 计算芯粒如果没有 22-23TB/s 的 HBM4 喂数据，算力就是摆设——制程与内存的协同定义能力，比制程数字本身更能决定产品成败。

小结​

2026 年的制程竞赛呈现出三个信号：2nm 实力量产，AMD 借 chiplet 架构连夺 AI GPU 与数据中心 CPU 双首发，Google 定制 ASIC 跟进；Intel 用 High-NA EUV 百万晶圆宣告制造能力回归牌桌；而 ASML 的十年之约意味着制程数字的边际收益递减，先进封装、HBM 协同与能效工程将成为新的竞争主轴。对 AI 算力买家来说，评估一颗芯片时，"几纳米"正在变成一个越来越不完整的答案——封装里装了什么、带宽喂了多少、每瓦能跑多少 token，才是更完整的提问方式。

torch.compile 常被当作"提个速的开关"，但对 AI 基础设施工程师来说，它更大的价值在于暴露了一套清晰的编译栈分层：TorchDynamo 负责捕图，后端负责下沉。理解这套分层，才能看懂国产芯片为什么能在不 fork PyTorch 的前提下接入。

编译栈的三层结构​

PyTorch 2.x 的编译链路可以拆成三层：

1. TorchDynamo：在 Python 字节码层面安全捕获计算图，遇到不支持的语法自动切段（graph break），保证兼容性优先。
2. 后端接口：torch.compile 的 backend 参数既接受内置名称，也接受任意可调用对象，签名为接收一个 FX GraphModule 与示例输入，返回优化后的可执行体。这层是所有第三方硬件的接入点。
3. TorchInductor：默认后端，为 NVIDIA、AMD、Intel GPU 生成 Triton 或 C++ 内核，支持 max-autotune、reduce-overhead 等模式，并通过动态形状追踪避免频繁重编译。

内置后端与自定义后端​

PyTorch 树内提供了一批非实验性后端，可以用 torch._dynamo.list_backends() 枚举：

自定义后端的最小实现非常简单：写一个函数接收 GraphModule，做完变换后原样返回，就能挂进 torch.compile。厂商的真功夫在于把 FX 图拆分、算子映射到自家指令集、再生成高性能内核，同时处理动态形状与守护条件（guard），避免图缓存失效退化回 eager。

国产芯片的接入实践​

昇腾走的是 torch-npu 路线：以 PyTorch 插件形式提供 NPU 设备支持，vllm-ascend 的路线图里专门有支持 torch.compile（图模式）的条目，通过 ACL 图捕获来降低调度开销。这意味着上层代码基本不需要为编译模式做特殊改造，由插件在算子级完成下沉。类似地，Intel 在 PyTorch 2.5 中增强了 GPU 后端的 torch.compile 支持，并用 AMX 指令优化了 Xeon 上的 FP16 路径。对自研加速器团队而言，官方建议的路径是先让模型在 eager 模式跑通，再逐段评估 graph break 位置，最后决定是注册独立后端还是为 Inductor 扩展设备支持。

实操建议​

接入新硬件时优先确认三点：官方是否提供 PyTorch 插件而非 fork 版框架；插件对 torch.compile 的支持程度是"有接口"还是"经过生产验证"；动态形状场景的重编译频率是否可控。工程师调试编译链路时善用 TORCH_LOGS 环境变量（设为 guards 或 dynamic 可以定位守护失败与过度特化），并用 cache_size_limit 关注图缓存上限——缓存打满会静默回退 eager，性能悄悄掉一半而无人察觉。

数值格式（FP8、FP4）解决的是"硬件支持什么精度"，而量化算法解决的是"训练好的模型怎么安全地住进低精度"。后者才是工程落地的日常：手里一个 70B 模型、一张 80GB 的卡，怎么让它跑起来还尽量不掉点。

GPTQ：用二阶信息做误差补偿​

GPTQ 的思路源于经典的二阶最优剪枝方法。它逐层处理权重：用少量校准数据（几百条即可）估计该层输入的二阶统计量，然后按列量化权重，每量化一列，就利用 Hessian 信息调整其余未量化列，把引入的误差"摊"到还没量化的地方去补偿。整个过程不需要反向传播，在单张卡上几个小时内就能压完一个百亿级参数模型。

代价是它本质上在做"整体最优的近似"：逐层的贪心决策叠加起来，对校准数据分布有一定敏感性，校准集与真实业务分布偏差大时，掉点风险随之上升。

AWQ：抓住关键的 1% 通道​

AWQ 从另一个观察出发：权重中真正对精度敏感的通道，是那些对应激活值特别大的少数通道——通常只占 1% 上下。与其逐列做全局误差补偿，不如识别出这些显著通道，用一个按通道缩放的变换保护它们，让它们落在量化网格的"好位置"上。

这个方法同样不需要反向传播，校准成本与 GPTQ 相当，但对校准数据规模和分布的依赖更弱，跨领域、跨任务的鲁棒性通常更好，这也是它在开源社区部署中被广泛采用的原因。它只解决权重侧的压缩（常见的 W4A16 形态：权重 4bit、激活保持 16bit），计算时需要把权重反量化回高精度再做矩阵乘。

W8A8 与激活离群值​

想同时压缩激活（W8A8）会撞上大模型的经典难题：激活分布中存在系统性的离群通道，个别通道的数值比其余大几个数量级，直接按统一 scale 量化会把这些通道全压废。SmoothQuant 的解法很巧：用一个等效数学变换，把激活里的离群难度迁移到权重侧，让两边都变得"平缓"，从而实现全整数推理。W8A8 的算子效率高、适合大 batch 高并发服务，但精度风险高于 W4A16，需要更仔细的评估。

方法对照与取舍​

实操建议​

单卡或双卡要装下大模型、追求低延迟，选 W4A16 的 AWQ 或 GPTQ，两者精度差异通常不大，优先看框架支持度；高并发吞吐场景考虑 W8A8。评估时不要只看困惑度，困惑度的小幅变化可能对应下游任务的大幅波动，务必跑自己的业务评测集。另外，KV Cache 量化是独立的压缩维度，长上下文场景可与权重量化叠加使用。最后，任何量化方案上线前都先在影子流量上对照全精度基线跑一段时间，这是最便宜也最可靠的保险。