AI Compute Cards Wiki Editorial

在国产 GPU 的宣传语境里，峰值算力常常被放大到失真。天数智芯是少数反着来的公司：2021 年发布的天垓 100 是国内首款完成规模量产的全自研通用 GPU 云端训练产品，2023 年的天垓 150 则在显存与生态适配上持续做深。不喊最强的口号，先交付能用的产品，这条"实干路线"值得单独解析。

规格：为大模型训练配平的板卡​

天垓 150（板卡型号 BI-V150）基于第二代自研通用 GPU 架构 ivcore11，采用台积电 7nm 工艺，规格综合官方与高校采购公示信息如下：

参数	天垓 100（BI-V100）	天垓 150（BI-V150）
发布时间	2021 年 3 月	2023 年
FP32 算力	约 37 TFLOPS	48 TFLOPS
FP16 算力	约 147 TFLOPS	192 TFLOPS
INT8 算力	约 295 TOPS	384 TOPS
显存	32GB HBM2	64GB HBM2e
显存带宽	未公开	1.2 TB/s
功耗	250W	350W

显存从 32GB 翻倍到 64GB 是天垓 150 最关键的一步。大模型训练需要同时容纳参数、激活、梯度与优化器状态，64GB HBM2e 配合 1.2 TB/s 带宽，使其能承载主流开源大模型的训练与微调任务。

软件生态：把迁移成本当核心指标​

天数智芯官方强调系统架构、指令集、核心算子到软件栈全部自主研发，同时把"开发易迁移"作为产品卖点：工具链内置 CUDA 通用计算加速库，支持 PyTorch、TensorFlow 等框架与 ixrt 推理引擎；大模型侧已适配 LLaMA、Qwen 等体系，兼容 DeepSpeed、Megatron-LM、Colossal-AI 等训练框架，推理侧对接 vLLM、TGI；并对主流开源模型提供发布即适配的快速响应。公司还运营 DeepSpark 开源社区，围绕模型、算法与评测构建开发者生态。

产品矩阵与资本里程碑​

围绕天垓 150，天数智芯已形成三条产品线：天垓系列负责云端训练，智铠系列负责云端推理（智铠 100 于 2022 年 12 月发布，150W 功耗下提供 96 TFLOPS FP16 与 384 TOPS INT8），彤央系列则把算力延伸到边缘与终端，TY1200 平台可离线运行 35B 级模型。

天垓 150 在市场上强调"异构混训"能力——企业不必替换全部现有 GPU 资产，国产卡可以逐步加入既有集群，这种渐进式思路显著降低了客户决策阻力，高校、智算中心的采购公告中屡见其身影。资本层面，公司于 2026 年 1 月 8 日登陆港交所，发行价 144.60 港元，募资净额约 35 亿港元；2026 年 7 月又发布了新一代天垓 300，训练产品线继续向上延伸。

小结：慢就是快​

天垓 150 没有惊艳的参数，但每一项规格都指向真实可交付的训练负载。从天垓 100 的首次量产到天垓 150 的显存翻倍，再到天垓 300 的接棒，天数智芯用五年时间验证了一条朴素路线：先让客户用起来，再让产品强起来。对于看重长期供应稳定性、需要异构混训方案的用户，天垓 150 至今仍是一张值得认真评估的训练卡。

作为全球 AI 生态活力第三的国家，印度正试图回答一个问题：一个拥有庞大开发者群体却几乎没有先进芯片制造能力的国家，如何建立自己的主权算力体系。

IndiaAI 使命：算力、模型与数据三条线并进​

IndiaAI 使命于 2024 年 3 月获批，五年总预算约 10372 亿卢比（约 12 亿美元量级），算力是其第一根支柱。据印度政府向议会提交的说明，共享算力设施接入的 GPU 数量从 2026 年 3 月的超过 3.8 万张增长到 6 月的超过 4.5 万张，通过算力门户以补贴价格向初创公司与学术界开放；截至 2026 年 8 月，已有 237 个项目获批使用补贴算力，累计核销超过 9318 万 GPU 小时。政府还为新德里 NIC 数据中心下单了一套约 1.1 EFLOPS 的高性能 AI 计算系统。

模型侧，官方从 506 份申请中遴选出 20 个本土基础模型提案，包括 12 个大型多模态模型与 8 个小型语言模型。已发布的成果包括 Sarvam AI 的 300 亿与 1050 亿参数模型、BharatGen 的多语言模型系列等。数据平台 AI Kosh 已汇聚超过 1.4 万个数据集与 331 个 AI 模型。据斯坦福 2025 年全球 AI 活力报告，印度 AI 竞争力与生态活力位列全球第三，GitHub AI 项目贡献量全球第二。

印度主权算力关键指标	数据（截至 2026 年）
IndiaAI 使命预算	约 10372 亿卢比（五年）
共享算力池 GPU	超过 4.5 万张
获批使用算力的项目	237 个，9318 万 GPU 小时
本土基础模型提案	20 个（12 个多模态、8 个小模型）
半导体项目	12 个，投资承诺超 1.64 万亿卢比
数据中心装机容量	从 2020 年 375 兆瓦增至约 1575 兆瓦

Semicon 2.0：从政策框架走向制造落地​

芯片制造是印度算力主权的另一半拼图。Semicon 1.0 以 7600 亿卢比构建生态，已批准 10 个半导体制造单元，其中 1 个实现商业量产、3 个进入试产；塔塔电子在古吉拉特邦的晶圆厂投资达 91526 亿卢比量级，目标产能每月 5 万片，覆盖 28 纳米至 110 纳米节点。2026 年 7 月获批的 Semicon 2.0 将投入提升至 127500 亿卢比，重点扩展芯片设计、设备材料、先进封装与人才培养。

设计生态的积累同样值得注意：根据设计挂钩激励计划，24 个芯片设计项目获资助，103 家无厂设计公司获得 EDA 工具支持；截至 2026 年 4 月，75 家机构已完成 211 款芯片流片，其中 7 款成功制造，涵盖包括台积电 12 纳米在内的多个工艺节点。国家超算任务下，基于 RISC-V 开源指令集的本土处理器、GPGPU 与加速器研发也在推进。此外，印度在 2026 年印度 AI 影响力峰会上加入了 Pax Silica 联盟，与美国等伙伴共同维护硅供应链安全。

小结​

印度的算力自主战略呈现清晰的双层结构：短期用共享算力池和补贴模式满足爆发性的训练需求，长期则通过半导体制造与设计激励培育本土供应链。考虑到其 GPU 目前几乎全部依赖进口，真正的主权算力仍需多年建设，但从流片数量、产能落地到基础模型涌现，这条路径的每一步都在提速。对于观察全球 AI 芯片格局的产业人士而言，印度是继中日韩之后最值得跟踪的变量。

工业质检场景的算力账很好算：一条产线的节拍是每分钟几十到几百件，检测窗口以百毫秒计，硬件必须 7 乘 24 小时在粉尘、油污、高温里稳定运行。这套约束下，"算力够用加皮实耐用"压倒一切性能指标。

一、负载分级：你的质检属于哪一档​

轻量级（单帧检测）：缺陷分类、有无检测、二维码识别，YOLO 系列或 ResNet 级模型，单帧推理 10 至 50 毫秒，算力需求 10 至 40 TOPS。一颗 Orin Nano（40 TOPS）就能支撑单相机产线，国产对应方案是算能 BM1684X（约 32 TOPS INT8）与各类 RK3588 盒子。

中量级（多相机、分割与细粒度缺陷）：表面缺陷分割、装配错漏检测，通常 4 至 8 路相机并发，需要 100 至 275 TOPS。Orin NX 加 AGX Orin 是主流选择；高路数场景直接上工控机插 RTX 4060 Ti 16GB 或 4090。

重量级（大模型质检）：少样本缺陷检测、多模态质检（图像加工艺参数）、自然语言交互的质检报告生成，涉及 7B 至 30B 级 VLM。这类负载单帧推理超过 1 秒，通常部署在车间边缘服务器（双卡 4090 或单卡 A100）上，产线端只做采集与预筛。

产线场景	节拍要求	推荐方案	单点预算	理由
单相机缺陷分类	每件 100 毫秒以上	Orin Nano 或 BM1684X 盒子	2,000 至 6,000 元	40 TOPS 内即可，15 至 25W 低功耗
多相机装配检测	每件 200 毫秒以上	AGX Orin 或工控机加 4060 Ti	1.5 万至 3 万元	16GB 显存承载分割模型与多路流
高速产线全检	每件 50 毫秒以内	工控机加 RTX 4090	3 万至 5 万元	高带宽保障单帧低延迟
车间级多产线汇聚	汇聚 8 条线以上	双卡 4090 边缘服务器或 Atlas 500 加 300I Duo	6 万至 15 万元	集中推理摊薄单线成本
信创/政企产线	合规优先	昇腾 Atlas 系列、BM1684X	1 万至 5 万元	满足国产化验收与宽温认证

二、三个阵营怎么选​

NVIDIA Jetson 阵营：生态最成熟。TensorRT 加 DeepStream 的工具链覆盖了从训练到多路视频流部署的全流程，社区案例海量，招人容易。代价是海外供应链风险——出口管制与价格波动是真实存在的采购变量，2026 年 Orin 系列在部分渠道出现过供货紧张。

国产边缘卡阵营：昇腾 Atlas 与算能方案在信创要求场景几乎是必选项。Atlas 300I Duo 单卡约 2 万至 4 万元，低功耗高密度适合机柜式部署；BM1684X 盒子在视频结构化场景性价比较高。主要成本在软件适配：模型要从 PyTorch 转换到各家工具链，部分自定义算子需要原厂支持，预留 2 至 6 周适配期。

桌面 GPU 阵营：4060 Ti 16GB、4090 加工控机箱的方案性能密度最高，适合部署在有人值守的机房或车间控制室。缺点是工业环境适应性弱（风扇散热、防尘要求高），需要额外做机柜防护，且功耗明显高于嵌入式方案。

三、别忽视的工程账​

第一，检测成本要摊到每件产品上算。 一条年检 500 万件的产线，3 万元的盒子三年摊销每件不到 0.3 分钱，加上电费与运维仍然可忽略——所以工业质检的选型矛盾从来不是硬件贵，而是误检与漏检的平衡：漏检成本是召回，误检成本是人工复检的人力。算力选型要为"多模型集成投票"这类提升精度的方案留出余量，而不是贴着最低 TOPS 选型。

第二，数据回灌通道比算力更重要。 现场光照、角度、来料批次变化会让模型性能衰减，边缘设备必须预留把疑似缺陷样本回传云端的能力。规划上建议"边缘推理加云端迭代"：云端一张训练卡（4090 级即可）支撑月度模型更新，通过 OTA 下发。

第三，宽温与认证别省钱。 产线环境温度 0 至 45 摄氏度以上、粉尘、电磁干扰，消费级设备直接上架的故障率很高。工控级外壳、无风扇设计、宽温认证的溢价（通常多 30% 至 50%）是值得花的。

四、结尾建议​

工业视觉质检的选型公式：先定检测延迟与路数，再定梯队；先看合规要求，再定品牌。 单线轻量检测用盒子（Orin Nano 或 BM1684X），多线汇聚用工控机加桌面 GPU 或 Atlas 方案，大模型质检上边缘服务器。给传统制造企业的最后一条建议：第一个产线项目强烈建议与设备商或集成商合作落地，把算力选型交给做过同类场景的人——工业 AI 的失败案例里，八成不是算法不行，而是工程集成与现场运维没做好。

推理正在从"一张卡干所有活"走向"专用硬件干专项活"。Prefill 吃算力、Decode 吃带宽，这条基本规律正在重塑 2026 年的推理硬件市场——选型前先搞清楚你的负载属于哪一段。

一、推理负载画像：Prefill 与 Decode 是两件事​

一次大模型推理请求分两个阶段，瓶颈截然不同：

• Prefill（预填充）：把用户输入一次性算完，矩阵乘密集，是典型的 compute-bound 负载。算力（FP8/FP4）是瓶颈，显存带宽需求适中。
• Decode（解码）：逐 token 生成，每一步都要把全部权重和 KV Cache 从显存里读一遍，是典型的 memory-bound 负载。带宽决定吞吐，容量决定能塞下多长的上下文。

这条规律直接解释了 2026 年的两大产品趋势：昇腾把 950 拆成 950PR（Prefill 专用，1.4 TB/s 带宽）和 950DT（Decode + 训练，4 TB/s 带宽）两个版本；NVIDIA 收购 Groq 后，在 Vera Rubin 平台里给 LPU 留出正式位置——"GPU 管 Prefill，LPU 管 Decode"成为官方口径。

二、推理专用硬件成为趋势​

推理 ASIC 化是 2026 年最确定的产业方向：

• Google TPU 8i / 8t：按推理与训练分拆的第八代 TPU，站内卡口径显示 2027 年底量产，仅通过 Google Cloud 按小时计费。
• 昇腾 950PR / 950DT：同一 Da Vinci v5 计算核心配不同内存子系统。950PR 主攻 Prefill，FP4 算力 1.56 PFLOPS（Atlas 350 卡口径），112GB 自研 HiBL HBM；950DT 主攻 Decode，144GB HiZQ 2.0、带宽 4 TB/s。
• NVIDIA Groq 3 LPX：每 LPU 500MB 片上 SRAM、片上带宽 150 TB/s；256 颗组成机架后聚合带宽 640 TB/s、算力 315 PFLOPS。实测 Gemma 4 31B 单用户 3,431 token/s，首 Token 延迟低于 20ms——这是 GPU 很难摸到的延迟量级。
• OpenAI Jalapeño 等自研推理芯片：头部模型厂商自研推理 ASIC 的动作持续，推理负载的确定性让专用架构的性价比优势越来越难忽视。

结论：如果你的业务是千级并发的 Agent 调用，专用硬件已经从"可选项"变成"必选项"。

三、按场景推荐表​

场景	推荐方案	核心依据	参考价格（站内定价库）
低延迟对话 / Agent	Groq 3 LPX 机架；B300（FP4）	LPX 首 Token < 20ms、单 Token < 5ms；B300 NVFP4 短输出吞吐较 H200 最高提升 20 倍	LPX 机架推测 $800–1000 万/柜；B300 约 $52,000/卡
批量离线推理	B300 / H200	B300 FP8 口径吞吐 100,000+ tok/s，单 token 成本约为 H100 的 0.58 倍；H200 性价比稳健	H200 市场价约 $38,000
长上下文 / 长文档	H200 / B300 / Rubin R200	H200 141GB 可单卡加载 70B 模型；B300 288GB 装 70B FP16 后仍余 100GB+ 给 KV Cache；Rubin 显存带宽 22 TB/s	Rubin 单卡预测价 $85,000
国产 / 边缘与低成本	昇腾 950PR / 昆仑芯 R200 / 寒武纪思元690	950PR 面向视频推荐与实时交互；R200 仅 150W、INT8 256 TOPS、108 路视频解码；思元690 196GB HBM3 容量大	950PR 渠道价超 ¥8 万；思元690 约 ¥17.5 万；R200 未公开

场景之外还有两条通用原则：其一，Prefill 和 Decode 分离部署（P/D 分离）正在成为大厂标配，昇腾 950PR+950DT 的"异构推理流水线"就是为它设计的；其二，不要用训练卡凑合跑推理——训练卡的互联和精度配置是为反向传播优化的，推理场景下是花冤枉钱。

四、显存容量与 KV Cache：一笔必须先算的账​

模型权重之外，KV Cache 是推理显存的第二大占用，估算公式为：每 token 的 KV Cache = 2 × 层数 × KV 头数 × 每头维度 × 精度字节数。以主流 70B 级模型为例，FP16 权重约需 140GB，再叠加长上下文的 KV Cache 与激活值，就能解释选型表里的容量门槛：

• 141GB 的 H200：刚够单卡装 70B FP16 + 有限上下文，官方口径即"70B+ 单卡加载"。
• 288GB 的 B300：装完 70B FP16 后剩余 100GB+ 全部给 KV Cache，长上下文是它的主场。
• 432GB 的 MI455X / 22 TB/s 的 Rubin R200：为超长上下文与多模型并存准备，MLPerf Inference v6.1 中 Rubin 的 Qwen3-VL 吞吐较 GB300 NVL72 最高提升 3.7 倍。

容量决定"能不能跑"，带宽决定"跑多快"——Decode 阶段的吞吐几乎与显存带宽成正比，这就是为什么 4 TB/s 的昇腾 950DT 在长上下文生成场景能较 1.4 TB/s 的 950PR 提升约 2 倍。

五、成本视角：每 token 成本比每小时租金更重要​

比较推理硬件，正确指标是"每百万 token 的总成本"，它是吞吐、卡价与电费的合力。以站内 B300 卡引用的 Llama 70B 云端实测为参照：

GPU	吞吐量（tok/s）	每 GPU·小时	Token 成本（相对值）
H100 SXM	约 21,800	$2.00	1.0×（基准）
H200 SXM	约 31,700	$3.50	0.83×（省 17%）
B300（FP8）	100,000+	约 $8.00	0.58×（省 42%）
B300（FP4）	150,000+	约 $8.00	0.39×（省 61%）

结论很直白：B300 单价是 H100 的近两倍，但每 token 成本反而低四成以上。另一个常被忽略的变量是利用率——采购卡跑不满，单位成本会被空闲时间迅速摊薄。自建还是云租，取决于你的利用率曲线，这正是 TCO 测算要回答的问题。

不同方案的三年总成本差异，建议直接用站内 TCO 计算器 输入自己的利用率与电价实测；各卡的完整规格见完整对比表与对应芯片卡页面。

小结​

2026 年的推理选型可以压缩成三句话：先分清你的瓶颈在 Prefill 算力还是 Decode 带宽；延迟敏感的 Agent 场景认真评估 LPU 等专用硬件，吞吐敏感的批量场景看每 token 成本而不是卡价；显存先算 KV Cache 再谈容量，成本先算利用率再谈采购。Prefill/Decode 分离不是营销概念，而是每 token 经济学推导出的必然架构。

很多团队上线推理服务后都遇到同一个困惑：平均延迟 200ms，用户却总抱怨"卡"。答案是尾部延迟——决定体验的是最慢的那 1% 请求。本文从 P99 说起，聊推理服务 SLA 与弹性扩缩容的生产实践。

先把指标定对​

对话式 LLM 服务的延迟要拆成两段看：TTFT（首 token 时间）决定"反应快不快"，decode 吞吐决定"打得快不快"。对交互式应用，业界常见的 SLO 是 P99 TTFT 控制在数百毫秒以内；对异步批处理任务，可以放宽到秒级换取更高吞吐。这里有个经典陷阱：平均延迟掩盖问题。一个把平均响应时间改善四成、却把 P99 恶化两成的版本，对最差的那批用户就是明确的回归，上线前必须对比优化前后的分位数。

核心指标	含义	实践建议
P99 TTFT	首 token 时间的 99 分位	主 SLO 指标，超标持续 60 秒即告警
每池队列深度	等待 prefill 或 decode 槽位的请求数	容量压力最早的信号，作为扩容主信号
每卡 tokens 每秒	吞吐效率	请求量稳定但该值下滑，警惕 KV cache 抖动
KV cache 命中率	前缀缓存复用比例	据公开经验，低于三成需检查缓存配置
每千 token 成本	财务 SLO	按模型版本跟踪，捕捉上线后的成本回归

为什么不能按 GPU 利用率扩容​

传统 HTTP 服务按 CPU 利用率扩容的经验，在 GPU 推理上会系统性失效，原因有三：第一，GPU 利用率是滞后指标，等利用率冲高时队列早已堆积，尤其 decode 阶段是访存瓶颈，利用率与压力并不同步；第二，冷启动太慢，GPU 推理副本从调度到可服务要 30 至 90 秒，加载 70B 级模型权重可能要十几分钟，而流量尖峰 60 秒就冲过去了——扩容动作永远追不上尖峰；第三，张量并行组必须整体伸缩，2 卡 TP 组加 1 卡毫无意义，扩缩容要以完整模型实例为单位。

正确的主信号是队列深度：在请求开始排队之前扩容，而不是之后。再叠加预测性伸缩——推理流量有极强的日周期与周周期规律，提前 15 分钟预热远比事后追赶便宜。

分池调度与冷启动治理​

生产级方案通常把 prefill 与 decode 拆成独立资源池分别伸缩：流量突发时先扩 prefill 池（TTFT 恶化的元凶），decode 吞吐下滑时再扩 decode 池，混在一个池里互相挤兑是最常见的过度供给原因。入口层还要做准入控制：设置最大队列深度，超限返回 429 加 Retry-After 头，而不是让队列无限增长拖垮所有请求；再按租户做令牌桶限流，防止单个大客户的突发流量劣化全平台的 P99。

冷启动治理三板斧：保持至少 1 个热副本避免缩容到零；对必须缩到零的场景，用每 30 至 60 秒一次的保活探测或启动后的预热接口提前加载权重与 KV cache；LoRA 适配器在启动时预加载而非首次请求时加载。热池的代价据公开经验约为峰值算力的两到三成，这通常比尖峰时刻的 SLA 违约便宜得多。引擎侧选用基于 PagedAttention 与连续批处理的方案（如 vLLM），据公开评测可带来 2 倍以上的 P99 改善，是杠杆率最高的单项优化。

写在最后​

三条落地建议：第一，SLA 按 TTFT 与 decode 分段定义，全部用分位数告警，并把每千 token 成本与产品指标放在同一张大盘上；第二，扩缩容以队列深度为主信号、预测性伸缩为辅，按 prefill 与 decode 分池管理；第三，每次变更前后跑同一并发水位下的负载测试，验证 P99 而非平均值。推理服务的竞争力，最终体现在最慢的那 1% 请求上。

10 月 8 日，The Information 披露了一则耐人寻味的消息：NVIDIA 计划投资推理芯片初创公司 d-Matrix——一家不折不扣的直接竞争对手。与此同时，光子推理系统 Volantis、光互连加速器 CScale、数据流架构 Efficient Computer 相继完成大额融资，快速推理硬件公司 Taalas 则被 AMD 收入囊中。推理芯片，这个曾经被视为"巨头夹缝"的细分市场，正在成为 AI 硬件创业与资本最密集的战场。

融资全景：一个月内的资本密度​

将 2026 年 10 月初的融资与合作动态汇总成表：

公司	技术方向	资本动态	金额
d-Matrix	数字 SRAM 推理芯片	NVIDIA 计划投资（条款未披露）	未披露
Volantis	光子推理系统	A 轮	8,800 万美元
CScale	加速器光互连	C 轮	1.45 亿美元
Efficient Computer	数据流架构	B 轮（估值 6.5 亿美元）	9,700 万美元
Taalas	快速推理硬件	被 AMD 收购	未披露

Volantis 的目标是 20 万亿参数级别的模型推理，主打成本与功耗效率，采用类 Face ID 的垂直腔面发射激光器连接 AI 芯片与内存；CScale 则押注光互连，试图从数据搬运环节重构加速器系统；Efficient Computer 的数据流架构彻底摒弃传统指令驱动的冯·诺依曼范式。技术路线百花齐放，但共同指向同一个市场：LLM 推理。

推理层为何成为创业富矿​

推理芯片创业热潮不是资本泡沫的偶然，而是三个结构性因素叠加的必然：

第一，LLM serving 是成本敏感型生意。 模型厂商与云厂商的推理成本以每百万 token 计价，规模效应下，哪怕 20% 的每 token 成本改善都意味着数亿美元的利润差异。训练市场拼的是"能不能训出来"，推理市场拼的是"谁更便宜更快"——后者为架构创新提供了清晰的回报公式。

第二，负载稳定，架构可固化。 训练负载随模型结构演进不断变化，通用 GPU 的灵活性不可替代；而推理负载（注意力、解码循环）高度稳定，专用架构可以针对固定计算模式做到极致优化——把模型结构"烧进"硬件，正是 Taalas"快速推理硬件"的立意所在。

第三，生态门槛相对最低。 训练深度绑定框架与算子生态，CUDA 护城河难以逾越；推理则可以通过 OpenAI 兼容 API 层屏蔽底层差异，客户迁移成本极低。创业公司在推理市场面对的是"性能与成本"的公平竞争，而非生态垄断。

霸主的收编模式：投资、收购与平台吸纳​

面对创业公司的围攻，NVIDIA 的应对不是封锁而是收编。梳理时间线可以看到一套完整的组合拳：

事件	方式	战略意图
收购 Groq（2026-Q1，约 200 亿美元）	全资收购	将 LPU 纳入 Rubin 平台，补全超低延迟推理
Groq 3 LPU 进入 Rubin 平台	产品整合	GPU 管 prefill、LPU 管 decode 的异构分工
计划投资 d-Matrix	少数股权	挑战者选择与 NVIDIA 合作而非独立竞争
OpenAI Jalapeño（博通代工）	客户自研	顶级客户自研 ASIC 分流需求
Meta MTIA（博通代工）	客户自研	同上

Groq 3 LPU 机架的参数体现了收编后的技术红利：256 颗 LPU、128GB 聚合 SRAM、40 PB/s 片上带宽，每兆瓦吞吐较 Blackwell 高 35 倍。NVIDIA 用一张 GPU 订单之外的"补充产品"回应了所有 SRAM 推理挑战者——既然你们证明了这个方向的价值，那就把它变成自己产品矩阵的一部分。

而投资 d-Matrix 是更精妙的一手：不收购、不控股，用少数股权把最具威胁的独立竞争者转化为生态内的合作者。对 d-Matrix 而言，接受 NVIDIA 入股意味着获得渠道、客户与供应保障；代价是独立叙事的终结。

出路分化：被收购、被投资、硬刚​

推理芯片创业公司的终局正在呈现三种模式：

模式一：被收购，融入巨头。 Taalas 被 AMD 收购，为其推理产品线注入 SRAM 架构能力；Groq 被 NVIDIA 收购后成为 Rubin 平台的第七颗芯片。创始人与投资人获得退出，技术获得最大规模的分发渠道，但品牌消失。

模式二：被投资，保持名义独立。 d-Matrix 接受 NVIDIA 入股，介于独立与融合之间——产品仍独立销售，但战略上已与霸主绑定。这类公司保留了差异化叙事，却让后续的客户中立性打了折扣。

模式三：硬刚，独立竞争。 Cerebras 是最典型的代表——晶圆级架构 + OpenAI 100 亿美元电力协议 + AMD 生态合作，坚持独立路线。风险是持续的高额研发投入与生态孤岛，回报则是在某一细分市场（如极致推理速度）建立不可替代的地位。光子路线的 Volantis、CScale 暂时也走在这条路上，资本尚在为他们输血。

独立生存空间的挤压与再定义​

必须指出，"收编"不等于"垄断"。巨头的吸纳行为恰恰验证了推理专用架构的价值，而自研 ASIC（OpenAI Jalapeño、Meta MTIA）与国内推理芯片的崛起也在持续分流需求。独立推理芯片公司的真实生存空间在于：巨头投资组合之外的客户中立性、特定场景的极致优化（超低延迟、超大模型、光子能效），以及地缘市场（如国产替代）的本土化需求。AI 推理市场的体量足以容纳多条技术路线——真正的问题是，独立公司能否在霸主收编完成之前，建立起自己的规模化客户基本盘。

小结​

d-Matrix 获 NVIDIA 入股是这个赛道的标志性事件：当最强挑战者选择与霸主合作，说明推理芯片战争的竞争逻辑已经从"技术对垒"转向"生态收编"。Volantis、CScale、Efficient Computer 的大额融资证明资本仍在押注架构创新，而 Taalas、Groq 的归宿则揭示了行业整合的大势。对创业者，出路分化为被收购、被投资、硬刚三条路，各有代价；对客户，短期利好是技术加速成熟与价格竞争，长期需警惕的是推理算力供应集中于少数巨头生态。这场浪潮的下一幕，取决于 Cerebras 们能否用独立叙事跑通商业闭环。

2026 年的 Intel 呈现出一种罕见的矛盾景象：一边是 x86 服务器 CPU 持续丢失份额、却在 10 月 5 日启动年内第三次涨价（涨幅 10%）；另一边是 AI 加速器产品线在 Falcon Shores 取消后重组为"Gaudi 现役 + Jaguar Shores 待发 + Crescent Island 补位"的三层结构。这家 x86 巨头正站在 AI 芯片战略的十字路口，每一步选择都关乎未来十年的市场地位。

现役主力：Gaudi 3 与承压中的 Gaudi 4​

根据站内芯片卡数据，Gaudi 产品线的演进脉络清晰可见：

产品	发布时间	制程	显存	FP8 算力	TDP	状态
Gaudi 1	2019-Q3	28nm 级	32GB HBM2	—	—	EOL
Gaudi 2	2022-Q3	7nm	96GB HBM2E	—	600W	EOL
Gaudi 3	2024-Q2	TSMC 5nm	128GB HBM2E	1.835 PFLOPS	900W	现役旗舰
Gaudi 4	2026-Q2（推测）	Intel 18A	192GB HBM3E	3.7 PFLOPS（推测）	700W	待发布

Gaudi 3 的差异化武器是集成 24× 200GbE RoCE 以太网互联——双向 600 GB/s 带宽，兼容任意以太网交换机，无需 NVLink 等私有互联，最多可扩展至 8,192 节点。这让 Gaudi 成为多云、多厂商环境下软件独立性最强的方案。官方数据显示其 LLM 训练较 H100 快 50%，PyTorch 迁移只需 3 行代码改动，客户覆盖 IBM 云、Supermicro、ASUS、Lambda Labs。

但承压也是真实的。Gaudi 4 是 Gaudi 系列的关键一搏：转向 Intel 18A 自有工艺（从 TSMC 5nm 的战略转变），192GB HBM3E、FP8 算力翻倍至 3.7 PFLOPS。站内卡提示了一个残酷的可能性——随着 Intel 于 2026 年 5 月 14 日取消 Falcon Shores、转向机柜级 Jaguar Shores，Gaudi 4 可能是独立 Gaudi 加速器的最后一颗芯片。

Jaguar Shores：从单芯片竞赛转向机柜级系统​

Jaguar Shores 代表了 Intel AI 路线图的根本转向。Falcon Shores 的失败教训很明确：单芯片 200 PFLOPS 的目标在 Rubin R200（约 50 PFLOPS 已是行业极限）面前既不现实也不经济，叠加连续季度亏损与 HBM 供应紧张，Intel 在 2026 年 5 月正式砍掉该项目。

指标	Falcon Shores（已取消）	Jaguar Shores（路线图）
形态	单芯片 GPU	机柜级系统
对标	B100/B200 单芯片	NVL72 / AMD Helios 机柜
加速器 IP	Gaudi + GPU 融合	Gaudi v4 架构演进
集成 CPU	无	Xeon 6/7 紧耦合
网络	无集成 NIC	800G 集成 NIC
制程	Intel 18A	Intel 18A / 14A
发布	2025（取消）	2027-2028

Jaguar Shores 的每机柜配置（推测口径）：64-128 颗 AI 加速器、32-64 颗 Xeon、机柜级 160-320 PFLOPS FP8、80-120 kW TDP。其本质是承认一个现实——2026 年之后的市场由 NVIDIA NVL72、AMD Helios、谷歌 TPU Pod 这类机柜级/超节点方案主导，单芯片对标已经失去意义。

Crescent Island：补位智能体推理​

在 Jaguar Shores 遥远的 2027-2028 到来之前，Intel 需要一张当下就能打的牌，这就是 Crescent Island。站内卡显示，这款推理 GPU 于 2026 年 6 月 Computex 首次披露、8 月 Hot Chips 公布完整架构：

项目	Crescent Island
架构	Xe3P（XMX 升级至 16 深度脉动阵列）
内存	160GB LPDDR5X（参考卡）/ 最高 480GB（ODM 版本）
精度	原生 FP8 / FP4
TDP	350W
形态	PCIe Gen5 x16，风冷
目标	智能体 AI（Agentic AI）推理
出货	2026 下半年限量

480GB LPDDR5x 是它的灵魂——约为 NVIDIA L40S（48GB GDDR6）的 10 倍容量，而 LPDDR5x 的成本远低于 HBM。350W 风冷 PCIe 意味着可以塞进任何现有服务器。它甚至移除了 3D 图形与光追硬件，成为纯 AI 推理芯片。对于词元密集、成本敏感的智能体推理负载，这是一条务实的差异化路线。

三次生态错位：Intel AI 的病根​

回顾 Intel 在 AI 加速器上的挣扎，三次错位值得复盘：

1. 收购整合错位：2019 年以约 20 亿美元收购 Habana Labs 替代 Nervana，但 Gaudi 1/2 两代产品始终未能形成规模出货，错过 2020-2022 年训练市场的窗口期。
2. 软件栈错位：SynapseAI 生态仅积累数年，PyTorch 模型虽约 80-90% 可零修改运行，但复杂 LLM 训练仍需手工优化——在 CUDA 十八年生态面前，"能跑"与"好用"之间隔着巨大的工程鸿沟。
3. 路线图错位：从 Gaudi 独立产品线，到 Falcon Shores 融合芯片，再到 Jaguar Shores 机柜级系统，五年三次转向，每一次转向都让潜在客户陷入观望。

值得肯定的是，Intel 并非全面溃败。MLPerf v6.1 中 Intel 以纯软件优化收获了可观的性能增益，证明 Gaudi 软件栈在快速成熟；Applied Materials 与 Intel 扩大下一代互连扩展与 Foveros 3D 封装合作，AI 芯片对先进封装的需求加速反而放大了 Intel 少数的结构性优势——Foveros 3D 与互连技术正是 Intel 在先进制程追赶之外，最有底气的能力项。

CPU 涨价与份额流失并存的怪象​

10 月 5 日起 Intel CPU 涨价 10%，这已是年内第三次提价。与此同时，分析师圈流传着客户计划"dump Intel"的说法——服务器 CPU 份额持续流向 AMD EPYC 与 ARM 阵营。涨价与丢份额并存看似悖论，实则反映了 Intel 的定价策略转变：与其用低价守卫正在流失的份额，不如在存量客户身上实现利润最大化，将资源投向代工与 AI 业务。PC 侧，微软推动的驱动质量倡议 DQI（Driver Quality Initiative）中，Intel GPU 驱动率先适配 Windows 11 26H2，显示 Intel 在客户端生态上仍在积极投入。

"CPU 求稳 + AI 求突破"的双线评价​

Intel 当前策略可以概括为双线作战：x86 CPU 业务追求利润与稳定性（涨价、Clearwater Forest/Diamond Rapids 按部就班），AI 业务则寻求结构性突破（18A 代工、Foveros 3D、Jaguar Shores 系统级翻身仗）。这条路线的风险在于时间——Jaguar Shores 2027-2028 年才落地，期间 AI 市场的每一轮洗牌都在稀释 Intel 的存在感；机会在于，一旦 18A/14A 制程如期兑现，Intel 将同时握有"AI 代工厂 + 机柜级系统"两张牌，这是 NVIDIA 与 AMD 都不具备的组合。

小结​

Intel 的 AI 芯片故事是一部持续纠错史：Gaudi 3 以开放以太网互联守住性价比阵地，Gaudi 4 背负着独立产品线的存亡押注，Crescent Island 用 LPDDR5x 在智能体推理市场找到现实的立足点，Jaguar Shores 则代表彻底放弃单芯片竞赛、转向机柜级系统的战略重构。对采购决策者而言，2026 年的 Gaudi 3/4 + Crescent Island 组合在多云、成本敏感场景仍有独特价值；而对行业观察者，2027 年 Jaguar Shores 的兑现程度，将决定 Intel 是 AI 算力牌桌上的常驻玩家，还是仅仅扮演"AI 代工厂"的幕后角色。

当单芯片晶体管增速放缓，算力的增长叙事就从"更快的芯片"变成"更多的芯片"——而把几百上千颗芯片粘成一台计算机的那根线，正成为 AI 基础设施竞争最激烈的一层。

为什么 scale-up 互联成为新战场​

大模型训练与推理的本质是大量芯片协同计算，芯片间每次交换数据都要经过互联网络。互联带宽决定了两件事：并行扩展效率（加卡能换来几成算力）和内存池化能力（跨卡显存能否当作一块用）。华为马尔科夫实验室的仿真给过一个直观口径：传统 8 卡服务器组网下，集群内通信占训练时间超过 40%；换成大规模超节点组网后 MFU 可提升 2.75 倍——互联不是配套件，而是算力本身。

于是"机架级计算"成为 2026 年的主流形态：NVIDIA 的 NVL72、AMD 的 Helios 72 卡机架、华为的 4096 卡超节点，都是在互联层下注。四方标准就此正面相遇。

四方标准对比表​

维度	NVLink 6（NVIDIA）	UALink / UALoE（AMD 阵营）	Ultra Ethernet（UEC）	灵衢 UnifiedBus（华为）
单卡带宽	Rubin R200 单 GPU 3.6TB/s	MI455X 单 GPU scale-up 3.6TB/s（UALoE）；横向扩展 600GB/s	以太网生态扩展，43TB/s 级机架出口	昇腾 950/960 单卡 2TB/s
机架级带宽	NVL72 总计 260TB/s	Helios 72 卡 scale-up 约 260TB/s、scale-out 43TB/s	以太网交换机标准演进	960 超节点 4096 卡，RTT 2μs
开放度	NVLink Fusion 向伙伴开放集成自定义 CPU/芯片	UALink 开放规范，UALoE 走以太网物理层	开放联盟，多厂商互通	开放灵衢 2.0 总线生态，自研为主
生态绑定	深度绑定 CUDA	绑定 ROCm + OCP 开放标准	生态最广、厂商中立	绑定 CANN/MindSpore
代表系统	Vera Rubin NVL72	AMD Helios（Open Rack Wide v3）	UEC 联盟成员网络	Atlas 960 超节点

两组数字颇有意味：NVIDIA 与 AMD 的单 GPU scale-up 带宽同为 3.6TB/s，72 卡机架级 scale-up 带宽同样约 260TB/s——在纵向扩展这一层，两条路线的物理指标已经打平，胜负手转向开放度与生态。

开放标准与垂直整合的两条路线​

NVIDIA 走的是垂直整合加有限开放：NVLink 6 从交换芯片到拓扑全部自研，NVL72 的 260TB/s 全互联带宽是系统级护城河；但 NVLink Fusion 开始向合作伙伴开放，允许第三方把自定义 CPU、加速芯片接入 NVLink 域——既保住标准控制权，又吸纳外部设计。

AMD 走的是彻底的开放标准路线。Helios 机架基于 OCP 的 Open Rack Wide v3 规范（ORW 设计与 Meta 共研），互联组合是 Infinity Fabric + UALink + Ultra Ethernet，配自研 Pensando Vulcano 800G 网卡；MI455X 的 UALoE（UALink over Ethernet）干脆把 scale-up 流量架在以太网物理层上，让客户用标准以太网设备搭建 260TB/s 的纵向扩展域。UEC 则从横向扩展切入，目标是让万卡级集群的跨机网络也走开放以太网。

华为灵衢是第三条路：自研协议、开放生态。灵衢 2.0 总线支撑昇腾 950 的 2TB/s 单卡互联与 1024 卡超节点，昇腾 960 超节点用"灵衢 + Hi-ONE 光引擎"做到单节点 4096 卡、1PB HBM、RTT 2μs，多节点经灵衢网络组网最大 51.2 万卡，叠加多轨道拓扑可达 100 万卡集群——在规模上限上反而是四者中最激进的。

Token Fabric 的"中立性"悖论​

2026 年 10 月 8 日，多厂商互联平台 Upscale AI 发布 Token Fabric，NVIDIA 也出现在投资方名单里。它试图提供一个厂商中立的机架级互联方案，让不同家的加速器共处一个 scale-up 域。

但这里存在一个悖论：真正需要中立方（被 NVLink 锁定的二线芯片厂商）欢迎它，而制定标准的头部厂商（正是 NVLink、UALink、灵衢的持有者）都有动机让它名存实亡。NVIDIA 参投 Token Fabric 更可能是防守性布局——与其被排除在开放阵营外，不如进去施加影响。互联标准的"中立平台"能否存活，取决于超大规模云厂商是否愿意为去锁定支付溢价；从 OCP 阵营的扩张速度看，至少在 AMD Helios 这类系统上，开放路线已经拿到了第一个规模化验证。

给采购方的评估维度​

面对四方标准，采购方可以用四个维度打分：一是 scale-up 域内的有效带宽与扩展效率（MLPerf 等实测口径，Rubin NVL72 在 288 卡演示中达到 99% 扩展效率）；二是内存池化能力——互联是否支持跨卡统一编址，这直接决定超大模型的部署方式；三是生态绑定成本——CUDA/ROCm/CANN 的迁移代价往往比硬件差价更大；四是供应链弹性——开放标准（UALink/UEC/OCP）意味着多供应商议价权，垂直整合意味着更紧的集成但更少的集成风险。

小结​

互联标准的四方博弈，本质是三种产业模式的对撞：NVIDIA 的垂直整合加 NVLink Fusion 有限开放，AMD 阵营的 UALink/UEC/OCP 全开放路线，华为的自研灵衢加超节点规模策略。物理指标上单卡 3.6TB/s、机架 260TB/s 已成 2026 年的"对齐线"，下一阶段的差异化将来自光互联（Hi-ONE 的 NPO 路线）和内存语义扩展。对采购方而言，标准之争没有旁观席——今天选的互联，决定了未来五年被谁的生态锁定。

由丰田、索尼、软银等八家日本产业巨头共同筹办，累计获得近 3 万亿日元资金支持——Rapidus 正在北海道千岁为日本重夺先进逻辑芯片制造权发起最后一搏。

2nm 量产时间表：2027 财年下半年​

Rapidus 成立于 2022 年 8 月，目标是基于 2 纳米 GAA（全环绕栅极）工艺打造世界最先进的逻辑芯片制造能力。其位于北海道千岁市的 IIM-1 试验线自 2025 年 4 月起投入运行，2025 年 7 月成功实现 2 纳米 GAA 晶体管的首次点亮，并已完成试制流片与基本电气特性验证。按照既定计划，Rapidus 将在 2026 年底前开始为客户生产 2 纳米测试芯片，2027 财年下半年启动大规模量产。

产能规划采取渐进策略：初期月产能 6000 片晶圆，目标到 2028 年提升至约 2.5 万片。公司同时启用了 Rapidus Chiplet Solutions 先进封装设施，采用 600 毫米乘 600 毫米玻璃基板，单块基板可产出的中介层数量达到以往 10 倍，并正在开发连接 2 纳米逻辑芯片与 HBM 内存的 2.5D 封装方案。

项目节点	时间与指标
试验线运行	2025 年 4 月，北海道千岁 IIM-1
2nm GAA 晶体管点亮	2025 年 7 月
客户测试芯片	2026 年底前
大规模量产	2027 财年下半年
初期月产能	6000 片，2028 年目标约 2.5 万片
晶圆定价	每片 300 万至 350 万日元
政府累计支持	约 2.35 万亿日元以上

价格战与差异化：RUMS 模式​

定价是 Rapidus 最锋利的武器。社长小池淳义 2026 年 7 月公开表示，2 纳米晶圆定价将为每片 300 万至 350 万日元，作为后来者"不能输给台积电"——而台积电同级先进制程 300 毫米晶圆报价约 3 万美元且传出涨价消息，Rapidus 定价折算后具备明显价格竞争力。

更深层的差异化在于商业模式。Rapidus 提出的 RUMS（快速统一制造服务）模式强调极短的生产周期与小批量快速迭代，瞄准的正是 AI 芯片客户"先流片、快速试错"的需求，与传统代工厂动辄排队长龙的大宗订单模式形成区隔。客户拓展已有实质进展：富士通成为首家商业客户，计划委托生产 2 纳米 AI 神经网络处理器；日本 IBM 被视为第二大锚定客户；加拿大 AI 芯片公司 Tenstorrent 获得早期产能承诺。小池淳义透露，2026 年以来已与超过 60 家潜在客户接洽。

资金、人才与尚未跨过的门槛​

资金端，日本政府的支持持续加码：2026 财年追加 6315 亿日元研发补助后，累计研发支持金额已达约 2.35 万亿日元，叠加民间企业出资，到 2027 年度累计投入预计接近 3 万亿日元。技术端，Rapidus 延续与 IBM 的深度合作，一半工程师驻扎纽约州参与联合研发，下一代 1.4 纳米工艺研发计划 2026 年内全面启动、目标 2029 年量产，更远期的 1 纳米节点目标是把落后台积电的时间差压缩到半年左右。

挑战同样清晰：量产良率尚待验证，先进制程的客户数量仍少，设计生态与巨额资本的持续投入都是长期考验。业界普遍认为，Rapidus 更现实的定位是服务日本本土及盟友体系的 AI 芯片供应链，而非在成熟大客户市场上正面争夺。

小结​

在全球先进制程被三家代工厂主导的格局下，Rapidus 承载着日本重返第一梯队的国家意志。2027 年 2 纳米量产若如期兑现，全球 AI 芯片设计公司将第一次拥有一个价格激进、迭代迅速的新代工选项。这场豪赌的答案，将在未来两年内揭晓。

一个供应着全球大部分 HBM 内存的国家，却长期缺少自己的 AI 芯片设计力量。Rebellions 正试图补上这块拼图——用并购、融资与一条清晰的产品路线。

从合并到独角兽：韩国 AI 芯片业的首次整合​

2024 年 12 月 2 日，Rebellions 与 SK 电信旗下芯片公司 Sapeon Korea 完成合并，这是韩国本土 AI 芯片公司之间的首次整合，合并后实体估值约 1.3 万亿韩元，保留 Rebellions 品牌与管理层，SK 电信与 SK 海力士随之成为战略股东。这次合并让韩国第一次拥有了 AI 芯片独角兽，也把三星、SK 海力士与 Arm 同时拉进了股东名单。

资本层面的推进在 2026 年明显提速。2026 年 3 月 30 日，Rebellions 宣布完成 4 亿美元 Pre-IPO 轮融资，由未来资产金融集团与韩国国家增长基金共同领投，其中国家增长基金出资约 2500 亿韩元，成为该基金成立以来对 AI 芯片的最大单笔直接投资，也是韩国政府打造"K-NVIDIA"战略的核心落子。本轮融资将公司估值推升至约 23.4 亿美元，较 2025 年 9 月 C 轮的 14 亿美元估值上涨近七成，累计融资约 8.5 亿美元。公司已将韩国交易所 IPO 目标锁定在 2026 年底或 2027 年初。

发展节点	时间	关键数据
与 Sapeon Korea 合并完成	2024 年 12 月	合并估值约 1.3 万亿韩元
C 轮融资	2025 年 9 月	2.5 亿美元，估值 14 亿美元
Pre-IPO 轮	2026 年 3 月	4 亿美元，估值 23.4 亿美元
收购 SqueezeBits	2026 年 6 月	补齐推理优化软件能力
IPO 目标	2026 年底至 2027 年初	韩国交易所

产品路线：从 ATOM 到 Rebel100 机架级方案​

Rebellions 的产品线专注推理。第一代 ATOM 基于三星 5 纳米工艺与 GDDR6 显存，2023 年 5 月交付 KT 云并商用，FP16 峰值算力 32 TFLOPS；第二代转向 UCIe 芯粒架构，REBEL-Quad 采用三星 4 纳米工艺并集成 144GB HBM3E 显存，在 Hot Chips 2025 亮相后现已归入 Rebel100 产品体系。公司在 ISSCC 2026 公布的技术细节中声称，该设计能以更低功耗逼近英伟达 H200 的性能表现。

伴随 Pre-IPO 轮融资，公司同步发布了 RebelRack 机架与 RebelPOD 集群级产品，从卖芯片升级为卖整套基础设施。2026 年 6 月 30 日，Rebellions 又宣布收购 AI 推理优化公司 SqueezeBits，后者与英特尔、英伟达均有深度合作，此次收购让 Rebellions 把从硬件、软件优化到推理服务的全栈能力收入囊中。海外扩张同样在推进：日本子公司于 2025 年 2 月设立，沙特阿拉伯子公司于同年 8 月落地，北美业务也已展开。

小结​

Rebellions 的路径揭示了中等体量半导体国家发展 AI 芯片的现实打法：不与英伟达在训练市场正面交锋，而是锁定推理这一确定性最高的负载；用政府基金与产业资本（三星、SK 海力士既是供应商又是股东）构筑护城河；用并购快速补齐软件短板。若 IPO 与 Rebel100 量产如期落地，韩国将在亚洲 AI 推理芯片市场拥有第一个真正意义上的全国产替代选项。