37 posts tagged with "AI Chip"

2022 年 8 月，成立仅三年的壁仞科技发布了 BR100：台积电 7nm、CoWoS 封装、双 Chiplet 设计，INT8 算力 2048 TOPS，宣称性能对标英伟达同代旗舰的三倍以上。这是当时中国通用 GPU 离世界最先进水平最近的一次。两个月后，一切被按下了暂停键。

纸面规格：至今仍属激进的野心​

BR100 的规格即使放在今天看依然激进。它采用壁仞自研指令集与双 chiplet 架构，核心参数如下：

参数	BR100	BR104（同代次旗舰）
FP16 算力	1024 TFLOPS	512 TFLOPS
INT8 算力	2048 TOPS	1024 TOPS
FP32 算力	256 TFLOPS	128 TFLOPS
显存	64GB HBM2e	32GB HBM2e
显存带宽	约 2.3 TB/s	约 2.3 TB/s
制程封装	台积电 7nm，2.5D CoWoS，双 Chiplet	台积电 7nm
整卡功耗	550W	300W

BR100 还率先采用 PCIe 5.0 接口，并通过自研 BLink 片间互联支持多卡扩展。在设计层面，它证明了国内团队完全有能力定义一流的大芯片。

两次制裁：供应链的釜底抽薪​

BR100 的参数恰好踩在美国出口管制红线之上。2022 年 10 月美国 BIS 新规生效，台积电随即停止为壁仞代工；2023 年 1 月，壁仞紧急推出被外界视为"降规"版本的 BR106 以绕开限制；2023 年 10 月，公司被正式列入实体清单，先进制程代工通道彻底关闭。两次打击之间，联合创始人先后离职，团队经历了极短时间内的产线切换与产品迭代，研发节奏被迫中断，新一代芯片开发一度搁浅。

这段经历揭示了国产大芯片最脆弱的一环：设计能力可以追赶，但流片通道、HBM 供应和先进封装一旦被切断，纸面性能再高也无法变成产品。

曲折后的重生：从参数竞赛到商业闭环​

转机出现在 2024 年之后。随着国内云厂商将算力预算硬性切给国产芯片，壁仞完成了向系统级方案的转型：2025 年 8 月双芯配置的 BR166 量产并成为收入主力；软件端通过 BIRENSUPA 平台实现 CUDA 兼容与大模型优化；2025 年世界人工智能大会上，又联合伙伴推出智算一体机与基于光互连交换的超节点方案。

财务数据也随之反转：2024 年公司营收仅 3.37 亿元，2025 年达 10.35 亿元，同比增长 207%，毛利率改善至 53.8%。2026 年 1 月 2 日，壁仞在港交所上市，成为"港股 GPU 第一股"，首日收涨约 76%；2026 年上半年预计收入 11.5 亿至 13 亿元，同比暴增约二十倍，亏损收窄约八成。

小结：纪录易破，交付难成​

BR100 的故事给行业留下三条启示：其一，芯片公司在地缘政治面前的抗风险能力，与技术领先性同等重要；其二，规格竞赛不等于商业成功，量产交付、软件生态与客户结构才是护城河；其三，国产替代的真实需求是"稳定可得"而非"极限参数"，这正是壁仞完成转型的市场逻辑。纪录可以被刷新，但只有走完从流片到集群交付的全流程，一颗 GPU 才算真正成立。

2025 年寒武纪交出了营收 64.97 亿元、同比增长超过四倍、上市以来首次年度盈利的成绩单，背后的功臣正是思元 590。作为公司第三代云端训练与推理一体芯片，它既收割了出口管制带来的历史性窗口，也为新一代旗舰思元 690 铺平了道路。

规格速览：7nm Chiplet 的诚意之作​

思元 590 采用全新 MLUarch05 架构与 7nm Chiplet 封装技术，核心规格综合官方披露与公开报道整理如下：

参数	思元 590	思元 690（新一代，对照）
制程	7nm，Chiplet 封装	更先进制程，双 die 设计
FP16 算力	256 TFLOPS（部分来源标注 345 TFLOPS）	700 TFLOPS 以上
INT8 算力	512 TOPS	未完整公开
显存	96GB HBM2e（另有 80GB 版本报道）	196GB HBM3
显存带宽	约 2 TB/s	约 3.35 TB/s
标称功耗	350W	400 至 500W
状态	2026 年全场景规模出货	2026 年量产

能效比方面，公开资料显示思元 590 达到约 5 TOPS/W；其实测训练性能约为英伟达 A100 的八成水平，且功耗更低。

三年长跑：从送样到放量​

思元 590 的商业化时间线值得细看。2022 年 9 月世界人工智能大会上，董事长陈天石首次披露这款芯片的研发信息；2023 年，百度成为首批尝鲜者并完成内部测试；2024 年芯片问世并通过互联网大客户测试；2025 年起批量进入字节跳动、百度等公司的智算集群，切入大模型推理与训练供应链；2026 年初实现全场景规模出货。

这条路径的关键转折是 2025 年：在英伟达高端芯片对华供应持续受限的背景下，互联网大厂将算力预算切给国产供应商，寒武纪凭借第三方中立的厂商身份与相对完善的软件栈成为最大受益者之一。公开数据显示其 2025 年出货约 11.6 万颗，同比增长约三倍半，字节跳动一度成为占比超过四分之一的第一大客户。其间也出现过波折，2025 年 12 月寒武纪官方否认了"将推出约 50 万张含思元 590 加速卡"的市场传闻，提醒投资者以公告为准。

与思元 690：两代人的分工​

需要强调的是，思元 590 与思元 690 是两代产品，规格不可混为一谈。590 是 2025 年的营收主力，7nm 制程、HBM2e 显存、350W 功耗，定位于大规模推理与中等规模训练；690 则是 2026 年 7 月正式亮相的新旗舰，采用更先进制程与双 die Chiplet 设计，FP16 算力跃升至 700 TFLOPS 以上，显存升级到 196GB HBM3，带宽约 3.35 TB/s，对标的性能目标直指更高世代的国际旗舰。软件层面，两代产品共享 NeuWare 全栈与 MLU-Link 互联体系，客户从 590 迁移到 690 的成本相对可控。

小结：一代产品改变一家公司的命运​

思元 590 的意义超越了规格表本身：它证明了国产云端训练芯片可以在真实大客户的大模型负载中规模化商用，也让寒武纪从"八年亏损王"变成盈利标的。对于计划建设国产智算集群的团队，590 仍是当前供应稳定、生态验证充分的选择，而追求更高算力密度的用户则可以关注已经量产的思元 690。承前启后，正是这一代芯片最好的注脚。

当整个行业还在围绕 GPU 的 HBM 容量与机柜规模做文章时，Cerebras Systems 走了一条从根上不同的路：把整片晶圆做成一颗"芯片"。这家公司宣称其晶圆级引擎比 GPU 快 30 倍，并与 OpenAI 签署了一份高达 100 亿美元的电力协议（有效期至 2028 年）。在分析师将 Cerebras 与 AMD 并列为"未来十年可能跑赢 NVIDIA"的两家公司的当下，替代架构赛道正在从概念验证走向商业兑现。

晶圆级架构：从站内卡看 WSE-3 的底子​

根据站内 Cerebras WSE-3 芯片卡，晶圆级引擎的硬件基础如下：

项目	WSE-3（CS-3 系统）
发布	2024 年 3 月
制程	TSMC 5nm
晶体管数	4 万亿
核心数	900,000
片上 SRAM	44 GB
FP16 稀疏算力	125 PFLOPS
TDP（系统）	15 kW
形式	CS-3 整机系统（液冷）

作为对比，一颗常规旗舰 GPU 的晶体管数量在千亿级——WSE-3 的 4 万亿晶体管相当于数十颗 GPU 被熔铸在同一片晶圆上。900,000 个核心之间通过片上网络直连，配合 Weight Streaming 技术，从架构上消除了大模型训练的两大痛点：内存墙与通信开销。传统集群训练中，跨芯片的梯度同步消耗大量时间；而在晶圆级引擎上，这些"通信"变成了片上走线。

为什么晶圆级能做到快 30 倍​

晶圆级架构的原理优势集中在两点：

第一，无 reticle 限制。 传统芯片的尺寸受光刻机 reticle（曝光区域）约束，单 die 面积存在物理上限，算力扩展只能靠多芯片组网。Cerebras 通过晶圆拼接技术在整片 300mm 晶圆上制造出统一的计算平面，绕开了这个物理天花板。

第二，内存贴近计算。 44GB 片上 SRAM 与计算核心同晶圆集成，SRAM 延迟是纳秒级，带宽远超 HBM。对照行业趋势——NVIDIA 收购 Groq 后主推 SRAM-only LPU、d-Matrix 主推数字 SRAM 推理芯片——"内存贴近计算"正在成为推理架构的共同信仰，而 Cerebras 在这条路上已经走了三代。

代价同样清晰：散热与良率。15 kW 液冷整机只是单系统功耗；晶圆上任何一个缺陷区域都必须被冗余设计屏蔽，良率管理难度远超常规 die。这也解释了为什么晶圆级引擎至今仍是高投入机构的选择，而非大众市场商品。

100 亿美元电力协议：新的合作计量单位​

Cerebras 与 OpenAI 的协议核心不是芯片采购，而是电力——至 2028 年提供 100 亿美元规模的电力保障。AI 算力产业的稀缺资源排序已经悄然变化：芯片可以加急生产，数据中心可以快速搭建，但电网接入与发电能力是按年计的硬约束。"电力协议"正在取代"芯片订单"成为巨头间合作的计量单位，这与近期 Anthropic、OpenAI 动辄以吉瓦（GW）为单位锁定算力的趋势一脉相承。

配套动作同样值得注意：Cerebras 与 AMD 合作降低成本，借力 AMD 的封装与系统生态摊薄晶圆级方案的高昂制造成本。而 2026 年 10 月 2 日，Cerebras 又演示了解耦（disaggregated）芯片架构，实现推理吞吐 5 倍增益——将计算与内存功能在系统层面分离编排，为晶圆级架构打开了推理场景的新增长空间。

替代架构赛道全景：融资密度陡增​

Cerebras 不是孤军。2026 年以来，GPU 之外的架构创新密集获得资本加持：

公司	架构方向	融资/合作动态
Volantis	光子推理系统	8,800 万美元 A 轮
CScale	加速器光互连	1.45 亿美元 C 轮
Efficient Computer	数据流架构	9,700 万美元 B 轮，估值 6.5 亿美元
Q/C Technologies	纳米光子 OPU	与 Sandia 国家实验室合作
Cerebras	晶圆级引擎	OpenAI 100 亿美元电力协议

其中光计算路线尤其活跃。Volantis 的光子推理系统采用类 Face ID 的垂直腔面发射激光器（VCSEL）连接 AI 芯片与内存，用光替代电信号突破互连带宽瓶颈；Q/C Technologies 与 Sandia 国家实验室的纳米光子 OPU 则把光学计算单元推向更深的技术腹地。光互连解决的是"数据搬运"这个所有非 GPU 架构的公共瓶颈——当计算本身已经足够快，通信才是真正的墙。

GPU 之外的第三条路：先在推理落地​

训练市场的替代架构尝试屡屡受挫，但推理市场正在成为新架构的温床，原因有三：

1. 成本敏感。LLM serving 的成本结构决定了每 token 推理成本的微小改善会被海量请求放大为巨大商业价值，架构创新有了明确的回报标尺。
2. 架构可固化。训练需要灵活支持不断演进的模型结构，而推理负载相对稳定，SRAM 密集、流水线化的专用架构可以"固化"模型结构换取极致效率——这正是 LPU、数据流架构的共同打法。
3. 无生态包袱。推理可以通过 OpenAI 兼容 API 层屏蔽底层差异，绕开 CUDA 的护城河；训练则深度依赖框架与算子生态，迁移成本极高。

分析师将 Cerebras 与 AMD 并列为未来十年可能跑赢 NVIDIA 的两家，逻辑正在于此：AMD 靠性价比与开放生态蚕食存量市场，Cerebras 靠架构范式在增量市场（极致推理速度）开疆拓土。

小结​

Cerebras 的 30 倍速度宣称与 100 亿美元电力协议，共同标记了 AI 算力竞争的第二曲线：当 GPU 路线的边际改善趋缓，晶圆级、光计算、数据流架构正在从实验室走向商业化。晶圆级架构用"无 reticle 限制 + 内存贴近计算"换取极致速度，代价是散热与良率的持续攻坚；"电力协议"则揭示算力竞争的底层已是能源竞争。对行业而言，最现实的判断是：GPU 之外的第三条路会先在推理场景落地——那里成本敏感、负载稳定、生态门槛最低，也是 Cerebras、Volantis、Efficient Computer 们共同的战场。

传统架构中，数据在内存与计算单元之间的搬运消耗了推理能耗的大头。存算一体（Compute-in-Memory）的答案是：既然搬不动，就把计算搬进内存里。

数字路线：d-Matrix 用 SRAM 做向量矩阵乘法​

d-Matrix 是数字存算一体路线的旗手。其 Corsair 推理加速卡的独特之处在于：把部分 SRAM 电路改造为直接执行向量矩阵乘法的计算单元——这是神经网络推理的核心运算。每颗芯片包含 1GB SRAM、RISC-V 控制核与 SIMD 单元，通过 DMX Link 互连，并配有 256GB LPDDR5 内存池存放溢出数据。

公司宣称，采用 MXINT4 块浮点格式时 Corsair 可提供每秒 9600 万亿次运算；在 Llama 70B 上实现每秒最高 3 万 token、单 token 约 2 毫秒延迟；单个 SquadRack 机架（与 Arista、博通、超微合作的开放标准参考架构）可在纯 SRAM 中运行千亿参数模型。2025 年 11 月，d-Matrix 完成 2.75 亿美元 C 轮融资，估值达 20 亿美元；下一代产品 Raptor 计划采用 4nm 工艺与 3D 内存堆叠。

模拟路线：EnCharge AI 与 EN100​

EnCharge AI 走得更远——用模拟电路直接做乘加运算。其技术源自普林斯顿大学 Naveen Verma 实验室多年的研究：神经网络权重被存为金属电容的物理属性，输入电压施加后，电荷累积的物理过程"天然完成"矩阵乘法，数据搬运的能耗几乎归零。

2025 年 5 月，公司发布首款商用模拟存算芯片 EN100：M.2 笔记本形态下功耗仅 8.25W 却可提供超过 200 TOPS 算力；PCIe 工作站配置（4 个 NPU、128GB LPDDR）算力约 1 PetaOPS。公司宣称同等功耗下每瓦性能约为数字方案的 20 倍。资本层面，2025 年 2 月完成 1 亿美元 B 轮，Tiger Global 领投，In-Q-Tel、RTX、三星风投与富士康参投，累计融资超过 1.44 亿美元。

两家公司的不同结局​

公司	路线	关键产品	最新动态
d-Matrix	数字存算（SRAM）	Corsair 加速卡	2025 年 11 月 C 轮 2.75 亿美元，估值 20 亿美元
EnCharge AI	模拟存算（电容）	EN100 边缘芯片	2025 年 5 月发布，聚焦端侧与客户端
Untether AI	存算加速（at-memory）	speedAI 系列	2025 年 6 月团队整体加入 AMD，独立运营终止
Fractile	基于标准 DRAM 的存算	在研（据公开报道）	英国初创，2024 年获种子轮融资

这组对照恰好展示了行业的残酷分化：同样押注存算一体，d-Matrix 靠数据中心推理的精准定位站稳脚跟；EnCharge 选择从功耗敏感的边缘市场切入避开正面战场；而 Untether AI 虽然技术路线领先，却在融资寒冬中把工程团队整体卖给了 AMD——成为独立芯片公司难以为继的标志性事件。

小结与展望​

存算一体的技术光谱比大多数人想象的宽：从"改 SRAM 电路"的保守改良，到"用物理定律做乘法"的激进重构，各自对应不同的市场与容错空间。目前的共识正在形成——数据中心推理对成本与能效的极度敏感，让存算一体第一次拥有了真实的商业引力。但对投资者与采购方而言，Untether 的结局提醒我们：在这个被 CUDA 与巨额资本开支主导的市场里，架构创新只是入场券，活下去靠的是找到正确的细分场景与现金流。

2026年10月，边缘 AI 迎来了标志性的一周：NVIDIA DGX Spark 正式发布、RTX Spark 笔记本预订开启、AMD Gorgon Halo 亮出 192GB 统一内存、微软与联想的新机同日开售。算力正在从数据中心向 PC、桌面和机器人急剧下沉。本文梳理边缘算力金字塔的完整版图。

边缘算力金字塔​

边缘 AI 不是一个市场，而是四层结构分明的金字塔：

层级	典型芯片	算力区间	典型场景
手机 NPU	骁龙/天玑/麒麟 NPU	数十 TOPS	拍照增强、语音助手、实时翻译
AI PC	RTX Spark、Ryzen AI Max、Core Ultra 2	100-1000+ TOPS（AI 总算力）	本地大模型、创作 Copilot
桌面超算	DGX Spark/Station、GB300	1-20 PFLOPS FP4	百亿至万亿参数本地推理
数据中心	Rubin R200、MI455X、昇腾950	EFLOPS 级	前沿模型训练与超大规模推理

站内规格卡可以精确刻画中间两层。AI PC 层：NVIDIA RTX Spark 采用 Arm CPU + Blackwell GPU 统一内存架构，最多 20 核 Arm、6144 CUDA 核心、128GB LPDDR5X、带宽 300GB/s，AI 算力 1 PFLOPS FP4（稀疏，官方口径），可运行 1200 亿参数模型与 100 万 token 上下文；AMD Ryzen AI Max+ 395（Strix Halo）为 16 核 Zen 5 + 40 CU RDNA 3.5 + XDNA 2 NPU 50 TOPS，128GB UMA 中 96GB 可分配给 GPU，端侧可跑 70B 模型；Intel Core Ultra Series 2（Lunar Lake）NPU 4.0 达 48 TOPS，是全球首款满足 Copilot+ PC 标准的 x86 芯片。

桌面超算层：DGX Spark 64GB 售价 $4,999，2026 年 10 月 23 日起经宏碁、华硕、戴尔等 OEM 开售，单机可流畅运行千亿参数模型；两台 Spark 通过 ConnectX-7 直连后内存池化至 128GB，模型上限提升至 2000 亿参数级，双机集群实测较单台 128GB 系统峰值最高提升 70%。更上层的 DGX Station for Windows 搭载 GB300、748GB 统一内存（252GB HBM3e + 496GB LPDDR5X）、20 PFLOPS FP4，2026 Q4 上市，把桌面推到了接近数据中心的量级。

新机潮：一周之内的三家对决​

2026 年 10 月上旬，边缘 AI 设备密集落地。微软 Surface Laptop Ultra 定价 $2,599，官方口径 AI 性能达竞品 Mac 的 2 倍、视频场景 6 倍，10 月 16 日发货；联想 YOGA Pro 15 RTX Spark 同日开售，预装天禧 AI 35B 本地模型，已有 100 余款软件完成适配；NVIDIA RTX Spark 笔记本预订同步开启，首发 OEM 覆盖 Dell、HP、Lenovo、Asus、MSI 等 8 家厂商，形态包括 30 余款笔记本与约 10 款桌面。

AMD 的回应是 Gorgon Halo：Ryzen AI Max 400 系列（Pro 495/490/485）最高 192GB 统一内存，通过 VGM 可变显存最多将 160GB 划给 GPU，单机离线运行 1000 亿参数级大模型——按官方口径可支持 300B 级模型的本地量化部署。它的差异化卖点是原生 x86、无模拟层，避开 Arm 方案在 Windows 上的 Prism 转译开销。

本地大模型的隐私经济学​

边缘算力下沉的驱动力不只是性能，还有隐私与成本的双重账本。站内 Ryzen AI Max Pro 495 规格卡记录了一个典型案例：艾美奖获奖 VR 工作室 LightSail VR 在锐龙 AI Max 桌面机上搭建"制作协调员" AI Agent，同时管理 6-9 个制作项目，相当于过去 2 个人力的工作量；由于全部本地运行，云费用为零，同样的工作量放云端每月 token 费用要数千美元。

这笔账可以推广：当一台 $4,999 的 DGX Spark 或一台 Pro 495 工作站能够离线承载千亿参数模型，敏感数据（报税文件、医疗记录、未发布的设计稿）不再需要上传云端，企业同时获得隐私合规与可预测的成本结构。本地 Agent 的边际成本趋近于零，这是云 API 定价模型无法做到的。

具身智能：边缘算力的第二战场​

机器人是 2026 年边缘 AI 最陡峭的增长曲线。国内动态方面，江苏昆山张浦一次性发布 12 款具身智能产品，覆盖轮足巡检、重载作业等场景，具身智能正从展会样机走向批量交付。海外方面，通用机器人大脑公司 FieldAI 完成 7 亿美元融资，估值达 100 亿美元，资本对"机器人的 GPT 时刻"下注明显。

NVIDIA 自己也在用机器人造机器人：其西雅图机器人实验室以 Flexiv Rizon 4S 协作臂搭配 UR10e，配合视觉-语言-动作（VLA）管线，实现了 GB300 测试托盘装配的自动化，官方口径成功率 95%。这个案例的意义在于示范了完整的机器人技能习得闭环——感知、决策、执行全部在端侧算力上运行。

具身智能对边缘芯片提出了 AI PC 完全不同的需求：低时延控制回路（毫秒级）、多模态感知融合、以及抗震动宽温的工业可靠性。这将是未来 2-3 年边缘芯片的第二增长极。

边缘-云协同架构​

金字塔的各层不是替代关系，而是协同关系。当前主流的分工模式是：云端完成模型训练与大规模推理（Rubin R200、MI455X 的主场），桌面超算承担本地 Agent 的常驻推理（DGX Spark/Station），AI PC 处理隐私敏感的个性化任务（RTX Spark、Ryzen AI Max），手机 NPU 兜底最高频的轻量推理。数据在层间按敏感度与时效性分流：原始数据尽量不出端，模型权重与更新从云端向下推送。

对开发者而言，这意味着一套模型需要在四层硬件上都有高效的运行时——从 CUDA 到 ROCm、从 ONNX 到各厂商 NPU SDK，跨平台部署能力正在取代单点性能成为边缘 AI 工程的核心竞争力。

小结​

2026 年 10 月的这波新品潮，标志着边缘 AI 完成了从"能跑 demo"到"能干活"的跨越：DGX Spark 把千亿美元参数级推理装进机顶盒大小的机身，Gorgon Halo 用 192GB 内存重新定义 AI PC 的上限，具身智能则把边缘算力推向了物理世界。边缘算力金字塔的四层结构已经成型，接下来的竞争焦点将从单机性能转向边缘-云协同的系统能力——谁能把算力放到离数据最近的地方，谁就赢得下一代 AI 交互的入口。

在国产 AI 芯片的版图里，燧原科技是一个特立独行的存在：它没有走英伟达确立的 GPGPU 路线，而是基于自研指令集的领域专用架构（DSA），从驱动、编译器到算子库全栈自研。这条路风险极高，但 S60 单款 16 万片的出货量证明，它至少在推理市场跑通了。

四代五芯：一条完整的产品时间线​

燧原成立于 2018 年，创始团队来自 AMD 与腾讯体系。七年间迭代了四代架构共 5 款云端 AI 芯片，且全部一次流片成功：

年份	芯片	产品	定位
2019	邃思 1.0	云燧 T10	第一代云端训练
2020	—	云燧 i10	第一代云端推理
2021	第二代	云燧 T20、i20	训练与推理双线，累计出货超 3 万片
2024	邃思 320	燧原 S60	第三代大规模推理
2025	邃思 400	燧原 L600	第四代训推一体

支撑这一体系的是三大自研技术：GCU-CARE 计算单元、面向训练集群的 GCU-LARE 片间互联，以及全栈自研的"驭算 TopsRider"软件平台。

S60：把推理成本打到极致​

S60 基于第三代 GCU320 芯片，据官方产品手册，单卡配备 48GB 显存、672 GB/s 显存带宽，最大功耗 300W。它的成功不在单点参数，而在系统级组合：2024 年发布后迅速部署于甘肃庆阳智算中心，建成国内首个国产万卡推理集群；截至 2026 年，累计出货达 16 万片，支撑超过 300 个应用场景，覆盖大语言模型、多模态、搜索广告推荐等负载，落地规模跻身国产 AI 加速卡第一梯队。

软件侧，燧原将 vllm-gcu 等大模型推理软件栈项目在 Gitee 开源，模型适配周期从早期的一两个月缩短到数天甚至数小时，并支持 DeepSeek-V4 等主流开源模型的极速适配。

腾讯样本：股东即客户的深度协同​

燧原与腾讯的关系是理解其商业模式的钥匙。腾讯既是第一大股东，也是第一大客户：2025 年前三季度，对腾讯销售（含指定最终客户模式）占比达七成以上，双方已签订单可执行至 2027 年。更深一层的是"芯模协同"——腾讯混元新一代开源模型在设计阶段就充分考虑燧原硬件特性，反向定制模型结构，让芯片与模型互相成就。这种把协同前置到模型设计阶段的模式，在国产芯片公司中相当罕见。

2025 年燧原营收近 10 亿元，三年复合增长率约八成；2026 年上半年营收已达 11.2 亿元。公司于 2026 年 9 月登陆科创板，拟募资的 60 亿元将投向第五代、第六代芯片研发。第四代训推一体产品 L600 预计出货量将大幅超越 S60。

小结：DSA 路线的阶段性胜利​

燧原的复盘说明：在推理这个对成本和能效极度敏感的市场，专用架构加上全栈自研完全可能打赢通用路线。风险同样存在——客户高度集中、训练侧仍需突破、生态规模与 CUDA 相去甚远。但对于建设国产万卡级推理集群的智算中心而言，S60 已经是经过大规模验证的成熟选项，而 L600 能否把这套打法复制到训推一体市场，是燧原的下一场考试。

GPU 是瑞士军刀，Etched 想做一把只切一种菜的刀。这家由哈佛辍学生创办的公司赌的是：既然超过九成生成式 AI 负载都是 Transformer，为什么还要为通用性付费？

把 Transformer 烧进硅片​

Sohu 是一颗只为 Transformer 设计的推理 ASIC，采用台积电 4nm 工艺。它的激进之处在于架构哲学：GPU 需要为 CUDA 图形、光栅化、通用 SIMD 等历史包袱保留大量面积，而 Sohu 把注意力机制、前馈网络、层归一化这些 Transformer 的标准操作直接固化为硬件数据流，省去控制逻辑与调度开销，把节省出的硅面积全部换成矩阵计算单元。

Etched 宣称由此带来极高的实际利用率（据其称真实负载下可达九成以上），这解释了其惊人的纸面数字：

指标	8 卡 Sohu 服务器（公司宣称）	8 卡 H100（对比口径）
Llama 70B 推理吞吐	超过 50 万 token/s	约 2.3 万 token/s
单芯片内存	144 GB HBM3E	80 GB HBM3
支持模型规模	经张量与专家并行可达 100 万亿参数	—
支持架构	仅限 Transformer 及其变体	通用

需要强调的是，这些数字均来自公司自述，尚缺乏独立第三方基准的全面验证，读者应将其视为方向性参考而非实测结论。

商业进展与资本故事​

Etched 2022 年成立，2023 年 3 月完成 540 万美元种子轮，2024 年 6 月由 Primary Venture Partners 与 Positive Sum 联合领投 A 轮，Peter Thiel 等天使参投；据公开报道，其累计融资超过 6 亿美元，估值一度达到约 50 亿美元量级。供应链方面与台积电合作流片，并与 Rambus 协作压缩芯片面积、加速上市节奏。

公司的软件策略同样是开源导向：宣称驱动、内核与服务栈将全部开源，开发者可以基于 PyTorch 生态直接迁移 Transformer 模型。目标客户是云厂商与高并发推理平台——实时语音智能体、代码树搜索、多播投机解码这类需要海量 token 吞吐的场景。

最大的风险：把所有鸡蛋放进 Transformer 的篮子​

专用化的反面是僵化。Sohu 不能运行 CNN、RNN 等非 Transformer 模型，混合负载的集群仍需 GPU 兜底；更深层的问题是架构演进风险——如果主流模型架构发生实质变化（比如状态空间模型或线性注意力大规模商用），已固化的硬件设计可能一夜贬值。这正是所有领域专用 ASIC 面临的经典困境：专用化红利与架构锁定风险的对称性。此外，从流片到大规模量产交付的工程爬坡，对一家年轻公司而言也是严峻考验。

小结与建议​

Sohu 代表了 AI 芯片光谱上最激进的一端：用架构锁定换取十倍量级的效率。判断其成败的关键时间窗口在未来一两年的实际交付与第三方评测。对采购方而言，现阶段合理的姿势是"小规模试点、窄场景验证"——选一个纯 Transformer、流量稳定、对成本敏感的推理业务做 PoC，用实测数据决定是否扩大部署；在软件成熟度得到验证之前，GPU 仍应作为混合架构的底座保留。

选型 AI 芯片时，最容易被数字晃点的地方就是算力表。同一颗 H100，有的页面写 990 TFLOPS，有的写 1979 TFLOPS，两个都没错——错的是拿来做对比的那个人。这篇文章把算力口径拆开讲清楚。

稠密与稀疏：恰好两倍的差距​

稠密（dense）算力指计算单元对每一对数据都做真实乘加时的峰值吞吐；稀疏（sparse）算力则假设输入矩阵里有一定比例的零可以被跳过。NVIDIA 自 Ampere 架构起支持 2:4 结构化稀疏：每四个权重里固定有两个为零，硬件直接跳过对应的乘加，峰值算力恰好翻倍。

以公开规格为例：

芯片（SXM）	BF16 稠密	BF16 稀疏	FP8 稠密	FP8 稀疏
A100 80GB	约 312 TFLOPS	约 624 TFLOPS	不支持	不支持
H100	约 990 TFLOPS	约 1979 TFLOPS	约 1979 TFLOPS	约 3958 TFLOPS

NVIDIA 官方数据表中标注的数字默认就是稀疏口径，并附有"不采用稀疏技术时规格降低一半"的脚注。问题在于，这个脚注在传播过程中经常被丢掉，于是 1979 就成了流传更广的那个数。

为什么"注水"能成立：真实负载很少吃到稀疏红利​

结构化稀疏要兑现收益，前提相当苛刻：模型必须经过配套的剪枝与微调，让权重收敛到 2:4 的稀疏模式，且精度损失可接受；推理软件栈还要支持稀疏数据布局。现实是，主流大模型的训练和推理几乎都以稠密方式运行，市面上真正把结构化稀疏打满的生产级部署屈指可数。换句话说，稀疏算力是一张"理论上限的支票"，多数负载兑不了现。

除了稀疏口径，规格表里还埋着几层口径差：精度档位（FP4 数字天然比 BF16 大数倍）、单芯还是整机（机柜级数字除以 GPU 数才有可比性）、峰值还是持续（散热和功耗墙会让持续算力明显低于峰值）。厂商倾向把对自己最有利的那一格放到宣传页首行，这不是造假，而是"选择性呈现"。

四步把规格表读出真实算力​

1. 统一精度：对比双方换算到同一精度档，BF16 对 BF16，FP8 对 FP8，绝不跨档比较。
2. 还原稠密值：看到带稀疏角标的数字，先除以二再进表。粗略经验是，宣传数字越大越可能是稀疏或低精度口径。
3. 确认统计边界：是单芯片、单模组还是整机柜数字；是否有双芯封装的合并口径。
4. 换算成业务指标：用你的模型参数量和显存带宽反推 tokens 上限，与标称算力互相校验。算力再高，喂不饱就是虚的。

小结​

稠密算力才是大多数真实负载能摸到的天花板，稀疏算力是需要软硬件全套配合的期权。选型时把所有候选芯片统一到"同精度、稠密、单芯"的口径上做对比，再用显存带宽和互连带宽交叉验证，就能过滤掉大部分注水成分。记住一条朴素规律：如果某个宣传数字比同代竞品高得离谱，先查它的口径，而不是急着惊叹。

Graphcore 是过去十年最值得研究的 AI 芯片公司之一——不是因为它的成功，而是因为它几乎预见了正确的未来，却倒在了黎明之前。

IPU：为机器智能重新设计的计算机​

Graphcore 2016 年成立于英国布里斯托，核心主张是：机器智能需要一种不同于 GPU 的计算机。其智能处理器（IPU）抛弃了显存分层，把所有计算组织成 1216 个独立处理器核心，全部依赖片上 SRAM 工作，通过大规模并行图计算模型处理神经网络。

产品节点	时间	关键特性
Colossus MK1（GC2）	2019 年	236 亿晶体管，1216 核，125 TFLOPS
Colossus MK2（GC200）	2020 年	7nm，大规模片上 SRAM，IPU-M2000
Bow IPU	2022 年	首款晶圆叠晶圆（Wafer-on-Wafer）3D 封装处理器，性能提升最高 40%
C600 加速卡	2022 年	FP8 560 TFLOPS，主打推理兼顾训练

Bow IPU 是被严重低估的技术成果：通过在计算晶圆上方直接叠一片供电晶圆，Graphcore 在不换工艺的情况下解决了 SRAM 密度与供电问题——这套思路比后来行业热捧的 3D 堆叠整整早了几年。配套的 Poplar 软件栈支持 PyTorch、飞桨等主流框架，公司一度进入腾讯云、金山云等中国平台。

为什么没跑出来​

Graphcore 的困境是生态竞争的经典案例。它面对的不是一颗英伟达芯片，而是 CUDA、软件库、云平台、服务器供应链与客户习惯的完整体系。2020 年其估值达到 27.7 亿美元的峰值，但商业化始终未能起量；2023 年起公司被迫收缩，关闭中国业务（受美国出口管制影响），寻找新融资屡屡受挫。2024 年 7 月 11 日，软银宣布收购 Graphcore，官方未披露价格，据当时媒体报道交易金额约在 5 亿至 6 亿美元之间——低于公司此前从投资人手中募得的总额。

并入软银后的现状​

收购之后，IPU 没有迭代出新一代产品，但公司本身获得了新生。软银的棋局很清晰：手握 Arm（架构）、2025 年 11 月收购的 Ampere（服务器 CPU）与 Graphcore（AI 加速器），组成所谓"硅三位一体"，为其在美国与日本的 AI 数据中心（包括星际之门项目）供应算力。

Graphcore 保留品牌、布里斯托总部与工程团队，公开定位转向"为软银打造下一代完整 AI 技术栈"，涵盖芯片、系统、编译器与基础设施。2025 年，公司宣布十年内在印度投资约 10 亿英镑，在班加罗尔新建工程中心并招聘约 500 名工程师；同年 8 月，联合创始人 Simon Knowles 离职。另据公开报道，2026 年 Meta 从 Graphcore 挖走了部分核心工程师，侧面印证了其人才价值。

小结与启示​

IPU 的故事有三点启示：第一，技术判断正确不等于商业成功，"比 GPU 更适合 AI"的论证打不过"比 CUDA 生态更差"的现实；第二，创业公司融资高企的估值若不能转化为收入，终局往往残酷；第三，被收购不是终点——IPU 的架构遗产与工程团队正以另一种方式参与 AI 基础设施的竞争。对关注 AI 芯片格局的读者来说，Graphcore 值得持续观察：它在软银体系内的下一步产品，可能决定这次收购是抄底还是止损。

10 月 8 日，The Information 披露了一则耐人寻味的消息：NVIDIA 计划投资推理芯片初创公司 d-Matrix——一家不折不扣的直接竞争对手。与此同时，光子推理系统 Volantis、光互连加速器 CScale、数据流架构 Efficient Computer 相继完成大额融资，快速推理硬件公司 Taalas 则被 AMD 收入囊中。推理芯片，这个曾经被视为"巨头夹缝"的细分市场，正在成为 AI 硬件创业与资本最密集的战场。

融资全景：一个月内的资本密度​

将 2026 年 10 月初的融资与合作动态汇总成表：

公司	技术方向	资本动态	金额
d-Matrix	数字 SRAM 推理芯片	NVIDIA 计划投资（条款未披露）	未披露
Volantis	光子推理系统	A 轮	8,800 万美元
CScale	加速器光互连	C 轮	1.45 亿美元
Efficient Computer	数据流架构	B 轮（估值 6.5 亿美元）	9,700 万美元
Taalas	快速推理硬件	被 AMD 收购	未披露

Volantis 的目标是 20 万亿参数级别的模型推理，主打成本与功耗效率，采用类 Face ID 的垂直腔面发射激光器连接 AI 芯片与内存；CScale 则押注光互连，试图从数据搬运环节重构加速器系统；Efficient Computer 的数据流架构彻底摒弃传统指令驱动的冯·诺依曼范式。技术路线百花齐放，但共同指向同一个市场：LLM 推理。

推理层为何成为创业富矿​

推理芯片创业热潮不是资本泡沫的偶然，而是三个结构性因素叠加的必然：

第一，LLM serving 是成本敏感型生意。 模型厂商与云厂商的推理成本以每百万 token 计价，规模效应下，哪怕 20% 的每 token 成本改善都意味着数亿美元的利润差异。训练市场拼的是"能不能训出来"，推理市场拼的是"谁更便宜更快"——后者为架构创新提供了清晰的回报公式。

第二，负载稳定，架构可固化。 训练负载随模型结构演进不断变化，通用 GPU 的灵活性不可替代；而推理负载（注意力、解码循环）高度稳定，专用架构可以针对固定计算模式做到极致优化——把模型结构"烧进"硬件，正是 Taalas"快速推理硬件"的立意所在。

第三，生态门槛相对最低。 训练深度绑定框架与算子生态，CUDA 护城河难以逾越；推理则可以通过 OpenAI 兼容 API 层屏蔽底层差异，客户迁移成本极低。创业公司在推理市场面对的是"性能与成本"的公平竞争，而非生态垄断。

霸主的收编模式：投资、收购与平台吸纳​

面对创业公司的围攻，NVIDIA 的应对不是封锁而是收编。梳理时间线可以看到一套完整的组合拳：

事件	方式	战略意图
收购 Groq（2026-Q1，约 200 亿美元）	全资收购	将 LPU 纳入 Rubin 平台，补全超低延迟推理
Groq 3 LPU 进入 Rubin 平台	产品整合	GPU 管 prefill、LPU 管 decode 的异构分工
计划投资 d-Matrix	少数股权	挑战者选择与 NVIDIA 合作而非独立竞争
OpenAI Jalapeño（博通代工）	客户自研	顶级客户自研 ASIC 分流需求
Meta MTIA（博通代工）	客户自研	同上

Groq 3 LPU 机架的参数体现了收编后的技术红利：256 颗 LPU、128GB 聚合 SRAM、40 PB/s 片上带宽，每兆瓦吞吐较 Blackwell 高 35 倍。NVIDIA 用一张 GPU 订单之外的"补充产品"回应了所有 SRAM 推理挑战者——既然你们证明了这个方向的价值，那就把它变成自己产品矩阵的一部分。

而投资 d-Matrix 是更精妙的一手：不收购、不控股，用少数股权把最具威胁的独立竞争者转化为生态内的合作者。对 d-Matrix 而言，接受 NVIDIA 入股意味着获得渠道、客户与供应保障；代价是独立叙事的终结。

出路分化：被收购、被投资、硬刚​

推理芯片创业公司的终局正在呈现三种模式：

模式一：被收购，融入巨头。 Taalas 被 AMD 收购，为其推理产品线注入 SRAM 架构能力；Groq 被 NVIDIA 收购后成为 Rubin 平台的第七颗芯片。创始人与投资人获得退出，技术获得最大规模的分发渠道，但品牌消失。

模式二：被投资，保持名义独立。 d-Matrix 接受 NVIDIA 入股，介于独立与融合之间——产品仍独立销售，但战略上已与霸主绑定。这类公司保留了差异化叙事，却让后续的客户中立性打了折扣。

模式三：硬刚，独立竞争。 Cerebras 是最典型的代表——晶圆级架构 + OpenAI 100 亿美元电力协议 + AMD 生态合作，坚持独立路线。风险是持续的高额研发投入与生态孤岛，回报则是在某一细分市场（如极致推理速度）建立不可替代的地位。光子路线的 Volantis、CScale 暂时也走在这条路上，资本尚在为他们输血。

独立生存空间的挤压与再定义​

必须指出，"收编"不等于"垄断"。巨头的吸纳行为恰恰验证了推理专用架构的价值，而自研 ASIC（OpenAI Jalapeño、Meta MTIA）与国内推理芯片的崛起也在持续分流需求。独立推理芯片公司的真实生存空间在于：巨头投资组合之外的客户中立性、特定场景的极致优化（超低延迟、超大模型、光子能效），以及地缘市场（如国产替代）的本土化需求。AI 推理市场的体量足以容纳多条技术路线——真正的问题是，独立公司能否在霸主收编完成之前，建立起自己的规模化客户基本盘。

小结​

d-Matrix 获 NVIDIA 入股是这个赛道的标志性事件：当最强挑战者选择与霸主合作，说明推理芯片战争的竞争逻辑已经从"技术对垒"转向"生态收编"。Volantis、CScale、Efficient Computer 的大额融资证明资本仍在押注架构创新，而 Taalas、Groq 的归宿则揭示了行业整合的大势。对创业者，出路分化为被收购、被投资、硬刚三条路，各有代价；对客户，短期利好是技术加速成熟与价格竞争，长期需警惕的是推理算力供应集中于少数巨头生态。这场浪潮的下一幕，取决于 Cerebras 们能否用独立叙事跑通商业闭环。