Skip to main content

Intel Gaudi 2 (Habana Labs)

产品概述​

Intel Gaudi 2 由 Intel 收购的 Habana Labs 开发，是面向深度学习训练和推理的专用加速器。最大的特点是集成了 24× 100GbE RDMA 网卡，无需额外购买 InfiniBand 或以太网卡即可构建大规模分布式训练集群。Gaudi 2 性能可与 NVIDIA H100 竞争，价格更优。

核心规格​

项目参数
架构Gaudi 2（Habana 定制）
制程TSMC 7nm
计算引擎24× TPC（Tensor Processor Core）
矩阵引擎2× MME（Matrix Multiplication Engine）
显存96 GB HBM2e
显存带宽2.46 TB/s
FP32N/A（推理路径）
BF16/FP16432 TFLOPS
FP8865 TFLOPS（AMD 估算）
INT8865 TOPS
TDP600 W
网络24× 100GbE RDMA（集成网卡）
PCIeGen 4 x16
形式OAM (HL-225H) / PCIe

厂商信息​

项目内容
制造商Intel Corporation（Habana Labs）
官网https://habana.ai
产品页https://habana.ai/products/gaudi2/
驱动/SDKhttps://developer.habana.ai/downloads/
SynapseAI SDKhttps://developer.habana.ai/

关键特性​

  • 集成 24× 100GbE 网卡：无需额外购置 InfiniBand
  • TPC + MME 异构计算：灵活处理矩阵与向量操作
  • OpenEthernet 标准：避免厂商锁定
  • MLPerf 基准验证：H100 的强劲替代

适用场景​

  • LLM 训练（百亿到千亿参数）
  • 大规模分布式训练集群
  • 多模态 AI

相关产品对比​