AMD Instinct MI300X (CDNA 3)
产品概述
AMD Instinct MI300X 于 2024 年初发布，基于 CDNA 3 架构，采用 3D 小芯片（chiplet）封装。192GB HBM3 显存（约为 H100 的 2.4 倍），FP16 算力 1,307 TFLOPS。是 NVIDIA H100 / H200 的直接竞争对手。
核心规格
| 项目 | 参数 |
|---|
| 架构 | CDNA 3 |
| 制程 | TSMC 5nm + 6nm（混合） |
| 晶体管数 | 1,460 亿 |
| 显存 | 192 GB HBM3 |
| 显存带宽 | 5,300 GB/s |
| FP32 | 65.3 TFLOPS |
| FP64 | 32.6 TFLOPS |
| FP16/BF16 Matrix | 1,307 TFLOPS |
| FP8 Matrix | 2,614 TFLOPS |
| INT8 Matrix | 2,614 TOPS |
| TDP | 750 W |
| 互联 | Infinity Fabric 4.1（448 GB/s），PCIe 5.0 |
| 形式 | OAM（UBB 8 卡） |
MI300X vs H100 / H200
| 指标 | MI300X | H100 | H200 |
|---|
| 显存 | 192 GB | 80 GB | 141 GB |
| 显存类型 | HBM3 | HBM3 | HBM3e |
| 带宽 | 5.3 TB/s | 3.35 TB/s | 4.8 TB/s |
| FP16 算力 | 1,307 TFLOPS | 989 TFLOPS | 989 TFLOPS |
| FP8 算力 | 2,614 TFLOPS | 3,958 TFLOPS | 3,958 TFLOPS |
| TDP | 750 W | 700 W | 700 W |
| 价格 | ~$15,000 | ~$30,000 | ~$33,000 |
关键优势：显存大、价格低、ROCm 7 性能显著提升。
厂商信息
适用场景
- LLM 训练与推理（192GB 显存优势）
- MoE 模型（70B+ 可单卡加载）
- HPC 与 AI 混合负载
- 性价比敏感型客户
相关产品对比