HBM 全称：High Bandwidth Memory（高带宽内存）。

它是一种3D堆叠式DRAM，专为AI训练、高端GPU、高性能计算设计，主打超高带宽、低功耗、高集成度。

核心特点

• 3D堆叠+TSV：多层DRAM垂直堆叠，用硅通孔（TSV）互连，再通过硅中介层与GPU/CPU紧密封装。
• 带宽极高：单栈位宽1024-bit，HBM3E单栈带宽超1TB/s，是DDR5的数十倍。
• 低功耗：传输路径短，单位bit功耗远低于GDDR/DDR。
• 高容量：单栈最高36GB，多栈可配TB级显存。

应用

主流用于NVIDIA H100/H200、AMD MI300等AI加速卡、高端GPU与超算，是大模型训练的核心硬件。

一句话：3D堆叠、超宽总线、TB级带宽的高端显存，AI算力的标配内存。