w4a16 是 LLM 最经典的 weight-only 量化方案：权重压到 4bit，激活保持 16bit 高精度，GPTQ / AWQ 是主流实现算法。
命名里的 w 指 weight（权重），a 指 activation（激活值），数字是位宽。w4a16 = 权重 Weight 量化到 4bit 整数 + 激活 Activation 保持 FP16/BF16 的 16bit 精度，由 GPTQ 或 AWQ 做后训练量化（PTQ），只压缩模型权重。
推理时 4bit 权重先反量化回 16bit，再与 16bit 激活做矩阵乘法——计算全程在高精度下进行，量化影响的只是权重的存储与显存占用。Qwen3-MoE 开源量化的标配格式就是 w4a16。
显存节省只来自权重
激活不压缩，batch 或序列变长带来的激活显存占用不变，w4a16 省的只有权重那份。优势则在于生态成熟，绝大多数 GPU 都支持，工具链完善。