Focal Loss 通过降低易分类样本权重,使模型专注于困难样本,解决类别不平衡问题。
公式
参数:
- :模型对正确类别的预测概率
- :类别平衡参数
- :焦点参数(通常为 2)
原理
| 样本类型 | 损失权重 | ||
|---|---|---|---|
| 易分类 | 大 | 小 | 低 |
| 难分类 | 小 | 大 | 高 |
示例():
- 难分类样本():
- 易分类样本():
与交叉熵对比
标准交叉熵对所有样本一视同仁,Focal Loss 自动调整样本权重:
- :退化为标准交叉熵
- :越大,易分类样本权重越低
应用场景
- 目标检测(正负样本极不平衡)
- 图像分割(前景背景不平衡)
配合 可同时处理类别不平衡和样本难度不平衡。