分类损失:Soft-F1
statistic
本文字数:767 字 | 阅读时长 ≈ 3 min

分类损失:Soft-F1

statistic
本文字数:767 字 | 阅读时长 ≈ 3 min

1. Soft-F1 是什么

假设同一张狗图在模型更新前后得到下面两组预测。

猫的概率 狗的概率 取概率最大的类别
更新前 0.9 0.1 猫
更新后 0.6 0.4 猫

计算常规 F1 时,先把每行概率转成一个预测类别。第一行里 \(0.9>0.1\),选猫。第二行里 \(0.6>0.4\),还是选猫。因此,两次都给狗记 1 次漏判,给猫记 1 次误报。如果其他图片的预测保持不变,F1 得分也一样。假设继续把狗的概率从 \(0.4\) 提高到 \(0.49\),最终预测仍然是猫,F1 得分仍停在原处。直接用 \(1-F1\) 做损失,这一段的损失曲线是平的,梯度为 0,模型就无法从这项损失得知继续提高狗的概率有助于纠正这次漏判。

Soft-F1 保留概率来计算这张图对 F1 的贡献。从“狗”这一类看,更新前,把 \(0.1\) 计入识别正确的部分,剩下的 \(0.9\) 计入漏判的部分;更新后,两部分变成 \(0.4\) 和 \(0.6\)。这就是软计数。损失可以随概率连续变化,模型在最终类别翻转之前就能得到训练信号。

2. Soft-F1 计算

以猫为例,\(TP\) 是正确识别为猫的数量,\(FP\) 是狗被误判成猫的数量,\(FN\) 是猫被漏判的数量。猫这一类的 F1 为

\[ F1=\frac{2TP}{2TP+FP+FN}. \]

把第 \(i\) 张图属于类别 \(c\) 的预测概率记为 \(p_{i,c}\),真实标签记为 \(y_{i,c}\in\{0,1\}\)。对当前 batch 的样本求和,用概率得到三项软计数:

\[ \begin{aligned} TP_c&=\sum_i y_{i,c}\,p_{i,c},\\ FP_c&=\sum_i(1-y_{i,c})\,p_{i,c},\\ FN_c&=\sum_i y_{i,c}\,(1-p_{i,c}). \end{aligned} \]

例如,一张真实猫图的猫概率为 \(0.9\),它为猫贡献 \(0.9\) 个软 \(TP\),剩下的 \(0.1\) 计入软 \(FN\)。将三项代回 F1 公式,就得到该类的 Soft-F1。训练时最小化

\[ L_{\mathrm{Soft\text{-}F1}} =1-\frac{\mathrm{Soft\text{-}F1}_{\text{猫}}+\mathrm{Soft\text{-}F1}_{\text{狗}}}{2}. \]

3. 两张图的手算例子

图片 真实类别 猫的概率 狗的概率
第一张 猫 0.9 0.1
第二张 狗 0.6 0.4

下图对软计数做计算,损失为 \(1-(0.7200+0.5333)/2\approx0.3733\)。先在 batch 内按类累加,再求各类的 F1,该例子的 batch 其实就是 2,一共选了两张图。

两张图片的猫狗概率构成软混淆矩阵。按猫、狗分别取出 TP、FP、FN,得到 Soft-F1 为 0.7200 和 0.5333,再用 1 减去平均值得到损失 0.3733。

4. PyTorch 实现

为复现表中的概率,这里取它们的自然对数作为示例 logits。训练时直接使用分类网络输出的 logits。

import torch
import torch.nn.functional as F

logits = torch.tensor([[0.9, 0.1], [0.6, 0.4]]).log()
labels = torch.tensor([0, 1])  # 0 为猫,1 为狗

probs = logits.softmax(dim=1)
targets = F.one_hot(labels, num_classes=probs.size(1)).to(probs.dtype)
tp = (targets * probs).sum(dim=0)
fp = ((1 - targets) * probs).sum(dim=0)
fn = (targets * (1 - probs)).sum(dim=0)
per_class_f1 = 2 * tp / (2 * tp + fp + fn).clamp_min(1e-8)
loss = 1 - per_class_f1.mean()
print(f"Macro Soft-F1 loss:{loss.item():.4f}")  # 0.3733