nn.CrossEntropyLoss

原创 python pytorch

多分类交叉熵的原理、计算示例和 PyTorch 实现已合并到 分类损失：交叉熵与 BCE，这里保留几个使用要点。

1. 三个函数的关系

在普通类别索引标签和默认设置下，CrossEntropyLoss 等价于先做 LogSoftmax，再计算 NLLLoss。

• CrossEntropyLoss 接收模型输出的原始分数，不需要提前做 Softmax。
• LogSoftmax 将分数转换为对数概率。
• NLLLoss 接收对数概率，取真实类别对应的值，取负后默认求平均。

2. 输入与标签

普通单标签分类中，输入形状为 [B, C]，标签为 [B] 的 long 张量，取值是从 0 开始的类别索引。B 是样本数，C 是类别数。输出两个类别分数时，也可以用它处理二分类。

本文由 Yonghui Wang 创作，采用 知识共享署名4.0 国际许可协议进行许可
本站文章除注明转载/出处外，均为本站原创或翻译，转载前请务必署名
最后编辑时间为: Sep 06, 2026 12:03 pm