苏剑林多标签softmax分类loss源码解析
💡
原文中文，约1100字，阅读约需3分钟。
📝
内容提要
本文解析了苏剑林的多标签softmax分类损失函数源码，介绍了损失公式及其实现，重点在于多标签交叉熵的计算，强调y_pred不应加激活函数，以确保预测值的准确性。
🎯
关键要点
- 本文解析了苏剑林的多标签softmax分类损失函数源码。
- 介绍了损失公式及其实现，重点在于多标签交叉熵的计算。
- 损失公式为log(1+∑e^(s_i)) + log(1+∑e^(-s_j))。
- y_true和y_pred的shape一致，y_true的元素为0或1，表示目标类或非目标类。
- y_pred的值域应为全体实数，不应加激活函数，尤其是sigmoid或softmax。
- 预测阶段输出y_pred大于0的类。
- 源码中将正标签乘-1，负标签乘1以调整预测值。
- 计算两个loss，neg_loss和pos_loss，最终返回它们的和。
❓
延伸问答
多标签softmax分类损失函数的公式是什么？
损失公式为log(1+∑e^(s_i)) + log(1+∑e^(-s_j))。
y_pred在多标签softmax分类中应该如何处理？
y_pred的值域应为全体实数，不应加激活函数，尤其是sigmoid或softmax。
如何计算多标签分类的交叉熵损失？
通过计算两个loss，neg_loss和pos_loss，最后返回它们的和。
y_true和y_pred的shape有什么要求？
y_true和y_pred的shape必须一致，y_true的元素为0或1，表示目标类或非目标类。
源码中如何调整正负标签的预测值？
正标签乘-1，负标签乘1以调整预测值。
在预测阶段，如何确定输出的类？
预测阶段输出y_pred大于0的类。
➡️
