PyTorch中的CrossEntropyLoss()

💡 原文英文,约600词,阅读约需2分钟。
📝

内容提要

本文介绍了L1 Loss(MAE)、L2 Loss(MSE)、Huber Loss、BCE和Cross Entropy Loss的概念和用法。Cross Entropy Loss可以从输入张量和目标张量中计算出0D或更高维的零个或多个值(浮点数)。初始化参数包括权重、忽略索引、减少方式和标签平滑等。示例展示了使用类索引和类概率作为目标张量的情况。

Q&A

Cross Entropy Loss的主要用途是什么?

Cross Entropy Loss用于计算模型输出与目标之间的差异,常用于分类任务。

Cross Entropy Loss的初始化参数有哪些?

初始化参数包括权重、ignore_index、reduction和label_smoothing等。

如何处理目标张量与输入张量大小不同时的情况?

如果目标张量的大小与输入张量不同,则视为类索引;如果相同,则视为类概率。

在使用Cross Entropy Loss时,如何设置标签平滑?

标签平滑通过label_smoothing参数设置,值必须在[0, 1]之间。

Cross Entropy Loss在空输入时的返回值是什么?

空的输入和目标张量在reduction='mean'时返回nan,在reduction='sum'或'reduction='none'时返回-0。

Cross Entropy Loss如何处理类概率的目标张量?

类概率的目标张量应与输入张量大小相同,并且值应在[0, 1]之间。

🏷️

标签

➡️

继续阅读