神经网络表示中的聚类探测

💡 原文中文,约200字,阅读约需1分钟。
📝

内容提要

研究发现,神经网络训练中的设计选择会影响隐藏表示中的聚类。预训练模型在聚类时表现更好,尤其是预先训练于子类标签的模型。视觉变换器的子类聚类能力比 ResNet 低。

🏷️

标签

➡️

继续阅读