BriefGPT - AI 论文速递
·
$f$-MICL：理解和推广基于 InfoNCE 的对比学习
💡
原文中文，约300字，阅读约需1分钟。
📝
内容提要
本文介绍了深度聚类中相互信息作为无监督训练神经网络的客观标准的最大化并不能得到令人满意的聚类结果，并将核心距离更改为常见的挑战导致的原因。通过引入广义相互信息 (GEMINI) 来推广相互信息，它是一组用于无监督神经网络训练的指标。GEMINI 可以自动选择相关的聚类数目，这是在深度判别聚类上很少研究的一个特性。
🎯
关键要点
-
深度聚类中相互信息的最大化未能得到满意的聚类结果。
-
核心距离的更改是导致聚类挑战的原因之一。
-
引入广义相互信息 (GEMINI) 来推广相互信息。
-
GEMINI 是一组用于无监督神经网络训练的指标。
-
一些 GEMINI 在训练时不需要正则化，具有几何意识的距离或核函数。
-
GEMINI 可以自动选择相关的聚类数目，这是深度判别聚类中少有的研究特性。
➡️
