主题建模的多目标对比优化
原文中文,约300字,阅读约需1分钟。
📝
内容提要
本研究提出了一种新的对比学习方法,通过将其作为基于梯度的多目标优化问题,实现了平衡ELBO和对比目标的帕累托稳定解。实验证明,该框架在主题连贯性、主题多样性和下游性能方面始终产生更高性能的神经主题模型。
🎯
关键要点
-
提出了一种新的对比学习方法
-
将对比学习方法作为基于梯度的多目标优化问题
-
实现了平衡ELBO和对比目标的帕累托稳定解
-
实验证明该框架在主题连贯性方面表现更好
-
该框架在主题多样性方面表现更好
-
该框架在下游性能方面表现更好
-
该方法适用于神经主题模型
🏷️