深度变分多元信息瓶颈 —— 变分损失的框架
原文中文,约600字,阅读约需2分钟。发表于: 。通过信息论,我们提出了一个可以重新演绎和推广现有变分方法,并设计新方法的统一原则。我们的框架基于多变量信息瓶颈的解释,其中两个贝叶斯网络相互权衡。我们将第一个网络解释为编码器图,指定了在压缩数据时要保留哪些信息;我们将第二个网络解释为解码器图,为数据指定了生成模型。利用这个框架,我们重新演绎了现有的降维方法,如深度变分信息瓶颈 (DVIB),Beta 变分自动编码器 (beta-VAE)...
该文提出了一个基于信息论的框架,重新演绎和推广现有的变分方法,并设计了新的方法。该框架基于多变量信息瓶颈的解释,其中两个贝叶斯网络相互权衡。作者实现了所有这些算法,并在经过修改的噪声 MNIST 数据集上评估它们产生共享低维潜空间的能力。