层次指数族能量模型中的神经采样
原文中文,约400字,阅读约需1分钟。发表于: 。Bayesian 脑理论探讨了大脑采用生成模型来理解外界世界。本研究提出了分层指数族能量模型(HEE...
本研究提出了分层指数族能量模型(HEE 模型),用于捕捉推断和学习的动态。通过将分区函数分解为个别层,并利用一组具有较短时间常数的神经元来采样分解归一化项的梯度,我们的模型能够同时估计分区函数并执行推断,避免了常规能量模型中遇到的负相位问题。此外,我们展示神经适应可以作为动量项,显著加快推断过程,以适应大脑的快速计算。在自然图像数据集上,我们的模型展示出与生物视觉系统中观察到的相似表示。此外,对于机器学习社区,我们的模型可以通过联合或边缘生成产生观测数据。我们表明边缘生成优于联合生成,并且与其他能量模型的表现相当。