Transformer 神经自回归流

💡 原文中文,约200字,阅读约需1分钟。
📝

内容提要

本文介绍了逆自回归流的新型正则化流架构,它是基于自回归神经网络的可逆转换链。实验证明,逆自回归流在高维空间中改善了对角高斯近似后验的变分推断,并且结合逆自回归流的变分自编码器在对数似然度方面与神经自回归模型相当,且合成速度更快。

🎯

关键要点

  • 提出了一种新型正则化流架构——逆自回归流。
  • 逆自回归流基于自回归神经网络的可逆转换链。
  • 实验结果表明,逆自回归流改善了高维空间中对角高斯近似后验的变分推断。
  • 结合逆自回归流的变分自编码器在对数似然度方面与神经自回归模型相当。
  • 逆自回归流的合成速度显著更快。
➡️

继续阅读