本文综述变分推断的最新进展，涵盖均值场VI、可扩展VI、通用VI、准确VI与摊余VI，并展望未来方向。研究还涉及变分剪枝、Boosting VI、贝叶斯神经网络稳健推理、深度神经网络参数化先验、后验坍塌及BNN结构学习等，以提升推理效率与泛化能力。

该研究发现结合两个经验法则可以提高模型性能，避免后验坍塌。虽然该方法的 ELBO 较差，但在保留隐变量和对训练数据分布建模方面表现更好，传统的 VAE 目标函数可能无法平衡表示学习和数据分布建模。